Overordnede kursusmål
I dette kursus bliver de studerende introducedet til etiske
udfordringer forbundet med kunstig intelligens, samt værktøjer til
at forstå og undersøge dem. Hovedtemaer i kurset inkluderer
paradigmer for og begrænsninger ved maskinlæring (epistemologi),
fairness og bias, samt forklarbar kunstig intelligens. Aktuelle
state-of-the-art emner og nye publikationer fra relevante
ML-konferencer og -tidsskrifter bliver udvalgt og diskuteret i
detaljer. Deltagerne implementerer prototyper af diskuterede
algoritmer og præsenterer sine observationer og resultater til
kurset.
Kursets mål er et etablere og forstærke de studerendes know-how
indenfor tre vigtige emner for ansvarlig AI. En studerende, der
opfyldets kursets læringsmål, vil være i stand til at:
Læringsmål
En studerende, der fuldt ud har opfyldt kursets mål, vil kunne:
- forklare hvad kunstig intelligens betyder, diskutere og
identificere almindelige antagelser vi ofte laver, samt
identificere hvilke vi bør undgå for at bygge AI ansvarligt,
- undersøge, identificere og diskutere problemer ved AI-systemer
på en ansvarlig måde i og udenfor vores eget fagdomæne,
- give en oversigt over udfordringer og state-of-the-art metoder
til fairness og bias der kan opstå når man udvikler og deployer
AI,
- diagnosticere bias i prædiktiv og generativ AI,
- være bekendt med almindelige kilder til bias, og kunne mitigere
bias i prædiktiv og generativ AI ved enten at tilpasse
modelleringen, eller ved at anvende mitigations-teknikker fra
algoritmisk fairness,
- forstå de mest almindelige typer af explainable AI modeller, og
diskutere deres styrker og svagheder,
- anvende explainable AI-modeller i reelle scenarier for
prædiktiv og generativ AI, og fortolke deres forklaringer,
- læse forskningsartikler med både teknisk og etisk indhold,
forstå dem, og præsentere deres indhold,
- præsentere analyser og resultater skriftlig.
Kursusindhold
Kurset vil bestå af tre dele:
Den første del af kurset vil handle om epistemologi i maskinlæring,
model-fitting versus kunstig intelligens, Bayesianske problemer og
generativ AI. Fairness-delen vil gennemgå klassiske metoder fra
algorithmic fairness og deres begrænsninger og mulige løsninger.
Til sidst vil vi lære om forskellige paradigmer for forklarbar AI,
så som saliency og prototype-baserede metoder, deres
anvendelsesområder, og deres validering, Vi vil diskutere og
eksperimentere med forklarbarhed i generativ AI. Som en del af
dette, vil vi diskutere de filosofiske antagelser der laves i
forklarbar AI og lave en gennemgang af AI-etik.
Sidst opdateret
02. maj, 2024