02517 Ansvarlig AI: ALgoritmisk fairness og forklarbarhed

2024/2025

Kursusinformation
Responsible AI: Algorithmic fairness and explainability
Engelsk
5
Kandidat
Kurset udbydes som enkeltfag
Retningsspecifikt kursus (MSc), Human-Centered Artificial Intelligence
Teknologisk specialisering (MSc), Human-Centered Artificial Intelligence
E2B (tors 8-12)
Campus Lyngby
Kurset vil bestå af forelæsninger, diskussioner, og praktiske øvelser, Det bliver struktureret omkring tre emner, som alle starter med en introduktion af etablerede metoder, som gpr videre til at læse og diskutere state-of-the-art forskningsartikler, og til sidst en praktisk case-implementation baseret på de besøgte metoder.
13-uger
E2B
Skriftlig og mundtlig eksamen
Skriftlig eksamen: 2 timer
Alle hjælpemidler - uden adgang til internettet
7-trins skala , intern bedømmelse
02450/02456 , Vi forventer at de studerende er i stand til at implementere og træne maskinlæringsmodeller fra udleveret data, inkluderet deep learning modeller.
Aasa Feragen , afhar@dtu.dk
Siavash Arjomand Bigdeli , Lyngby Campus, Bygning 324 , sarbi@dtu.dk
01 Institut for Matematik og Computer Science
I studieplanlæggeren
Overordnede kursusmål
I dette kursus bliver de studerende introducedet til etiske udfordringer forbundet med kunstig intelligens, samt værktøjer til at forstå og undersøge dem. Hovedtemaer i kurset inkluderer paradigmer for og begrænsninger ved maskinlæring (epistemologi), fairness og bias, samt forklarbar kunstig intelligens. Aktuelle state-of-the-art emner og nye publikationer fra relevante ML-konferencer og -tidsskrifter bliver udvalgt og diskuteret i detaljer. Deltagerne implementerer prototyper af diskuterede algoritmer og præsenterer sine observationer og resultater til kurset.

Kursets mål er et etablere og forstærke de studerendes know-how indenfor tre vigtige emner for ansvarlig AI. En studerende, der opfyldets kursets læringsmål, vil være i stand til at:
Læringsmål
En studerende, der fuldt ud har opfyldt kursets mål, vil kunne:
  • forklare hvad kunstig intelligens betyder, diskutere og identificere almindelige antagelser vi ofte laver, samt identificere hvilke vi bør undgå for at bygge AI ansvarligt,
  • undersøge, identificere og diskutere problemer ved AI-systemer på en ansvarlig måde i og udenfor vores eget fagdomæne,
  • give en oversigt over udfordringer og state-of-the-art metoder til fairness og bias der kan opstå når man udvikler og deployer AI,
  • diagnosticere bias i prædiktiv og generativ AI,
  • være bekendt med almindelige kilder til bias, og kunne mitigere bias i prædiktiv og generativ AI ved enten at tilpasse modelleringen, eller ved at anvende mitigations-teknikker fra algoritmisk fairness,
  • forstå de mest almindelige typer af explainable AI modeller, og diskutere deres styrker og svagheder,
  • anvende explainable AI-modeller i reelle scenarier for prædiktiv og generativ AI, og fortolke deres forklaringer,
  • læse forskningsartikler med både teknisk og etisk indhold, forstå dem, og præsentere deres indhold,
  • præsentere analyser og resultater skriftlig.
Kursusindhold
Kurset vil bestå af tre dele:
Den første del af kurset vil handle om epistemologi i maskinlæring, model-fitting versus kunstig intelligens, Bayesianske problemer og generativ AI. Fairness-delen vil gennemgå klassiske metoder fra algorithmic fairness og deres begrænsninger og mulige løsninger. Til sidst vil vi lære om forskellige paradigmer for forklarbar AI, så som saliency og prototype-baserede metoder, deres anvendelsesområder, og deres validering, Vi vil diskutere og eksperimentere med forklarbarhed i generativ AI. Som en del af dette, vil vi diskutere de filosofiske antagelser der laves i forklarbar AI og lave en gennemgang af AI-etik.
Sidst opdateret
02. maj, 2024