I dette kursus bliver de studerende introducedet til etiske udfordringer forbundet med kunstig intelligens, samt værktøjer til at forstå og undersøge dem. Hovedtemaer i kurset inkluderer paradigmer for og begrænsninger ved maskinlæring (epistemologi), fairness og bias, samt forklarbar kunstig intelligens. Aktuelle state-of-the-art emner og nye publikationer fra relevante ML-konferencer og -tidsskrifter bliver udvalgt og diskuteret i detaljer. Deltagerne implementerer prototyper af diskuterede algoritmer og præsenterer sine observationer og resultater i rapporter eller præsentationer.

Kursets mål er et etablere og forstærke de studerendes know-how indenfor tre vigtige emner for ansvarlig AI. En studerende, der opfyldets kursets læringsmål, vil være i stand til at: En studerende, der fuldt ud har opfyldt kursets mål, vil kunne:

• forklare hvad kunstig intelligens betyder, diskutere og identificere almindelige antagelser vi ofte laver, samt identificere hvilke vi bør undgå for at bygge AI ansvarligt,
• undersøge, identificere og diskutere problemer ved AI-systemer på en ansvarlig måde i og udenfor vores eget fagdomæne,
• give en oversigt over udfordringer og state-of-the-art metoder til fairness og bias der kan opstå når man udvikler og deployer AI,
• diagnosticere bias i prædiktiv og generativ AI,
• være bekendt med almindelige kilder til bias, og kunne mitigere bias i prædiktiv og generativ AI ved enten at tilpasse modelleringen, eller ved at anvende mitigations-teknikker fra algoritmisk fairness,
• forstå de mest almindelige typer af explainable AI modeller, og diskutere deres styrker og svagheder,
• anvende explainable AI-modeller i reelle scenarier for prædiktiv og generativ AI, og fortolke deres forklaringer,
• læse forskningsartikler med både teknisk og etisk indhold, forstå dem, og præsentere deres indhold,
• præsentere analyser og resultater skriftlig.

Kurset vil bestå af tre dele:
Den første del af kurset vil handle om epistemologi i maskinlæring, model-fitting versus kunstig intelligens, Bayesianske problemer og generativ AI. Fairness-delen vil gennemgå klassiske metoder fra algorithmic fairness og deres begrænsninger og mulige løsninger. Til sidst vil vi lære om forskellige paradigmer for forklarbar AI, så som saliency og prototype-baserede metoder, deres anvendelsesområder, og deres validering, Vi vil diskutere og eksperimentere med forklarbarhed i generativ AI. Som en del af dette, vil vi diskutere de filosofiske antagelser der laves i forklarbar AI og lave en gennemgang af AI-etik. 02. maj, 2025