Dyb læring (DL) har ændret computeres formåen til at fortolke naturlige signaler. Forbedret billedbehandling med DL har gjort selvkørende biler mulige og har gjort medicinsk billeddiagnostik mere præcis. Talegenkendelse og tekstanalyse med DL vil give os nye intelligente applikationer indenfor sundhedsområdet og IT. Mønstergenkendelse i store datasæt med DL leder i disse år til udvikling af værktøjer til opdagelse af ny medicin, systemovervågning og mange andre datadrevne anvendelser.

Formålet med kurset er at give den studerende en detaljeret forståelse for arkitekturer for og træning af dybe kunstige neurale netværk samt værktøjer til hurtig beregning på grafiske processeringsenheder (GPUer). Den studerende vil lære at at forstå begrænsninger og hvordan man formulerer læring i mange sammenhænge. Det inkluderer klassifikation, regression, sekvens- og andet struktureret data og reinforcement learning. En studerende, der fuldt ud har opfyldt kursets mål, vil kunne:

• Demonstrere viden om maskinlæringsterminologi såsom likelihood funktion, maksimum likelihood, Bayesiansk inferens, feed-forward, convolutional og recurrent neural netværk og error back propagation.
• Forstå og forklar valg og begrænsninger af model for en given anvendelse.
• Anvende og analysere resultater fra dybe neural netværk anvendt i øvelser og eget projektarbejde.
• Planlægge, afgrænse og udførelse et anvendt eller metodeorienteret projekt i samarbejde med medstuderende og vejleder.
• Vurdere og opsummere projektresultater i relation til formål, metode og anvendt data.
• Udføre projektet og fortolke resultater ved brug af GPU beregningsværtøjer såsom Theano/​TensorFlow/​PyTorch.
• Strukturere og skrive en endelig kort teknisk rapport indeholdende problemformulering, beskrivelse af metoder, eksperimenter, evaluering og konklusion.
• Organisere og præsentere projektresultater ved projektfremlæggelsen og i rapporten.
• Læse, vurdere og give feedback til arbejde af andre studerende.

Kursusplan uge 1-6:
1. Introduktion til statistisk maskinlæring, feed-forward neural netværk (FFNN) og back-propagation.
2. Convolutional neural netværk (CNN), præsentation og valg af studenterprojekter.
3. Recurrent neurale netværk (RNN).
4. I praktisk indføring i at få det til at virke og værktøjer til beregning på grafiske beregning enheder (GPU).
5. Variationelle metoder til ikke-superviseret og semi-superviseret læring.
6. En introduktion til reinforcement læring.

De resterende uger af semesteret bliver brugt på projektarbejde. Ian Goodfellow, Yoshua Bengio and Aaron Courville, Deep learning, MIT Press, in preparation. Preprint http:/​/​www.deeplearningbook.org/​
Michael Nielsen, Neural networks and deep learning, http:/​/​neuralnetworksanddeeplearning.com/​ Dyb læring (eng deep learning) er en fællesbetegnelse for en type statistiske modeller der ligger bag fremskridt indenfor vigtige områder i kunstig intelligens såsom tale- og billedgenkendelse. Udviklingen er drevet af fremskridt i computerkraft, adgang til stadig større mængder træningsdata og nye algoritmer. Man vil i de kommende år kunne forvente at disse metoder vil føre til tekniske fremskridt indenfor mange datadrevne områder. Dyb læring har derfor i disse år stor akademisk og industriel bevågenhed.

Dette maskinlæringskursus har fokus på værktøjer for beregning og anvendelse. Projektarbejdet bliver udført i samarbejde med forskere på DTU Compute og/eller en virksomhed.

Kurset er en del af fokusområdet Machine Learning and Signal Processing under Master of Mathematical Modelling and Computing uddannelsen. 26. juni, 2018