Maschinelles Lernen I

Termine und Informationen

Die integrierte Vorlesung "Maschinelles Lernen 1" ist eine Pflichtveranstaltung im Modul "Maschinelles Lernen 1" und umfasst 6 LP. Detailliertere Informationen zur Veranstaltung und zum Modul finden sich im Vorlesungsverzeichnis und im Modulhandbuch.

Themen

Die Vorlesung behandelt einführende Themen im Bereich des Maschinellen Lernens.

Im Anschluss an die Vorlesung findet die Übung statt, in der die erlernten Methoden vertieft werden.

Vorkenntnisse

Vorausgesetzte Vorkenntnisse für die Veranstaltung sind:

• Grundlagenwissen in der Linearen Algebra und Analysis, entsprechend den Modulen Lineare Algebra und Analysis
• Grundkenntnisse in der Wahrscheinlichkeitstheorie, entsprechend dem Modul Elementare Stochastik
• Grundlegende Programmierkenntnisse, Umgang mit Matlab

Nützliche, aber nicht notwendige Vorkenntnisse (entsprechend Modulen):

• Lineare Algebra II
• Analysis II und III
• Stochastik I und II
• Computerorientierte Mathematik I und II
• Funktionalanalysis
• Numerik I
• Diskrete Mathematik I

Leistungsnachweis und Prüfungsrelevanz

Eine erfolgreiche Teilnahme an dieser Integrierten Vorlesung sowie mindestens einer Wahlpflichtveranstaltung sind Voraussetzung für die Anmeldung zur Modulprüfung Maschinelles Lernen 1. Der Stoff der Modulprüfung besteht aus dem Stoff der Vorlesung und der Übungen sowie des Wahlpflichtteils.

Erfolgreich an der Integrierten Vorlesung teilgenommen hat wer:

• Mindestens 50% der Übungspunkte auf den Übungsblättern erhalten hat.
• Mindestens 50% der Aufgaben zum Vorrechnen bzw. Erklären votiert hat. In der Regel gelten genau die Aufgaben als votiert, in denen mindestens 30% der Übungspunkte erzielt wurden; die Anwesenheit ist dabei zum Votieren erforderlich. Nach vorheriger Rücksprache kann davon im Einzelfall abgewichen werden.
• Mindestens eine votierte Aufgabe richtig vorgerechnet hat.
• Gemäß Studienordnung zur Teilnahme an der Integrierten Vorlesung "Maschinelles Lernen 1" berechtigt ist und keines der Ausschlusskriterien erfüllt.

Für die Ausstellung eines Leistungsnachweises ist ein Studium, eine Nebenhörerschaft oder eine Gasthörerschaft an der TU Berlin Voraussetzung. Für die Anerkennung als Studienleistung für ein Hochschulstudium ist ein Studium oder eine Nebenhörerschaft an der TU Berlin erforderlich.

Übungen

Die Übungen finden jeden Donnerstag nach der Vorlesung in FR 3035 statt. Die Übungskoordination erfolgt über das ISIS-System der TU. Für die Anmeldung ist ein tubIT-Konto erforderlich. Als Neben- oder Gasthörer kann man dieses bei der tubIT erhalten. Dazu muss unter persönlicher Vorlage einer gültigen Neben- oder Gasthörerbescheinigung im tubIT-Laden ein Provisionierungsverfahren beantragt werden.

Die ISIS-Diskussionsforen können für Fragen zur Veranstaltung und zu den Übungen in Anspruch genommen werden - die Verantwortlichen bemühen sich um eine zeitnahe Beantwortung der offenen Fragen.

Matlab ist auf dem vom IRB verwalteten System installiert und kann mit /home/ml/ml/bin/matlab gestartet werden. Die Computer des IRB lassen sich nur mit einem IRB-Login nutzen, der für Nutzer eines tubIT-Kontos beim IRB elektronisch beantragbar ist.

Abgabemodalutäten:

• Die Lösungen zu den Aufgaben sind jeweils in der darauffolgenden Woche bis Dienstag 10:00 MEZ einzureichen.

• Die Lösungen zu den theoretischen Aufgaben sind handschriftlich im Briefkasten vor Raum FR 6061 abzugeben.

• Die Abgabe der Lösungen zu den praktischen Aufgaben erfolgt über ISIS.

• Die Übungen dürfen in festen Zweiergruppen bearbeitet und abgegeben werden.

Bei der Abgabe der Lösungen ist Folgendes zu beachten:

• Die Lösungen sollten gut erklärt und strukturiert sein: Mathematische Beweise müssen genügend erklärenden Text erhalten, die die Beweisstrategie und die gezogenen Schlussfolgerungen verdeutlichen. Programmcode muss ausreichend dokumentiert und den üblichen Konventionen entsprechend formatiert sein. Insbesondere ist auf eine lesbare Namensgebung und eine - visuell wie konzeptionell - klare Struktur zu achten.
• Die Lösungen müssen selbst erarbeitet und niedergeschrieben werden. Natürlich ist es nicht verboten, über die Aufgaben und ihre Lösung zu diskutieren. Handfester Betrug wie wörtliches Übernehmen von Passagen oder Verwenden von Lösungen aus dem Internet aber zeugt von einem falschen Verständnis der vereinzelten Wahrnehmung eines Kairos, und wird kann daher mit der Nichtanerkennung von Leistungen bis hin zum Nichtbestehen geahndet.
• Falls eine rechtzeitige Abgabe aufgrund höherer Gewalt nicht möglich ist, sollte das möglichst vorher mit dem Übungsleiter abgesprochen werden. Im Härtefall kann das dann für die Bestehensgrenze berücksichtigt werden.

Literatur und Links

Folgene Bücher geben eine umfassende Einführung in den Bereich des Maschinellen Lernens.

• Christopher M. Bishop (2006) Pattern Recognition And Machine Learning , Springer.

• Richard O. Duda, Peter E. Hart, David G. Stork (2001) Pattern Classification , Wiley (2. Auflage).

• Trevor Hastie, Robert Tibshirani, Jerome Friedman (2001) The Elements of Statistical Learning, Springer.

Folgende Bücher geben eine umfassende Einführung in die Wahrscheinlichkeitstheorie und in die Statistik.

• G. Bamberg, F. Baur (2006) Statistik, Oldenbourg-Verlag, 12. Auflage

• L. Fahrmeir, R. Künstler, I. Pigeot, G. Tutz (2004) Statistik , Springer, 5. Auflage

• L. Wasserman (2004) All of Statistics, Springer

Die wichtigsten Gleichungen für das Rechnen mit Matrizen und insbesondere die Ableitungsregeln für höherdimensionale Funktionen findet man hier:

• K. B. Petersen, M. S. Pedersen (2007) The Matrix Cookbook. Technical University of Denmark [ externer link ]

Terminplan

Übungszettel

• Blatt 1