== Maschinelles Lernen - Theorie und Anwendung ==

'''Integrierte Vorlesung mit Übung'''

=== Termine und Dozenten ===

||<|2> '''Termin:''' || Vorlesung: Dienstag, 10:00 - 12:00 Uhr, Beginn 21.04.2008 ||
||Übung: Dienstag, 12.00 - 14.00 Uhr, Beginn 21.04.2008||
|| '''Raum:'''   || FR 1002 ||
|| '''Dozent:''' || Prof. Dr. Klaus-Robert Müller [ [[http://ml.cs.tu-berlin.de/en/klaus/index.html|link]] ]||
|| '''Ansprechpartner:''' || Dr. Mikio Braun [ [[http://ml.cs.tu-berlin.de/~mikio|link]] ]||

=== Themen ===

In dieser Vorlesungen werden weiterführende Themen des Maschinellen Lernens behandelt. Ein besonderer Schwerpunkt wird auf die Anwendung gelegt werden. Mehrere erfolgreiche Anwendungen des Maschinellen Lernens werden besprochen, und auf die jeweiligen Besonderheiten wird eingegangen. Unter anderem werden folgende Themen behabdelt:

   * halbüberwachtes Lernen
   * Boosting-Verfahren
   * Optimierungstheorie
   * Kernmethoden für strukturierte Daten
   * Lernen auf strukturierten Daten
   * Graphische Modelle

Beispiele für erfolgreiche Anwendungen sind unter anderem

   * Bioinformatik
   * Erkennen von Angriffen in Computernetzwerken
   * Textmining

=== Voraussetzungen ===

Vorausgesetzt werden Kenntnisse des Maschinellen Lernens (etwa im Rahmen der Veranstaltung [[Main/MaschinellesLernenW08|Maschinelles Lernen I]]) und gute Mathematikkenntnisse, insbesondere Wahrscheinlichkeitsrechnung, Statistik, Linear Algebra. Zur Bearbeitung der Übngsaufgaben sind Programmierkenntnisse in Matlab erforderlich, die im Kurs [[Main/SS09_MatlabKurs|Einführung in die computergestützte Datenanalyse mit Matlab]] vermittelt werden.

=== Weitere Informationen ===

Für die Lehre wurde eine [[http://groups.google.com/group/mikiobraun-lehre|Google-Group]] eingerichtet. Man muß sich registrieren, um die Beiträge lesen zu können, aber jeder kann sich registrieren.

=== Vorlesungsplan ===

Vorläufige Planung der Vorlesungen

|| '''Termin''' || '''Thema''' || '''Materialien''' ||
|| 21. April 2009 || Non-linear maps || [[http://www.cs.toronto.edu/~roweis/lle/|LLE]]  ||
|| 28. April 2009 || Non-linear maps, non-metric data, empirical kernel map  || Siehe auch "Introduction to Machine Learning", "Concepts of Probability for Machine Learning" [[Main/MaschinellesLernenW08|hier]]. Link zu [[http://ticc.uvt.nl/~lvdrmaaten/Laurens_van_der_Maaten/t-SNE.html|t-SNE]]||
|| 5. Mai 2009 || Wiederholung maschinelles Lernen || Folien [[attachment:recap2.pdf]] ||
|| 12. Mai 2009 || Halbüberwachtes Lernen und Anwendungen || Folien [[attachment:ssl2.pdf]] ||
|| 19. Mai 2009 || Kerne für strukturierte Daten || Folien [[attachment:structured2.pdf]] ||
|| 26. Mai 2009 || Maschinelles Lernen für Intrusion Detection || Folien [[attachment:intrusion.pdf]] ||
|| 2. Juni 2009 || Relevante Dimension im Kernelfeaturespace || Folien [[attachment:kld-tutorial.pdf]] ||
|| 9. Juni 2009 || Text Mining || Folien [[attachment:textmining.pdf]] ||
|| 16. Juni 2009 || Maschinelles Lernen in der Bioinformatik || Folien [[attachment:bioinf.pdf]] ||
|| 23. Juni 2009 || Maschinelles Lernen in der Bioinformatik || Folien [[attachment:bioinf.pdf]] ||
|| 30. Juni 2009 || Optimierungstheorie || Folien [[attachment:optim-intro.pdf]] ||
|| 7. Juli 2009 || Large Scale Learning || Folien [[attachment:largescale.pdf]] ||
|| 14. Juli 2009 || || ||
=== Übungen ===

Die Vorlesung wird in einer mündlichen Prüfung abgeprüft. Voraussetzung hierfür ist die erfolgreiche Teilnahme an der Übung. Dies bedeutet, dass 50% der Übungsaufgaben erfolgreich bearbeitet werden müssen und mindestens eine Aufgabe an der Tafel erklärt werden muß.

 * Übungsblatt 1: [[attachment:sheet01.pdf]]
 * Übungsblatt 2: [[attachment:sheet02.pdf]] [[attachment:sheet02.m|Programmskelett sheet02.m]]
 * Übungsblatt 3: [[attachment:sheet03.pdf]] [[attachment:sheet03.m|Programmskelett sheet03.m]]
 * Übungsblatt 4: [[attachment:sheet04.pdf]] (korrigierte Version) [[attachment:sheet04.m|Programmskelett sheet04.m]]
 * Übungsblatt 5: [[attachment:sheet05.pdf]]
 * Übungsblatt 6: [[attachment:sheet06.pdf]] [[attachment:sheet06.m|Programmskelett sheet06.m]] [[attachment:stud-data.mat.gz]]
 * Übungsblatt 7: [[attachment:sheet07.pdf]] [[attachment:sheet07.m|Programmskelett sheet07.m]]
 * Übungsblatt 8: [[attachment:sheet08.pdf]] [[attachment:sheet08.py|Programmskelett sheet08.py]] [[attachment:sheet08.m|Programmskelett sheet08.m]] [[attachment:data.tar.gz]]
 * Übungsblatt 9: [[attachment:sheet09.pdf]]
 * Übungsblatt 10: [[attachment:sheet10.pdf]] [[attachment:sheet10.m|Programmskelett sheet10.m]] [[attachment:splice.zip|Splice-Datensatz]]
 * Übungsblatt 11: [[attachment:sheet11.pdf]] [[attachment:sheet11.m|Programmskelett sheet11.m]] [[https://ml01.zrz.tu-berlin.de/~mikio/alpha_train_x.txt.bz2|alpha_train_x.txt.bz2]] [[https://ml01.zrz.tu-berlin.de/~mikio/alpha_train_y.txt.bz2|alpha_train_y.txt.bz2]]