Differences between revisions 6 and 48 (spanning 42 versions)
Revision 6 as of 2011-10-12 21:16:40
Size: 4327
Editor: FranzKiraly
Comment:
Revision 48 as of 2012-03-30 12:10:25
Size: 6310
Editor: FranzKiraly
Comment:
Deletions are marked like this. Additions are marked like this.
Line 1: Line 1:
= Vorlesung Einführung in Maschinelles Lernen = = Maschinelles Lernen I =
Line 5: Line 5:
Es handelt sich um eine integrierte Vorlesung mit Übung. Dieser Kurs ist eine Basisveranstaltung. Siehe auch den [[https://lsf.zuv.tu-berlin.de/qisserver/servlet/de.his.servlet.RequestDispatcherServlet?state=wsearchv&search=2&veranstaltung.veranstid=98075&purge=y|Eintrag im Vorlesungsverzeichnis]] Die integrierte Vorlesung "Maschinelles Lernen 1" ist eine Pflichtveranstaltung im Modul "Maschinelles Lernen 1" und umfasst 6 LP. Detailliertere Informationen zur Veranstaltung und zum Modul finden sich im [[http://lsf.zuv.tu-berlin.de/qisserver/servlet/de.his.servlet.RequestDispatcherServlet?state=verpublish&status=init&vmfile=no&publishid=121809&moduleCall=webInfo&publishConfFile=webInfo&publishSubDir=veranstaltung|Vorlesungsverzeichnis]] und im [[http://www.eecs.tu-berlin.de/menue/studium_und_lehre/informationsmaterial/modulhandbuecher/|Modulhandbuch]].
Line 8: Line 8:
||'''Raum'''||FR 7039|| ||'''Raum'''||FR 3035||
Line 10: Line 10:
||'''Raum'''||FR 7039||
||<(^|2>'''Dozenten'''||[[http://www.ml.tu-berlin.de/menue/mitglieder/klaus-robert_mueller/|Prof. Dr. Klaus-Robert Müller]]||
||[[http://mikiobraun.de|Franz Király]]||
||'''Raum'''||FR 3035||
||<(^|2>'''Dozenten'''||[[http://www.ml.tu-berlin.de/menue/mitglieder/klaus-robert_mueller/|Prof. Dr. Klaus-Robert Müller]] (Verantwortlicher)||
||[[http://www.ml.tu-berlin.de/menue/mitglieder/franz_kiraly/|Dr. Franz Király]] (Ansprechpartner)||
Line 16: Line 16:
Line 19: Line 18:
Die Vorlesung behandelt einführende Themen im Bereich des maschinellen Lernens. Die Vorlesung behandelt einführende Themen im Bereich des Maschinellen Lernens.
Line 25: Line 24:
Kenntnisse in Linearer Algebra und Grundkenntnisse in Wahrscheinlichkeitsrechnungsind werden '''''vorausgesetzt'''''. Zur Lösung eines Teils der Hausaufgaben werden Kenntnisse in Matlab benötigt. Matlab ist auf dem vom irb verwalteten System installiert und kann mit `/home/ml/ml/bin/matlab` gestartet werden. Vorausgesetzte Vorkenntnisse für die Veranstaltung sind:
   * Grundlagenwissen in der Linearen Algebra und Analysis, entsprechend den Modulen Lineare Algebra und Analysis
   * Grundkenntnisse in der Wahrscheinlichkeitstheorie, entsprechend dem Modul Elementare Stochastik
   * Grundlegende Programmierkenntnisse, Umgang mit Matlab

Nützliche, aber nicht notwendige Vorkenntnisse (entsprechend Modulen):
   * Lineare Algebra II
   * Analysis II und III
   * Stochastik I und II
   * Computerorientierte Mathematik I und II
   * Funktionalanalysis
   * Numerik I
   * Diskrete Mathematik I

=== Leistungsnachweis und Prüfungsrelevanz ===

Eine erfolgreiche Teilnahme an dieser Integrierten Vorlesung sowie mindestens einer Wahlpflichtveranstaltung sind Voraussetzung für die Anmeldung zur Modulprüfung Maschinelles Lernen 1. Der Stoff der Modulprüfung besteht aus dem Stoff der Vorlesung und der Übungen sowie des Wahlpflichtteils.

Erfolgreich an der Integrierten Vorlesung teilgenommen hat wer:

   * Mindestens 50% der Übungspunkte auf den Übungsblättern erhalten hat.
   * Mindestens 50% der Aufgaben zum Vorrechnen bzw. Erklären votiert hat. In der Regel gelten genau die Aufgaben als votiert, in denen mindestens 30% der Übungspunkte erzielt wurden; die Anwesenheit ist dabei zum Votieren erforderlich. Nach vorheriger Rücksprache kann davon im Einzelfall abgewichen werden.
   * Mindestens eine votierte Aufgabe richtig vorgerechnet hat.
   * Gemäß Studienordnung zur Teilnahme an der Integrierten Vorlesung "Maschinelles Lernen 1" berechtigt ist und keines der Ausschlusskriterien erfüllt.

Für die Ausstellung eines Leistungsnachweises ist ein Studium, eine Nebenhörerschaft oder eine Gasthörerschaft an der TU Berlin Voraussetzung. Für die Anerkennung als Studienleistung für ein Hochschulstudium ist ein Studium oder eine Nebenhörerschaft an der TU Berlin erforderlich.
Line 29: Line 53:
Die Vorlesung wird mit einer mündlichen Prüfung abgeschlossen. Voraussetzung hierfür ist die erfolgreiche Teilnahme an der Übung. Dies bedeutet, dass 50% der Übungsaufgaben erfolgreich bearbeitet werden müssen und mindestens eine Aufgabe an der Tafel erklärt werden muss. Die Übungen finden jeden Donnerstag nach der Vorlesung in FR 3035 statt. Die Übungskoordination erfolgt über das [[https://www.isis.tu-berlin.de|ISIS-System]] der TU. Für die Anmeldung ist ein tubIT-Konto erforderlich. Als Neben- oder Gasthörer kann man dieses bei der [[http://www.tubit.tu-berlin.de|tubIT]] erhalten. Dazu muss unter persönlicher Vorlage einer gültigen Neben- oder Gasthörerbescheinigung im [[http://www.tubit.tu-berlin.de/index.php?id=1810|tubIT-Laden]] ein Provisionierungsverfahren beantragt werden.
Line 31: Line 55:
Einige Hinweise zu den Abgaben: Die ISIS-Diskussionsforen können für Fragen zur Veranstaltung und zu den Übungen in Anspruch genommen werden - die Verantwortlichen bemühen sich um eine zeitnahe Beantwortung der offenen Fragen.
Line 33: Line 57:
   1. Die Übungsblätter sind jede Woche bis '''Dienstag 10:00''' im Briefkasten vor Raum FR6061 abzugeben.
   1. Die Lösungen zu theoretischen Aufgaben sind '''handschriftlich''' abzugeben.
   1. Die praktischen Aufgaben sollen per Email ('''franz.j.kiraly@tu-berlin.de''') und in Papierform abgegeben werden.
   1. Die Übungsblätter dürfen in festen Zweiergruppen bearbeitet und abgegeben werden.
Matlab ist auf dem vom IRB verwalteten System installiert und kann mit `/home/ml/ml/bin/matlab` gestartet werden. Die Computer des IRB lassen sich nur mit einem IRB-Login nutzen, der für Nutzer eines tubIT-Kontos beim [[http://www.eecs.tu-berlin.de/irb|IRB]] elektronisch [[http://www.eecs.tu-berlin.de/irb/v-menu/dienste_irb-login/migration_zum_tub-login/|beantragbar]] ist.
Line 38: Line 59:
Darüber hinaus beachtet bitte folgende Hinweise: Abgabemodalutäten:
Line 40: Line 61:
   * Die Lösungen sollten gut erklärt und strukturiert sein. Insbesondere sollte Programmcode auch ausreichend dokumentiert und den üblichen Konventionen entsprechend formatiert sein (z.B. Einrückungen).
   * Natürlich müssen die Lösungen selbst erarbeitet und niedergeschrieben werden. Selbst wenn man sich "Anregungen" besorgt hat, muß der Lösungsweg selbst verstanden und unabhängig niedergeschrieben werden. Wörtliche Kopien anderer Lösungen oder aus dem Internet sind ein Vergehen, für das entsprechende Konsequenzen vorgesehen sind.
   * Es kommt immer wieder vor, dass Studenten die Übungsaufgaben bearbeiten wollen, aber aus terminlichen Gründen nicht an der Übung selbst teilnehmen können. Bitte klärt das mit Eurem Übungsleiter ab und holt Eure Lösungen regelmäßig ab, um den Lernerfolg sicherzustellen.
   * Die Lösungen zu den Aufgaben sind jeweils in der darauffolgenden Woche bis '''Mittwoch 10:00 MEZ''' einzureichen.
   * Die Lösungen zu den theoretischen Aufgaben sind '''handschriftlich''' im Briefkasten vor Raum FR 6061 abzugeben.
   * Die Abgabe der Lösungen zu den praktischen Aufgaben erfolgt über [[https://www.isis.tu-berlin.de|ISIS]].
   * Die Übungen dürfen in festen Zweiergruppen bearbeitet und abgegeben werden.
Line 44: Line 66:
=== Literatur und Links === Bei der Abgabe der Lösungen ist Folgendes zu beachten:
Line 46: Line 68:
Folgene Bücher geben eine umfassende Einführung in den Bereich des Maschinellen Lernens.    * Die Lösungen sollten gut erklärt und strukturiert sein: Mathematische Beweise müssen genügend erklärenden Text erhalten, die die Beweisstrategie und die gezogenen Schlussfolgerungen verdeutlichen. Programmcode muss ausreichend dokumentiert und den üblichen Konventionen entsprechend formatiert sein. Insbesondere ist auf eine lesbare Namensgebung und eine - visuell wie konzeptionell - klare Struktur zu achten.
   * Die Lösungen müssen selbst erarbeitet und niedergeschrieben werden. Natürlich ist es nicht verboten, über die Aufgaben und ihre Lösung zu diskutieren. Handfester Betrug wie wörtliches Übernehmen von Passagen oder Verwenden von Lösungen aus dem Internet kann mit der Nichtanerkennung von Leistungen bis hin zum Nichtbestehen geahndet werden.
   * Falls eine rechtzeitige Abgabe aufgrund höherer Gewalt nicht möglich ist, sollte das möglichst vorher mit dem Übungsleiter abgesprochen werden. Im Härtefall kann das dann für die Bestehensgrenze berücksichtigt werden.
Line 48: Line 72:
   * Christopher M. Bishop (2006) ''Pattern Recognition And Machine Learning'' , Springer.
   * Richard O. Duda, Peter E. Hart, David G. Stork (2001) ''Pattern Classification'' , Wiley (2. Auflage).
   * Trevor Hastie, Robert Tibshirani, Jerome Friedman (2001) The Elements of Statistical Learning, Springer.
=== Online-Kursangebot ===
Line 52: Line 74:
Folgende Bücher geben eine umfassende Einführung in die Wahrscheinlichkeitstheorie und in die Statistik.

   * G. Bamberg, F. Baur (2006) ''Statistik'', Oldenbourg-Verlag, 12. Auflage
   * L. Fahrmeir, R. Künstler, I. Pigeot, G. Tutz (2004) ''Statistik'' , Springer, 5. Auflage
   * L. Wasserman (2004) ''All of Statistics'', Springer

Die wichtigsten Gleichungen für das Rechnen mit Matrizen und insbesondere die Ableitungsregeln für höherdimensionale Funktionen findet man hier:

   * K. B. Petersen, M. S. Pedersen (2007) ''The Matrix Cookbook''. Technical University of Denmark [ [[http://www2.imm.dtu.dk/pubdb/views/publication_details.php?id=3274|externer link]] ]

=== Terminplan ===

|| '''Datum''' || '''Thema''' || '''Material''' ||
|| 20. 10. 2010 || Einführung || ||

== Übungszettel ==

   * Blatt 1
Ein thematischer Terminplan, Übungsblätter, Literatur und Weiteres findet sich auf der [[https://www.isis.tu-berlin.de/course/view.php?id=5659|ISIS-Seite]] des Kurses. Außerdem gibt es dort die Möglichkeit, an Diskussionen teilzunehmen und Fragen zum Kurs zu stellen.

Maschinelles Lernen I

Termine und Informationen

Die integrierte Vorlesung "Maschinelles Lernen 1" ist eine Pflichtveranstaltung im Modul "Maschinelles Lernen 1" und umfasst 6 LP. Detailliertere Informationen zur Veranstaltung und zum Modul finden sich im Vorlesungsverzeichnis und im Modulhandbuch.

Vorlesung

Donnerstags, 10 - 12 (ab 20.10.2011)

Raum

FR 3035

Übung

Donnerstags, 12 - 14 (ab 20.10.2011)

Raum

FR 3035

Dozenten

Prof. Dr. Klaus-Robert Müller (Verantwortlicher)

Dr. Franz Király (Ansprechpartner)

Sprechzeiten

Prof. Dr. Klaus-Robert Müller: nach Vereinbarung

Dr. Franz Király: nach Vereinbarung

Themen

Die Vorlesung behandelt einführende Themen im Bereich des Maschinellen Lernens.

Im Anschluss an die Vorlesung findet die Übung statt, in der die erlernten Methoden vertieft werden.

Vorkenntnisse

Vorausgesetzte Vorkenntnisse für die Veranstaltung sind:

  • Grundlagenwissen in der Linearen Algebra und Analysis, entsprechend den Modulen Lineare Algebra und Analysis
  • Grundkenntnisse in der Wahrscheinlichkeitstheorie, entsprechend dem Modul Elementare Stochastik
  • Grundlegende Programmierkenntnisse, Umgang mit Matlab

Nützliche, aber nicht notwendige Vorkenntnisse (entsprechend Modulen):

  • Lineare Algebra II
  • Analysis II und III
  • Stochastik I und II
  • Computerorientierte Mathematik I und II
  • Funktionalanalysis
  • Numerik I
  • Diskrete Mathematik I

Leistungsnachweis und Prüfungsrelevanz

Eine erfolgreiche Teilnahme an dieser Integrierten Vorlesung sowie mindestens einer Wahlpflichtveranstaltung sind Voraussetzung für die Anmeldung zur Modulprüfung Maschinelles Lernen 1. Der Stoff der Modulprüfung besteht aus dem Stoff der Vorlesung und der Übungen sowie des Wahlpflichtteils.

Erfolgreich an der Integrierten Vorlesung teilgenommen hat wer:

  • Mindestens 50% der Übungspunkte auf den Übungsblättern erhalten hat.
  • Mindestens 50% der Aufgaben zum Vorrechnen bzw. Erklären votiert hat. In der Regel gelten genau die Aufgaben als votiert, in denen mindestens 30% der Übungspunkte erzielt wurden; die Anwesenheit ist dabei zum Votieren erforderlich. Nach vorheriger Rücksprache kann davon im Einzelfall abgewichen werden.
  • Mindestens eine votierte Aufgabe richtig vorgerechnet hat.
  • Gemäß Studienordnung zur Teilnahme an der Integrierten Vorlesung "Maschinelles Lernen 1" berechtigt ist und keines der Ausschlusskriterien erfüllt.

Für die Ausstellung eines Leistungsnachweises ist ein Studium, eine Nebenhörerschaft oder eine Gasthörerschaft an der TU Berlin Voraussetzung. Für die Anerkennung als Studienleistung für ein Hochschulstudium ist ein Studium oder eine Nebenhörerschaft an der TU Berlin erforderlich.

Übungen

Die Übungen finden jeden Donnerstag nach der Vorlesung in FR 3035 statt. Die Übungskoordination erfolgt über das ISIS-System der TU. Für die Anmeldung ist ein tubIT-Konto erforderlich. Als Neben- oder Gasthörer kann man dieses bei der tubIT erhalten. Dazu muss unter persönlicher Vorlage einer gültigen Neben- oder Gasthörerbescheinigung im tubIT-Laden ein Provisionierungsverfahren beantragt werden.

Die ISIS-Diskussionsforen können für Fragen zur Veranstaltung und zu den Übungen in Anspruch genommen werden - die Verantwortlichen bemühen sich um eine zeitnahe Beantwortung der offenen Fragen.

Matlab ist auf dem vom IRB verwalteten System installiert und kann mit /home/ml/ml/bin/matlab gestartet werden. Die Computer des IRB lassen sich nur mit einem IRB-Login nutzen, der für Nutzer eines tubIT-Kontos beim IRB elektronisch beantragbar ist.

Abgabemodalutäten:

  • Die Lösungen zu den Aufgaben sind jeweils in der darauffolgenden Woche bis Mittwoch 10:00 MEZ einzureichen.

  • Die Lösungen zu den theoretischen Aufgaben sind handschriftlich im Briefkasten vor Raum FR 6061 abzugeben.

  • Die Abgabe der Lösungen zu den praktischen Aufgaben erfolgt über ISIS.

  • Die Übungen dürfen in festen Zweiergruppen bearbeitet und abgegeben werden.

Bei der Abgabe der Lösungen ist Folgendes zu beachten:

  • Die Lösungen sollten gut erklärt und strukturiert sein: Mathematische Beweise müssen genügend erklärenden Text erhalten, die die Beweisstrategie und die gezogenen Schlussfolgerungen verdeutlichen. Programmcode muss ausreichend dokumentiert und den üblichen Konventionen entsprechend formatiert sein. Insbesondere ist auf eine lesbare Namensgebung und eine - visuell wie konzeptionell - klare Struktur zu achten.
  • Die Lösungen müssen selbst erarbeitet und niedergeschrieben werden. Natürlich ist es nicht verboten, über die Aufgaben und ihre Lösung zu diskutieren. Handfester Betrug wie wörtliches Übernehmen von Passagen oder Verwenden von Lösungen aus dem Internet kann mit der Nichtanerkennung von Leistungen bis hin zum Nichtbestehen geahndet werden.
  • Falls eine rechtzeitige Abgabe aufgrund höherer Gewalt nicht möglich ist, sollte das möglichst vorher mit dem Übungsleiter abgesprochen werden. Im Härtefall kann das dann für die Bestehensgrenze berücksichtigt werden.

Online-Kursangebot

Ein thematischer Terminplan, Übungsblätter, Literatur und Weiteres findet sich auf der ISIS-Seite des Kurses. Außerdem gibt es dort die Möglichkeit, an Diskussionen teilzunehmen und Fragen zum Kurs zu stellen.

IDA Wiki: Main/WS11_MaschinellesLernen1 (last edited 2012-03-30 12:10:25 by FranzKiraly)