Vorlesung: Einführung in die Informations- und Lerntheorie (BA-INF 118)

Wintersemester 2015/16

Die "klassische Informationstheorie" beschäftigt sich mit der Frage, welche Information benötigt wird, damit der Empfänger aus dem bekannten Universum aller möglichen Botschaften die richtige Botschaft auswählt. Einen anderen Ansatz erhalten wir, wenn das Maß an Information nur in Abhängigkeit der individuellen Botschaft, also nicht in Relation zu einem gegebenen Universum von möglichen Botschaften, definiert wird. Diesen Weg geht die "algorithmische Informationstheorie". In der Praxis hat man häufig folgendes Problem zu lösen: Gegeben einen String, möchte man die darin enthaltene relevante Information extrahieren. Hierzu benötigt man eine Antwort auf folgende fundamentale Frage: Was muss man a priori über unbekannte funktionale Abhängigkeiten wissen, um diese aufgrund von Beobachtungen schätzen zu können? Damit beschäftigt sich u.a. die "statistische Lerntheorie". Ziel der Vorlesung ist es, eine Einführung in die Informationstheorie und in die Lerntheorie zu geben.

Termin:

Di+Do, 08:15-10:00 Uhr, A207

Start der Vorlesung:

Di, 20.10.2015

Letzte Vorlesung:

Do, 04.02.2016

Übungsbetrieb:

Di. oder Do. 10-12, Raum A7b

Übungsblätter:

Vorlesungsnotizen

Weiterführende Literatur

Kolmogorov Complexity and its Applications: lecture notes by Alexander Shen. pdf/ps.gz

Fragen?

Bei Fragen zu den Übungen wenden Sie sich bitte an Adrian Schmitz.