Ruprecht-Karls-Universität Heidelberg
Institut für Computerlinguistik

Bilder vom Neuenheimer Feld, Heidelberg und der Universität Heidelberg

Formale Grundlagen der Computerlinguistik: Mathematische Grundlagen

Kursbeschreibung

Studiengang Modulkürzel Leistungs-
bewertung
BA-2010 FF-FM 6 LP
NBA FF-FM 6 LP
Magister - -
Dozenten/-innen Yannick Versley
Veranstaltungsart Vorlesung/Übung
Erster Termin 24.04.2015
Zeit und Ort Mi, 14:1515:45, INF 306 / SR 19 (SR)
Commitment-Frist 15.07.2015
Klausurtermin: 29.7.2015, 14:00

Teilnahmevoraussetzungen

keine

(empfohlen: Einführung in die Computerlinguistik, Einführung in die Logik)

Leistungsnachweis

  • aktive Teilnahme
  • erfolgreiche Bearbeitung der Übungsaufgaben
  • Bestehen der Klausur

Inhalt

Die Veranstaltung vermittelt eine Einführung in die formalen Methoden, die für die Modellierung von computerlinguistischen Problemen grundlegend sind, und ihre Anwendung auf ausgewählte Probleme in der Computerlinguistik.

Wesentliche Inhalte:

  • Diskrete Strukturen
  • Wahrscheinlichkeitsverteilungen, statistische Tests
  • Folgen, Konvergenz, Stetigkeit
  • Ableitungen mehrdimensionaler Funktionen, Skalarprodukte, Eigenwerte
  • Probabilistische Graphische Modelle

Kursübersicht

Seminarplan

Datum Sitzung Materialien
24.04.2015 Einführung, Monoide, Halbringe Folien
29.04.2015 Vektoren, Ordnungsrelationen Folien
Aufgabe 1 (bis 12.05.)
gf5.txt gf5_mul.txt
z6.txt z6_mul.txt
06.05.2015 Normen, Folgen, Stetigkeit, lineare Abbildungen Folien
13.05.2015 Mehr zu Ableitungen Folien
Aufgabe 2 (bis 26.5.)
20.05.2015 Wahrscheinlichkeiten I Folien
Aufgabe 3 (bis 2.6.)
10k_passwords.txt
27.05.2015 Wahrscheinlichkeiten II Folien
Aufgabe 4 (bis 16.6.; korrigierte Version)
Monkey Language, Buchstabenverteilungen
10.06.2015 Wahrscheinlichkeiten III Folien
Aufgabe 5 (bis 23.6.)
17.06.2015 Eigenwerte Folien
Aufgabe 6 (bis 30.6.)
count_matrix.py
24.06.2015 Inferenz, Schätzer, Tests Folien
Aufgabe 7 (bis 7.7.)
01.07.2015 (Cross-)Entropie, KL-Divergenz Folien
Aufgabe 8 (bis 14.7.; Bonuspunkte)
08.07.2015 Hidden Markov Models Folien
15.07.2015
14-18h
Faktorgraphen
Wiederholung
Folien
Alle Fazit-Folien
Probeklausur (SoSe 2014)
22.07.2015 Wiederholungs- und Fragesitzung
(YV auf Dienstreise, Vertretung durch MME und JH)

Literatur

Literatur, zur Anschaffung empfohlen:

  • Klaus Jänich: Lineare Algebra (als eBook verfügbar)
  • Ehrhard Behrends: Analysis, Band 1 (als eBook verfügbar)
  • Christopher Manning und Hinrich Schütze: Foundations of Statistical Natural Language Processing

Literatur, ergänzend:

  • Daphne Koller und Nir Friedman: Probabilistic Graphical Models: Principles and Techniques
  • Ehrhard Behrends, Elementare Stochastik (als eBook verfügbar)
Auf die eBooks können Sie vom Uni-Netz aus ohne Passwort zugreifen. Zum Schmökern in Hängematte und Badewanne (und auch sonst) ist die Papierversion natürlich besser geeignet.

» weitere Kursmaterialien

» Tutoriumsseite

zum Seitenanfang