Bilder vom Neuenheimer Feld, Heidelberg und der Universität Heidelberg

Lehrveranstaltungen
heiCO
Ressourcen	Fachschaft
Studien-FAQ	Technik-FAQ

Statistical Methods for Computational Linguistics

Kursbeschreibung

Studiengang	Modulkürzel	Leistungs- bewertung
BA-2010	FF-SM	6 LP

Dozenten/-innen	Michael Staniek
Veranstaltungsart	Vorlesung / Übung
Sprache	Deutsch
Erster Termin	16.10.2023
Zeit und Ort	Vorlesung: Montags, 15:15–16:45, INF 327 / SR 1 Tutorium (Jakob): Donnerstags, 10:15–11:45, INF 327 / SR 1
Commitment-Frist	tbd.

Fachliche Voraussetzungen

Erfolgreicher Abschluss des Kurses "Formale Grundlagen der Computerlinguistik: Mathematische Grundlagen"

Teilnehmerkreis

Für Studierende der Computerlinguistik (mind 25%) sowie für Studierende des Bsc/Msc Informatik, Bsc Mathematik und Msc Scientific Computing, die Computerlinguistik als Anwendungsgebiet gewählt haben. Andere Studierende sind nicht zugelassen.

Leistungsnachweis

Bearbeitung der Übungsaufgaben
Klausur
Regelmäßige Teilnahme an Vorlesung und Übung wird empfohlen

Inhalt

Die Vorlesung stellt zentrale Konzepte des statistischen maschinellen Lernens vor, und exemplifiziert diese anhand einfacher Aufgaben aus der automatischen Sprachverarbeitung. Der Fokus der Vorlesung liegt einerseits auf der Vermittlung theoretischer Fundamente maschinellen Lernens, andererseits auf der praktischen Umsetzung in effiziente Lernalgorithmen.

Mögliche Themenbereiche der Vorlesung sind:

Loss/Risk-Funktionen
Optimierung
Regularisierung
Lineare/Nicht-Lineare Modelle
Online/Batch Algorithmen

Literatur

Schölkopf & Smola (2002). Learning with Kernels. Support Vector Machines, Regularization, Optimization, and Beyond. MIT Press.
Abney (2008). Semisupervised Learning. Chapman & Hall.
Kulkarni, Harman (2011). An Elementary Introduction to Statistical Learning Theory. Wiley.
Hastie, Tibshirani, Friedman (2011). The Elements of Statistical Learning. Data Mining, Inference, and Prediction. Springer.
Kevin Murphy (2012). Machine Learning. A Probabilistic Perspective. MIT Press.
Kyunghyun Cho (2015). Natural Language Understanding with Distributed Representations. Lecture Notes.
Ian Goodfellow, Yoshua Bengio, Aaron Courville (2016). Deep Learning. MIT Press.