Einführung in die lineare Algebra für Computerlinguistik
Kursbeschreibung
| Studiengang | Modulkürzel | Leistungs- bewertung |
|---|---|---|
| BA-2010[100%|75%] | CS-CL | 6 LP |
| BA-2010[50%|25%] | BS-CL, BS-AC | 4 LP |
| NBA[100%|75%] | CS-CL | 6 LP |
| NBA[50%|25%] | BS-CL, BS-AC | 4 LP |
| Magister | - | - |
| Dozenten/-innen | Sascha Fendrich |
| Veranstaltungsart | Vorlesung |
| Erster Termin | 25.04.2012 |
| Zeit und Ort | Mi, 14:15–15:45, INF 325 / SR 24 (SR) |
| Tutorium | Felix Hieber Mi, 16:00-17:30, INF 327 / SR 1 |
Teilnahmevoraussetzungen
- Formale Grundlagen
- Einführung in die Statistk
- Einführung in die Logik
- Mathematische Grundlagen aus Schule oder Vorkurs
Leistungsnachweis
regelmäßige Teilnahme, je nach Teilnehmerzahl Klausur oder mündliche Prüfung
Inhalt
Die Vorlesung behandelt grundlegende Themen der linearen Algebra. Die Kenntnis dieser mathematischen Grundlagen ist wichtig, um die algebraischen Methoden zu verstehen, die z.B. in den Bereichen des maschinellen Lernens, des Information Retrieval oder der distributionellen Semantik eingesetzt werden. Mögliche Themenbereiche der Vorlesung sind:
Theorie:
- Vektorräume
- Lineare Abbildungen
- Skalarprodukt
- Hyperebenen
- Mehrdimensionale Ableitungen/Gradient
- Determinanten
- Eigenwerte und Eigenvektoren
Anwendungen:
- SVD
- PCA
- SVMs
Aktuelles
- ab 11.07. finden keine Make-Up-Sessions mehr statt
- 05.07.: Große Skriptkorrektur von Sitzung 4
- 28.06.: Skript-Update von Sitzung 7
- 20.06.: Literatur-Update.
- ab 16.05., 14:00-14:15: Erstsemester Make-up
- 31.05.: Skript-Update von Sitzung 4
Kursübersicht
Seminarplan
| Datum | Sitzung | Materialien |
| 25.04. | 1. Orga, Einführung | Folien, Skript, Übung 1, Lösung |
| 02.05. | 2. Algebraische Strukturen | Skript, Übung 2, Lösung |
| 09.05. | 3. Vektorräume, Matrizen | Skript, Übung 3 |
| 16.05. | 4. Unterräume, Span, Basen | Skript++, Übung 4 |
| 23.05. | 5. Lineare Gleichungssysteme, Eigenwerte und Eigenvektoren | Skript, Übung 5 |
| 30.05. | 6. Basistransformation, Matrix-Inversion | Skript, Übung 6 |
| 06.06. | 7. Singulärwertzerlegung, Hauptkomponentenanalyse | Skript+, Übung 7, Lösung, Tutorial |
| 13.06. | 8. PCA Demo (Bildkompression), LSA, Mehrdimensionale Ableitungen | Skript, Übung, simple_pca.m, LSA1 |
| 20.06. | 9. Optimierung am Beispiel der Supportvektor-Maschine | Skript, Übung, Lösung |
| 27.06. | 10. Konvexe Optimierung | Skript, Übung 10 |
| 04.07. | 11. Dualität | s. Skript 10, Übung 11 |
| 11.07. | 12. Ausführliches Anwendungsbeispiel | Paper, kein Übungsblatt |
| 18.07. | 13. Fragestunde | |
| 25.07. | 14. Klausur |
+ Update
1 Landauer & Dumais, 1997.
Literatur
- Jede Einführung in die lineare Algebra (z.B. Gerd Fischer oder Klaus Jänich)
- Kirk Baker (2005). Singular Value Decomposition Tutorial.
- Landauer and Dumais (1997). A Solution to Plato's Problem: The Latent Semantic Analysis Theory of Acquisition, Induction and Representation of Knowledge. Psychological Review, Vol 104(2), Apr 1997, 211-240.
- Turney and Pantel (2010). From Frequency to Meaning: Vector Space Models of Semantics. Journal of Artificial Intelligence Research 37 (2010) 141-188.
- Stephen Boyd and Lieven Vandenberghe: Convex Optimization, Cambridge University Press, 2004. Online: http://www.stanford.edu/~boyd/cvxbook/
