Künstliche Intelligenz und Big Data

Erklären Sie mit eigenen Worten den Unterschied zwischen traditioneller Programmierung (von einem Menschen geschriebene Regeln) und maschinellem Lernen (aus Beispielen gelernte Regeln) und nennen Sie je eine Anwendung, für die der jeweilige Ansatz besser geeignet ist.

Erklären Sie, was ein „Modell“ im maschinellen Lernen ist (die aus den Daten gelernten Muster und Parameter) und worin der Unterschied zwischen Training und Anwendung (Inferenz) besteht. Warum erfordert das Training viel mehr Rechenleistung als die Anwendung?

Erklären Sie mit einer einfachen Analogie, was ein künstliches neuronales Netz ist: Schichten von „Neuronen“, die Eingaben mit einstellbaren Gewichten kombinieren. Was wird während des Trainings angepasst und was bedeutet es, dass das Netz „lernt“?

Ordnen Sie diese drei Begriffe vom allgemeinsten zum spezifischsten: Deep Learning, künstliche Intelligenz, maschinelles Lernen. Erklären Sie die Enthaltenseinsbeziehung zwischen ihnen mit je einem Beispiel pro Ebene.

Nennen Sie fünf alltägliche Dienste, die heute maschinelles Lernen nutzen (Karten und Verkehr, Übersetzer, Videoempfehlungen, Sprachassistenten, Spamfilter), und geben Sie jeweils an, welche Eingabedaten das Modell verwendet.

Was ist beim überwachten Lernen das Label (die Zielgröße) eines Datenpunkts? Nennen Sie drei Beispiele für gelabelte Datensätze (Foto → Katze/Hund, E-Mail → Spam/kein Spam, Sensor → gesund/defekt) und erklären Sie, wer die Labels üblicherweise erstellt und welche Kosten das verursacht.

Erklären Sie den Unterschied zwischen überwachtem, unüberwachtem und bestärkendem Lernen und ordnen Sie diese Anwendungen zu: ein mit gelabelten E-Mails trainierter Spamfilter, die Gruppierung von Kunden nach Kaufgewohnheiten ohne Labels und ein Roboter, der durch Versuch und Irrtum laufen lernt.

Schlagen Sie zur Vorhersage des Stromverbrauchs eines Gebäudes mindestens sechs Eingangsvariablen vor (Außentemperatur, Tageszeit, Werktag oder Feiertag, Belegung, Verlauf des Vortags, Sonneneinstrahlung) und begründen Sie jede. Erklären Sie, was Feature Engineering ist und warum es oft mehr entscheidet als der gewählte Algorithmus.

Unterscheiden Sie zwischen einem Klassifikationsproblem (eine Kategorie vorhersagen) und einem Regressionsproblem (eine Zahl vorhersagen). Ordnen Sie diese Aufgaben zu: den Preis einer Wohnung schätzen, entscheiden, ob ein Röntgenbild einen Knochenbruch zeigt, die Temperatur von morgen vorhersagen und Nachrichten nach Thema gruppieren.

Ein System lernt mit $80\,\%$ der Daten und wird mit den verbleibenden $20\,\%$ bewertet. Erklären Sie, was Trainings- und Testdatensatz sind, was Überanpassung (Overfitting) ist und wie man sie durch Vergleich der Fehler auf beiden Datensätzen erkennt.

Erklären Sie, was Kreuzvalidierung ist (die Daten in mehrere Teile aufteilen und rotieren, welcher Teil zum Testen dient) und welches Problem sie bei wenigen Daten löst: Warum kann eine einzige Aufteilung in Trainings- und Testdaten eine „glückliche“ oder „unglückliche“ Schätzung des tatsächlichen Fehlers liefern?

Bei der Betrugserkennung im Bankwesen ist nur eine von tausend Transaktionen betrügerisch. Erklären Sie, was ein unausgewogener Datensatz ist, warum ein Modell, das alles als „legitim“ einstuft, $99{,}9\,\%$ richtig liegt und trotzdem nutzlos ist, und welche Metriken und Techniken stattdessen verwendet werden (Trefferquote, Oversampling der Minderheitsklasse, Gewichtung).

Ein Defektklassifikator, der an $200$ Maschinen getestet wurde, liefert die Konfusionsmatrix der Abbildung. a) Berechnen Sie die Präzision ($\frac{RP}{RP + FP}$) und die Trefferquote bzw. Sensitivität ($\frac{RP}{RP + FN}$). b) Erklären Sie, welcher Fehler in der Wartung schwerer wiegt (der falsch negative: nicht erkannter Defekt) und wie Sie den Schwellenwert des Modells ändern würden, um ihn auf Kosten von mehr Fehlalarmen zu verringern.

Ein Technologieunternehmen trainiert ein Modell des maschinellen Lernens, um Lebensläufe von Bewerbern auf Ingenieurstellen vorzusortieren. Um diskriminierende Verzerrungen nach sozioökonomischer Herkunft zu vermeiden, schließt das Team Postleitzahl, Wohnviertel und Staatsangehörigkeit aus den Daten aus. In der Testphase zeigt sich jedoch, dass Bewerber aus Bezirken mit niedrigem Einkommen in einem um 73,5 % höheren Anteil aussortiert werden als Bewerber aus einkommensstarken Bezirken mit gleichwertigem akademischem Profil.

1. a) Begründen Sie technisch, wie das Modell die sozioökonomische Herkunft trotz der Entfernung der direkten geografischen Variablen ableiten konnte, und nennen Sie mindestens zwei in einem Lebenslauf übliche Variablen, die als Stellvertretervariablen (Proxys) wirken.
2. b) Analysieren Sie die ethischen und rechtlichen Folgen dieses Ergebnisses nach den europäischen KI-Vorschriften (Risikoklassifizierung und Diskriminierungsverbot).
3. c) Entwerfen Sie ein algorithmisches Audit vor dem Einsatz, das eine quantitative Fairnessmetrik und eine Technik zur Minderung der Verzerrung enthält.

Definieren Sie „Big Data“ und erklären Sie die drei klassischen „V“ (Volume, Velocity und Variety bzw. Datenmenge, Geschwindigkeit und Vielfalt) mit je einem Beispiel aus dem Kontext einer App für den städtischen Nahverkehr.

Die Abbildung zeigt die Kette eines Systems des maschinellen Lernens, das Busrouten empfiehlt, wobei einer der Blöcke verdeckt ist. Geben Sie an, welcher Block fehlt, was in ihm geschieht und welche Daten er vom vorherigen Block erhalten muss.

Eine Stadtverwaltung installiert Verkehrssensoren an $200$ Kreuzungen, die alle $5$ Sekunden einen Messwert senden. a) Schätzen Sie die Anzahl der pro Tag und pro Jahr erzeugten Messwerte ab. b) Erläutern Sie, welche Probleme bei Speicherung und Verarbeitung entstehen und warum herkömmliche Datenbanken auf einem einzelnen Server an ihre Grenzen stoßen können.

Ein Technologieunternehmen beschließt, sein eigenes Sprachmodell mit 70 Milliarden Parametern von Grund auf in einem Rechenzentrum zu trainieren, das an ein Netz mit einem Emissionsfaktor von 0,26 kg CO₂/kWh angeschlossen ist. Das Training benötigt 1,5 GWh elektrische Energie. Nach der Inbetriebnahme soll der Dienst täglich 20 Millionen Anfragen bearbeiten und in der Inferenzphase zusätzlich 0,5 GWh pro Monat verbrauchen.

1. a) Analysieren Sie die drei Phasen des Lebenszyklus dieses KI-Systems, die zu seinem ökologischen Fußabdruck beitragen, und begründen Sie, warum über ein Betriebsjahr die Wirkung der täglichen Inferenz die des anfänglichen Trainings deutlich übersteigen kann.
2. b) Berechnen Sie die allein in der Trainingsphase emittierte CO₂-Masse (in Tonnen) und vergleichen Sie sie mit den Emissionen des ersten vollen Inferenzjahres.
3. c) Entwerfen Sie drei technische Maßnahmen (auf der Ebene der Modellarchitektur, der Wiederverwendung von Gewichten und der Wahl der Infrastruktur), die den Energieverbrauch drastisch senken, ohne die Qualität der Antworten unvertretbar zu verschlechtern.