Künstliche Intelligenz und Big Data
Dein Spamfilter hat keine Liste mit allen verdächtigen Sätzen eingebaut. Er hat aus Tausenden E-Mails gelernt, die schon als „Spam“ oder „kein Spam“ markiert waren. Das ist der Kern von künstlicher Intelligenz (KI), die du täglich nutzt, ohne es zu bemerken: Man kann ein System programmieren, man kann es aber auch trainieren. Am Ende der Seite weißt du, wie das funktioniert und was es kostet.
Von Regeln zu Daten: maschinelles Lernen
Bisher hast du Programme geschrieben, in denen du jede Regel selbst festgelegt hast, zum Beispiel mit einer Verzweigung: „Wenn die Temperatur über 25 °C liegt, schalte den Ventilator ein.“ Bei manchen Aufgaben kann man die Regeln aber nicht aufschreiben. Wie beschreibst du in Regeln, wie eine Katze auf einem Foto aussieht?
Ein bekanntes Beispiel für feste Regeln kennst du schon aus Klasse 8: den Entscheidungsbaum. Ein Mensch legt die Fragen und Verzweigungen fest. Beim maschinellen Lernen kann auch ein Entscheidungsbaum aus Daten gelernt werden.
| Programm mit festen Regeln | Maschinelles Lernen | |
|---|---|---|
| Woher kommen die Regeln? | Mensch schreibt sie | werden aus Daten gelernt |
| Gut geeignet für | klare, vollständig beschreibbare Aufgaben (Taschenrechner, Ampelschaltung) | schwer beschreibbare Aufgaben (Bilder, Sprache, Spam) |
Künstliche neuronale Netze
Ein künstliches neuronales Netz (KNN) ist ein Modell, das grob vom Gehirn inspiriert ist. Es besteht aus „Neuronen“, die in Schichten angeordnet sind:
-
Eingabeschicht: nimmt die Daten auf (z. B. die Helligkeit jedes Pixels eines Fotos).
-
verdeckte Schicht(en): kombinieren die Werte der Schicht davor.
-
Ausgabeschicht: liefert das Ergebnis (z. B. „Katze“ 92 %, „Hund“ 8 %).
Jede Verbindung zwischen zwei Neuronen hat ein Gewicht. Es legt fest, wie stark ein Wert weitergegeben wird. Ein Neuron addiert die gewichteten Eingaben und gibt das Ergebnis weiter, wenn es groß genug ist.
Beim Training zeigt man dem Netz viele Beispiele. Nach jedem Beispiel werden die Gewichte ein wenig so verändert, dass die Ausgabe besser zum richtigen Ergebnis passt. „Das Netz lernt“ heißt also: Die Gewichte werden so eingestellt, dass die Fehler kleiner werden. Die genaue Rechnung dahinter brauchst du nicht.
Der Einfluss der Trainingsdaten
Ein Modell kann nur so gut sein wie seine Trainingsdaten:
-
Menge: Zu wenige Beispiele führen zu schwachen Modellen.
-
Qualität: Falsche oder ungenaue Daten (oder falsche Labels) lehren falsche Muster.
-
Verzerrung (Bias): Wenn bestimmte Gruppen in den Daten fehlen oder unterrepräsentiert sind, behandelt das Modell sie schlechter. Eine Gesichtserkennung, die fast nur mit Fotos junger Erwachsener trainiert wurde, erkennt ältere Menschen schlechter.
Die Kette eines Systems des maschinellen Lernens
Ein ML-System arbeitet in vier Schritten: Daten sammeln (z. B. Fahrgastzahlen und Fahrzeiten einer Buslinie), Training (die Parameter werden an die Daten angepasst), Modell (die gelernten Muster) und Vorhersage (das Modell bekommt neue Daten und liefert ein Ergebnis, z. B. eine Routenempfehlung). Der Block „Training“ erhält vom vorigen Block die gesammelten und aufbereiteten Daten.
Typische Anwendungen, die Eingabedaten nutzen: Navigations-App (Position, Verkehrslage), Übersetzer (Text), Videoempfehlungen (Sehverlauf), Sprachassistent (Tonaufnahme), Spamfilter (E-Mail-Text).
Erklären Sie mit eigenen Worten den Unterschied zwischen traditioneller Programmierung (von einem Menschen geschriebene Regeln) und maschinellem Lernen (aus Beispielen…
Erklären Sie mit eigenen Worten den Unterschied zwischen traditioneller Programmierung (von einem Menschen geschriebene Regeln) und maschinellem Lernen (aus Beispielen gelernte Regeln) und nennen Sie je eine Anwendung, für die der jeweilige Ansatz besser geeignet ist.
Die Abbildung zeigt die Kette eines Systems des maschinellen Lernens, das Busrouten empfiehlt, wobei einer der Blöcke verdeckt ist. Geben Sie an, welcher Block fehlt,…
Die Abbildung zeigt die Kette eines Systems des maschinellen Lernens, das Busrouten empfiehlt, wobei einer der Blöcke verdeckt ist. Geben Sie an, welcher Block fehlt, was in ihm geschieht und welche Daten er vom vorherigen Block erhalten muss.
Erklären Sie mit einer einfachen Analogie, was ein künstliches neuronales Netz ist: Schichten von „Neuronen“, die Eingaben mit einstellbaren Gewichten kombinieren. Was…
Erklären Sie mit einer einfachen Analogie, was ein künstliches neuronales Netz ist: Schichten von „Neuronen“, die Eingaben mit einstellbaren Gewichten kombinieren. Was wird während des Trainings angepasst und was bedeutet es, dass das Netz „lernt“?
Lernarten: überwacht, bestärkend und die Zuordnung
Der Lehrplan unterscheidet zwei Hauptarten des Lernens.
Beispiele für gelabelte Daten: Foto → Katze/Hund, E-Mail → Spam/kein Spam, Sensorwerte → gesund/defekt.
Einer Anwendung eine Lernart zuordnen und begründen
Beim Zuordnen fragst du dich: Gibt es Beispiele mit richtiger Antwort (→ überwacht)? Oder lernt ein Agent durch Handeln und Belohnung (→ bestärkend)? Nenne immer den Grund.
Innerhalb des überwachten Lernens gibt es zwei Aufgabentypen: Klassifikation (eine Kategorie vorhersagen, z. B. Spam oder kein Spam) und Regression (eine Zahl vorhersagen, z. B. den Preis einer Wohnung).
Was ist beim überwachten Lernen das Label (die Zielgröße) eines Datenpunkts? Nennen Sie drei Beispiele für gelabelte Datensätze (Foto → Katze/Hund, E-Mail → Spam/kein…
Was ist beim überwachten Lernen das Label (die Zielgröße) eines Datenpunkts? Nennen Sie drei Beispiele für gelabelte Datensätze (Foto → Katze/Hund, E-Mail → Spam/kein Spam, Sensor → gesund/defekt) und erklären Sie, wer die Labels üblicherweise erstellt und welche Kosten das verursacht.
Erklären Sie den Unterschied zwischen überwachtem, unüberwachtem und bestärkendem Lernen und ordnen Sie diese Anwendungen zu: ein mit gelabelten E-Mails trainierter…
Erklären Sie den Unterschied zwischen überwachtem, unüberwachtem und bestärkendem Lernen und ordnen Sie diese Anwendungen zu: ein mit gelabelten E-Mails trainierter Spamfilter, die Gruppierung von Kunden nach Kaufgewohnheiten ohne Labels und ein Roboter, der durch Versuch und Irrtum laufen lernt.
Unterscheiden Sie zwischen einem Klassifikationsproblem (eine Kategorie vorhersagen) und einem Regressionsproblem (eine Zahl vorhersagen). Ordnen Sie diese Aufgaben zu:…
Unterscheiden Sie zwischen einem Klassifikationsproblem (eine Kategorie vorhersagen) und einem Regressionsproblem (eine Zahl vorhersagen). Ordnen Sie diese Aufgaben zu: den Preis einer Wohnung schätzen, entscheiden, ob ein Röntgenbild einen Knochenbruch zeigt, die Temperatur von morgen vorhersagen und Nachrichten nach Thema gruppieren.
Ein Modell bewerten: Überanpassung und Konfusionsmatrix
So erkennst du Überanpassung: Vergleiche die Fehler auf beiden Datensätzen. Ist der Trainingsfehler winzig und der Testfehler deutlich größer, hat das Modell überangepasst.
Zwei wichtige Kennzahlen mit den Abkürzungen VP (richtig positiv), FP (falsch positiv) und FN (falsch negativ):
$$\text{Präzision} = \frac{VP}{VP + FP} \qquad \text{Trefferquote} = \frac{VP}{VP + FN}$$Kreuzvalidierung
Eine einzige Aufteilung in Trainings- und Testdaten kann Zufall sein: Landen zufällig besonders leichte Fälle im Test, wirkt das Modell besser, als es ist. Bei der Kreuzvalidierung teilst du die Daten in mehrere gleich große Teile. Jeder Teil dient einmal als Testdaten, die übrigen als Trainingsdaten. Den Fehler mittelst du über alle Durchgänge. Das ist besonders bei wenigen Daten nützlich.
Feature Engineering
Die Eingangsvariablen eines Modells heißen Features. Feature Engineering bedeutet, sie sinnvoll auszuwählen und aufzubereiten. Oft entscheidet das mehr als der gewählte Algorithmus: Fehlt eine wichtige Einflussgröße, kann kein Verfahren sie ersetzen.
Ein System lernt mit $80\,\%$ der Daten und wird mit den verbleibenden $20\,\%$ bewertet. Erklären Sie, was Trainings- und Testdatensatz sind, was Überanpassung…
Ein System lernt mit $80\,\%$ der Daten und wird mit den verbleibenden $20\,\%$ bewertet. Erklären Sie, was Trainings- und Testdatensatz sind, was Überanpassung (Overfitting) ist und wie man sie durch Vergleich der Fehler auf beiden Datensätzen erkennt.
Ein Defektklassifikator, der an $200$ Maschinen getestet wurde, liefert die Konfusionsmatrix der Abbildung. a) Berechnen Sie die Präzision ($\frac{RP}{RP + FP}$) und die…
Ein Defektklassifikator, der an $200$ Maschinen getestet wurde, liefert die Konfusionsmatrix der Abbildung. a) Berechnen Sie die Präzision ($\frac{RP}{RP + FP}$) und die Trefferquote bzw. Sensitivität ($\frac{RP}{RP + FN}$). b) Erklären Sie, welcher Fehler in der Wartung schwerer wiegt (der falsch negative: nicht erkannter Defekt) und wie Sie den Schwellenwert des Modells ändern würden, um ihn auf Kosten von mehr Fehlalarmen zu verringern.
Bei der Betrugserkennung im Bankwesen ist nur eine von tausend Transaktionen betrügerisch. Erklären Sie, was ein unausgewogener Datensatz ist, warum ein Modell, das…
Bei der Betrugserkennung im Bankwesen ist nur eine von tausend Transaktionen betrügerisch. Erklären Sie, was ein unausgewogener Datensatz ist, warum ein Modell, das alles als „legitim“ einstuft, $99{,}9\,\%$ richtig liegt und trotzdem nutzlos ist, und welche Metriken und Techniken stattdessen verwendet werden (Trefferquote, Oversampling der Minderheitsklasse, Gewichtung).
Big Data: Datenmengen, Muster und Ressourcen
Eine Stadt in NRW will mit Sensoren an Kreuzungen den Verkehr steuern. Wie viele Daten fallen da an?
Ressourcen und Datenschutz
Big Data und KI haben einen Preis:
-
Ressourcen: Rechenzentren brauchen Strom und Kühlung. Das Training großer Modelle verbraucht Energie in der Größenordnung von Hunderten bis Tausenden Haushalten über ein Jahr, aber auch jede Anfrage kostet etwas. Dazu kommen die Rohstoffe für Herstellung und Entsorgung der Hardware. Den CO₂-Ausstoß schätzt du so ab: Energie (in kWh) · Emissionsfaktor (in kg CO₂/kWh) = Emission (in kg CO₂). Den Verbrauch pro Anfrage erhältst du, indem du die Energie durch die Zahl der Anfragen teilst. Beispiel: $2\,000\,\mathrm{kWh} \cdot 0{,}4\,\frac{\mathrm{kg\ CO_2}}{\mathrm{kWh}} = 800\,\mathrm{kg\ CO_2}$. Bei $1\,\mathrm{GWh} = 1\,000\,000\,\mathrm{kWh}$ rechnest du zuerst in kWh um.
-
Datenschutz: Viele Daten sind personenbezogen (Standort, Gesundheit, Verhalten). Das Entfernen von Namen allein macht Daten oft nicht anonym, denn Kombinationen wie Postleitzahl, Geburtsdatum und Geschlecht können eine Person verraten.
Beurteile deshalb vor dem Sammeln: Brauchen wir dieses Datum wirklich? Wer hat Zugriff? Wie hoch sind Energieverbrauch und Risiko im Vergleich zum Nutzen?
Vorhin hast du gefragt, wie ein Spamfilter ohne eine Liste verdächtiger Sätze arbeitet: Er ist ein Modell, das beim überwachten Lernen aus gelabelten E-Mails Muster abgeleitet hat.
Definieren Sie „Big Data“ und erklären Sie die drei klassischen „V“ (Volume, Velocity und Variety bzw. Datenmenge, Geschwindigkeit und Vielfalt) mit je einem Beispiel…
Definieren Sie „Big Data“ und erklären Sie die drei klassischen „V“ (Volume, Velocity und Variety bzw. Datenmenge, Geschwindigkeit und Vielfalt) mit je einem Beispiel aus dem Kontext einer App für den städtischen Nahverkehr.
Eine Stadtverwaltung installiert Verkehrssensoren an $200$ Kreuzungen, die alle $5$ Sekunden einen Messwert senden. a) Schätzen Sie die Anzahl der pro Tag und pro Jahr…
Eine Stadtverwaltung installiert Verkehrssensoren an $200$ Kreuzungen, die alle $5$ Sekunden einen Messwert senden. a) Schätzen Sie die Anzahl der pro Tag und pro Jahr erzeugten Messwerte ab. b) Erläutern Sie, welche Probleme bei Speicherung und Verarbeitung entstehen und warum herkömmliche Datenbanken auf einem einzelnen Server an ihre Grenzen stoßen können.
Ein Technologieunternehmen beschließt, sein eigenes Sprachmodell mit 70 Milliarden Parametern von Grund auf in einem Rechenzentrum zu trainieren, das an ein Netz mit…
Ein Technologieunternehmen beschließt, sein eigenes Sprachmodell mit 70 Milliarden Parametern von Grund auf in einem Rechenzentrum zu trainieren, das an ein Netz mit einem Emissionsfaktor von 0,26 kg CO₂/kWh angeschlossen ist. Das Training benötigt 1,5 GWh elektrische Energie. Nach der Inbetriebnahme soll der Dienst täglich 20 Millionen Anfragen bearbeiten und in der Inferenzphase zusätzlich 0,5 GWh pro Monat verbrauchen.
- a) Analysieren Sie die drei Phasen des Lebenszyklus dieses KI-Systems, die zu seinem ökologischen Fußabdruck beitragen, und begründen Sie, warum über ein Betriebsjahr die Wirkung der täglichen Inferenz die des anfänglichen Trainings deutlich übersteigen kann.
- b) Berechnen Sie die allein in der Trainingsphase emittierte CO₂-Masse (in Tonnen) und vergleichen Sie sie mit den Emissionen des ersten vollen Inferenzjahres.
- c) Entwerfen Sie drei technische Maßnahmen (auf der Ebene der Modellarchitektur, der Wiederverwendung von Gewichten und der Wahl der Infrastruktur), die den Energieverbrauch drastisch senken, ohne die Qualität der Antworten unvertretbar zu verschlechtern.