Ethik der Daten und der Künstlichen Intelligenz

Erkläre anhand eines Beispiels, was eine algorithmische Verzerrung (Bias) ist und warum eine Künstliche Intelligenz, die mit wenig vielfältigen Daten trainiert wurde, bestimmte Personengruppen schlechter behandeln kann.

Die Abbildung fasst zusammen, wie ein System der Künstlichen Intelligenz lernt: anhand von Beispielen.

Die Trainingsdaten im Beispiel enthalten viele Fälle der einen Art und sehr wenige der anderen. Erkläre, welches Problem bei der mit ? markierten Entscheidung auftreten wird, woher dieses Problem tatsächlich kommt und wie man es beheben würde.

Ein Unternehmen nutzt Künstliche Intelligenz, um Lebensläufe zu filtern, und das System lehnt mehr Bewerbungen von Frauen ab, weil das Unternehmen in der Vergangenheit überwiegend Männer eingestellt hat. Erkläre, woher diese Verzerrung kommt, warum „die Maschine entscheidet“ das Unternehmen nicht von seiner Verantwortung befreit und welche Maßnahme das System korrigieren würde.

Erkläre, was ein Chatbot ist, warum er erfundene Angaben mit völliger Sicherheit behaupten kann (die sogenannten „Halluzinationen“) und was du immer tun solltest, wenn er dir eine wichtige Angabe nennt: ein Datum, eine Zahl oder eine Quelle.

Wenn ein autonomes Auto einen Fußgänger überfährt, wer trägt die Verantwortung? Stelle die Möglichkeiten dar (Halter, Hersteller, Programmierer, geteilte Verantwortung) und vertritt mit einem Argument einen ersten Standpunkt.

Es wird ein gefälschtes Video einer Mitschülerin erstellt, in dem sie etwas Lächerliches „singt“, und die ganze Schule lacht darüber. Analysiere, welche Rechte verletzt werden (Recht am eigenen Bild, Ehre), welche Verantwortung die Person trägt, die es erstellt hat, und wer es weiterleitet, und was sie selbst tun sollte und was diejenigen tun sollten, die es erhalten.

Das klassische Trolley-Problem, angewandt auf das autonome Auto: Wenn der Unfall unvermeidbar ist, wie entscheidet das Auto, wen es gefährdet? Analysiere, wer diese Entscheidung treffen sollte (der Ingenieur, das Gesetz, ein Bürgergremium), und vertritt einen begründeten Standpunkt.

Erkläre, welche Daten der Empfehlungsalgorithmus einer Videoplattform nutzt, um das nächste Video auszuwählen (was du siehst, wie lange, was du überspringst), und warum er dazu neigt, dich zu immer intensiveren oder extremeren Inhalten zu führen.

Erkläre, was es bedeutet, dass eine Künstliche Intelligenz wie eine „Blackbox“ funktioniert, und warum es beunruhigt, dass nicht einmal ihre Entwickler eine konkrete Entscheidung erklären können, zum Beispiel die Ablehnung eines Stipendiums oder eines Kredits.

Erkläre, was man unter technologischer Souveränität versteht und warum es Sorge bereitet, dass wenige Länder oder Unternehmen die Chips, die Clouds und die großen KI-Modelle kontrollieren, von denen Millionen Menschen abhängen.

Eine Gemeinde schlägt vor, Kameras mit Gesichtserkennung „für mehr Sicherheit“ zu installieren. Entwickle eine ausgewogene Argumentation: zwei mögliche Vorteile, zwei Risiken für die Privatsphäre und eine Bedingung, die du vor der Genehmigung der Maßnahme für unverzichtbar hältst.

Systeme der Künstlichen Intelligenz lernen mit „Trainingsdaten“. Erkläre, warum es wichtig ist, wie diese Daten beschafft wurden, und beurteile den Fall von Millionen Fotos von Personen, die ohne deren Erlaubnis zum Training eines Gesichtserkennungssystems verwendet wurden.

Bildgeneratoren auf Basis Künstlicher Intelligenz lernen von Werken von Künstlerinnen und Künstlern, oft ohne sie zu bezahlen oder um Erlaubnis zu fragen. Analysiere den Konflikt zwischen Innovation und Urheberrecht und bewerte die vorgeschlagenen Lösungen: Trainingslizenzen, Ausschlusslisten (Opt-out) und Kennzeichnung generierter Werke.

Ein großer Teil der Arbeit des Datenlabelings für das Training Künstlicher Intelligenzen wird in Länder mit sehr niedrigen Löhnen ausgelagert, einschließlich der Prüfung traumatisierender Inhalte. Analysiere, welche Ungerechtigkeiten du in dieser globalen Kette siehst und welche Bedingungen (Lohn, psychologische Unterstützung, Transparenz) du von den beauftragenden Unternehmen verlangen würdest.

Eine Künstliche Intelligenz komponiert ein Lied im Stil eines Künstlers. Wem gehört das Werk? Analysiere die Standpunkte (Programmierer, Nutzer, niemand, imitierter Künstler), welchen Wert das Menschliche für die Kunst hat, und vertritt eine vernünftige Lösung.

Erkläre, was geplante Obsoleszenz ist, und nenne ein Beispiel für eine Designentscheidung, die die Lebensdauer eines Smartphones verkürzt.

Ein Hersteller stellt die Updates für ein Smartphone-Modell nach zwei Jahren ein, obwohl das Gerät einwandfrei funktioniert. Analysiere, welche Interessen hinter dieser Entscheidung stehen, welche Umweltauswirkungen sie in Form von Elektroschrott hat und welche Alternativen Verbraucherinnen und Verbraucher haben, um die Lebensdauer des Geräts zu verlängern.

Dein Smartphone funktioniert einwandfrei, aber es ist „nicht mehr angesagt“. Analysiere, wie dieses Gefühl der wahrgenommenen Obsoleszenz erzeugt wird (Werbekampagnen, Updates, die das Gerät verlangsamen, sozialer Druck) und welche Mittel Verbraucher haben, um dieses Spiel nicht mitzumachen.

Das Training eines großen KI-Modells verbraucht so viel Strom wie Hunderte Haushalte in einem Jahr, und auch jede Anfrage verbraucht Energie. Erkläre, welche Fragen zur Nachhaltigkeit die Unternehmen beantworten sollten und welche Kriterien für eine verantwortungsvolle Nutzung du selbst anwenden könntest.

Eine Schule setzt Künstliche Intelligenz zur Korrektur von Aufsätzen ein. Analysiere ihre Vorteile (Schnelligkeit, einheitlicher Maßstab, wird nicht müde) und ihre Risiken (versteht keine Ironie, benachteiligt abweichende Stile, Fehler ohne Einspruchsmöglichkeit) und lege fest, welche menschliche Kontrolle du verlangen würdest, bevor du ihre Noten akzeptierst.

KI-Assistenten schreiben in Sekunden vollständige Texte. Analysiere, welche Nutzungen in deinem Lernen legitim sind und welche das Lernen aushöhlen, und schlage eine Klassenregel zur Nutzung von KI vor, die du für fair und umsetzbar hältst.

Beurteile den Satz „Technik ist neutral: Es kommt nur darauf an, wie man sie nutzt.“ Verwende die Beispiele der algorithmischen Verzerrung und der geplanten Obsoleszenz, um ihn mit Argumenten zu verteidigen oder zu differenzieren.

Entwirf eine „ethische Ampel“ für die Nutzung von Künstlicher Intelligenz durch Schülerinnen und Schüler: Welche Nutzungen wären grün (lernen, Barrierefreiheit, Sprachen üben), gelb (ganze Hausaufgaben übersetzen, Bilder von realen Personen erzeugen) und rot (sich als jemand anderes ausgeben, Falschmeldungen erfinden, einen generierten Text als eigenen ausgeben)? Begründe jede Zone.

Einige Fachleute forderten eine Pause bei der Entwicklung der leistungsstärksten Künstlichen Intelligenzen, bis klare Regeln vorliegen. Argumentiere dafür (Vorsorgeprinzip) und dagegen (internationaler Wettlauf, nützliche Anwendungen, die sich verzögern) und schlage eine Mindestregulierung vor, die dir vernünftig erscheinen würde.