Ètica de les dades i la intel·ligència artificial

Explica amb un exemple què és un biaix algorítmic i per què una intel·ligència artificial entrenada amb dades poc variades pot tractar pitjor certs grups de persones.

La figura resumeix com aprèn un sistema d'intel·ligència artificial: a partir d'exemples.

Les dades d'entrenament de l'exemple contenen molts casos d'un tipus i molt pocs d'un altre. Explica quin problema apareixerà en la decisió marcada amb ?, d'on ve realment aquest problema i com es corregiria.

Una empresa utilitza intel·ligència artificial per filtrar currículums i el sistema rebutja més sol·licituds de dones perquè en el passat l'empresa va contractar sobretot homes. Explica d'on surt aquest biaix, per què «ho decideix la màquina» no allibera de responsabilitat l'empresa i quina mesura corregiria el sistema.

Explica què és un bot de conversa o xatbot, per què pot afirmar amb total seguretat dades inventades (les anomenades «al·lucinacions») i què has de fer sempre quan et doni una dada important: una data, una xifra o una font.

Si un cotxe autònom atropella un vianant, de qui és la responsabilitat? Exposa les opcions (propietari, fabricant, programador, responsabilitat compartida) i defensa una primera postura amb un argument.

El clàssic dilema del tramvia, aplicat al cotxe autònom: si l'accident és inevitable, com decideix el cotxe qui posa en risc? Analitza qui hauria de prendre aquesta decisió (l'enginyer, la llei, un comitè ciutadà) i defensa una postura argumentada.

Explica quines dades fa servir l'algorisme de recomanació d'una plataforma de vídeos per triar el següent (el que veus, quant de temps, el que saltes) i per què tendeix a portar-te a continguts cada cop més intensos o extrems.

Explica què significa que una intel·ligència artificial funcioni com una «caixa negra» i per què inquieta que ni els seus creadors sàpiguen explicar una decisió concreta, per exemple denegar una beca o un préstec.

Un ajuntament proposa instal·lar càmeres amb reconeixement facial «per donar seguretat». Construeix un argument equilibrat: dos beneficis possibles, dos riscos per a la privacitat i una condició que consideris imprescindible abans d'aprovar la mesura.

Els sistemes d'intel·ligència artificial aprenen amb «dades d'entrenament». Explica per què importa com es van aconseguir aquestes dades i valora el cas de milions de fotos de persones utilitzades sense el seu permís per entrenar un sistema de reconeixement facial.

Els generadors d'imatges per intel·ligència artificial aprenen d'obres d'artistes, moltes vegades sense pagar-los ni demanar permís. Analitza el conflicte entre innovació i drets d'autor i avalua les solucions proposades: llicències d'entrenament, llistes d'exclusió i etiquetatge d'obres generades.

Una intel·ligència artificial compon una cançó imitant l'estil d'un artista. De qui és l'obra? Analitza les postures (del programador, de l'usuari, de ningú, de l'artista imitat), quin valor aporta allò humà a l'art i defensa una solució raonable.

Explica què és l'obsolescència programada i posa un exemple de decisió de disseny que escurci la vida útil d'un mòbil.

Un fabricant deixa d'actualitzar un model de mòbil al cap de dos anys encara que l'aparell funcioni bé. Analitza quins interessos hi ha darrere d'aquesta decisió, quin impacte ambiental genera en forma de residus electrònics i quines alternatives té la persona consumidora per allargar la vida del dispositiu.

El teu mòbil funciona perfectament però «ja no es porta». Analitza com es fabrica aquesta sensació d'obsolescència percebuda (campanyes de publicitat, actualitzacions que alenteixen, pressió social) i quines eines té el consumidor per no entrar en aquest joc.

Entrenar un gran model d'intel·ligència artificial consumeix tanta electricitat com centenars de llars en un any, i cada consulta també gasta energia. Explica quines preguntes de sostenibilitat haurien de respondre les empreses i quins criteris d'ús responsable podries aplicar tu.

Una escola utilitza intel·ligència artificial per corregir redaccions. Analitza els seus avantatges (rapidesa, criteri uniforme, no es cansa) i els seus riscos (no entén la ironia, penalitza estils diferents, errors sense recurs), i defineix quina supervisió humana exigiries abans d'acceptar les seves notes.

Els assistents d'intel·ligència artificial redacten textos complets en segons. Analitza quins usos són legítims en els teus estudis i quins buiden l'aprenentatge, i proposa una norma d'aula sobre l'ús de la IA que consideris justa i aplicable.

Dissenya un «semàfor ètic» per a l'ús de la intel·ligència artificial per part de l'alumnat: quins usos estarien en verd (aprendre, accessibilitat, practicar idiomes), en ambre (traduir deures sencers, generar imatges de persones reals) i en vermell (suplantar, fabricar faules, presentar com a propi un text generat). Justifica cada zona.