Exercicis: Ètica de les dades i la intel·ligència artificial

Explica amb un exemple què és un biaix algorítmic i per què una intel·ligència artificial entrenada amb dades poc variades pot tractar pitjor certs grups de persones.

Explica què és l'obsolescència programada i posa un exemple de decisió de disseny que escurci la vida útil d'un mòbil.

La figura resumeix com aprèn un sistema d'intel·ligència artificial: a partir d'exemples.

Les dades d'entrenament de l'exemple contenen molts casos d'un tipus i molt pocs d'un altre. Explica quin problema apareixerà en la decisió marcada amb ?, d'on ve realment aquest problema i com es corregiria.

Explica què és un bot de conversa o xatbot, per què pot afirmar amb total seguretat dades inventades (les anomenades «al·lucinacions») i què has de fer sempre quan et doni una dada important: una data, una xifra o una font.

Si un cotxe autònom atropella un vianant, de qui és la responsabilitat? Exposa les opcions (propietari, fabricant, programador, responsabilitat compartida) i defensa una primera postura amb un argument.

Explica quines dades fa servir l'algorisme de recomanació d'una plataforma de vídeos per triar el següent (el que veus, quant de temps, el que saltes) i per què tendeix a portar-te a continguts cada cop més intensos o extrems.

Explica què significa que una intel·ligència artificial funcioni com una «caixa negra» i per què inquieta que ni els seus creadors sàpiguen explicar una decisió concreta, per exemple denegar una beca o un préstec.

Els sistemes d'intel·ligència artificial aprenen amb «dades d'entrenament». Explica per què importa com es van aconseguir aquestes dades i valora el cas de milions de fotos de persones utilitzades sense el seu permís per entrenar un sistema de reconeixement facial.

Una empresa utilitza intel·ligència artificial per filtrar currículums i el sistema rebutja més sol·licituds de dones perquè en el passat l'empresa va contractar sobretot homes. Explica d'on surt aquest biaix, per què «ho decideix la màquina» no allibera de responsabilitat l'empresa i quina mesura corregiria el sistema.

Un fabricant deixa d'actualitzar un model de mòbil al cap de dos anys encara que l'aparell funcioni bé. Analitza quins interessos hi ha darrere d'aquesta decisió, quin impacte ambiental genera en forma de residus electrònics i quines alternatives té la persona consumidora per allargar la vida del dispositiu.

Explica què s'entén per sobirania tecnològica i per què preocupa que uns pocs països o empreses controlin els xips, els núvols i els grans models d'intel·ligència artificial dels quals depenen milions de persones.

Una escola utilitza intel·ligència artificial per corregir redaccions. Analitza els seus avantatges (rapidesa, criteri uniforme, no es cansa) i els seus riscos (no entén la ironia, penalitza estils diferents, errors sense recurs), i defineix quina supervisió humana exigiries abans d'acceptar les seves notes.

Es fabrica un vídeo fals d'una companyera «cantant» una cosa ridícula i tot l'institut se'n riu. Analitza quins drets vulnera (imatge, honor), quina responsabilitat té qui el va crear i qui el reenvia, i què ha de fer ella i què han de fer els qui el reben.

El teu mòbil funciona perfectament però «ja no es porta». Analitza com es fabrica aquesta sensació d'obsolescència percebuda (campanyes de publicitat, actualitzacions que alenteixen, pressió social) i quines eines té el consumidor per no entrar en aquest joc.

Els generadors d'imatges per intel·ligència artificial aprenen d'obres d'artistes, moltes vegades sense pagar-los ni demanar permís. Analitza el conflicte entre innovació i drets d'autor i avalua les solucions proposades: llicències d'entrenament, llistes d'exclusió i etiquetatge d'obres generades.

Entrenar un gran model d'intel·ligència artificial consumeix tanta electricitat com centenars de llars en un any, i cada consulta també gasta energia. Explica quines preguntes de sostenibilitat haurien de respondre les empreses i quins criteris d'ús responsable podries aplicar tu.

Un ajuntament proposa instal·lar càmeres amb reconeixement facial «per donar seguretat». Construeix un argument equilibrat: dos beneficis possibles, dos riscos per a la privacitat i una condició que consideris imprescindible abans d'aprovar la mesura.

Els assistents d'intel·ligència artificial redacten textos complets en segons. Analitza quins usos són legítims en els teus estudis i quins buiden l'aprenentatge, i proposa una norma d'aula sobre l'ús de la IA que consideris justa i aplicable.

Avalua la frase «la tecnologia és neutra: tot depèn de l'ús que se'n faci». Utilitza els exemples del biaix algorítmic i de l'obsolescència programada per defensar-la o matisar-la amb arguments.

Dissenya un «semàfor ètic» per a l'ús de la intel·ligència artificial per part de l'alumnat: quins usos estarien en verd (aprendre, accessibilitat, practicar idiomes), en ambre (traduir deures sencers, generar imatges de persones reals) i en vermell (suplantar, fabricar faules, presentar com a propi un text generat). Justifica cada zona.

El clàssic dilema del tramvia, aplicat al cotxe autònom: si l'accident és inevitable, com decideix el cotxe qui posa en risc? Analitza qui hauria de prendre aquesta decisió (l'enginyer, la llei, un comitè ciutadà) i defensa una postura argumentada.

Bona part de la feina d'etiquetar dades per entrenar intel·ligències artificials se subcontracta a països amb salaris molt baixos, incloent-hi la revisió de continguts traumàtics. Analitza quines injustícies veus en aquesta cadena global i quines condicions (salari, suport psicològic, transparència) exigiries a les empreses que la contracten.

Una intel·ligència artificial compon una cançó imitant l'estil d'un artista. De qui és l'obra? Analitza les postures (del programador, de l'usuari, de ningú, de l'artista imitat), quin valor aporta allò humà a l'art i defensa una solució raonable.

Alguns experts van demanar una pausa en el desenvolupament de les intel·ligències artificials més potents fins a tenir regles clares. Argumenta a favor (principi de precaució) i en contra (cursa internacional, usos beneficiosos que s'endarrereixen) i proposa una regulació mínima que et semblaria raonable.