Ejercicios: Ética de los datos y la inteligencia artificial

Explicá con un ejemplo qué es un sesgo algorítmico y por qué una inteligencia artificial entrenada con datos poco variados puede tratar peor a ciertos grupos de personas.

La figura resume cómo aprende un sistema de inteligencia artificial: a partir de ejemplos.

Los datos de entrenamiento del ejemplo contienen muchos casos de un tipo y muy pocos de otro. Explicá qué problema aparecerá en la decisión marcada con ?, de dónde viene realmente ese problema y cómo se corregiría.

Explicá qué es un chatbot, por qué puede afirmar con total seguridad datos inventados (las llamadas «alucinaciones») y qué tenés que hacer siempre cuando te dé un dato importante: una fecha, una cifra o una fuente.

Si un carro autónomo atropella a un peatón, ¿de quién es la responsabilidad? Exponé las opciones (propietario, fabricante, programador, responsabilidad compartida) y defendé una primera postura con un argumento.

Explicá qué datos usa el algoritmo de recomendación de una plataforma de videos para elegir el siguiente (lo que ves, cuánto rato, lo que saltás) y por qué tiende a llevarte a contenidos cada vez más intensos o extremos.

Explicá qué significa que una inteligencia artificial funciona como una «caja negra» y por qué inquieta que ni sus creadores sepan explicar una decisión concreta, por ejemplo denegar una beca o un préstamo.

Los sistemas de inteligencia artificial aprenden con «datos de entrenamiento». Explicá por qué importa cómo se consiguieron esos datos y valorá el caso de millones de fotos de personas usadas sin su permiso para entrenar un sistema de reconocimiento facial.

Una empresa usa inteligencia artificial para filtrar currículos y el sistema rechaza más solicitudes de mujeres porque en el pasado la empresa contrató sobre todo a hombres. Explicá de dónde sale ese sesgo, por qué «lo decide la máquina» no libera de responsabilidad a la empresa y qué medida corregiría el sistema.

Un colegio usa inteligencia artificial para corregir redacciones. Analizá sus ventajas (rapidez, criterio uniforme, no se cansa) y sus riesgos (no entiende la ironía, penaliza estilos distintos, errores sin recurso), y definí qué supervisión humana exigirías antes de aceptar sus notas.

Se fabrica un video falso de una compañera «cantando» algo ridículo y todo el insti se ríe. Analizá qué derechos vulnera (imagen, honor), qué responsabilidad tiene quien lo creó y quien lo reenvía, y qué debe hacer ella y qué deben hacer los que lo reciben.

Los generadores de imágenes por inteligencia artificial aprenden de obras de artistas, muchas veces sin pagarles ni pedirles permiso. Analizá el conflicto entre innovación y derechos de autor y evaluá las soluciones propuestas: licencias de entrenamiento, listas de exclusión y etiquetado de obras generadas.

Una alcaldía propone instalar cámaras con reconocimiento facial «para dar seguridad». Construí un argumento equilibrado: dos beneficios posibles, dos riesgos para la privacidad y una condición que consideres imprescindible antes de aprobar la medida.

Los asistentes de inteligencia artificial redactan textos completos en segundos. Analizá qué usos son legítimos en tus estudios y cuáles vacían el aprendizaje, y proponé una norma de aula sobre el uso de la IA que considerés justa y aplicable.

Diseñá un «semáforo ético» para el uso de la inteligencia artificial por parte del estudiantado: qué usos estarían en verde (aprender, accesibilidad, practicar idiomas), en ámbar (traducir tareas enteras, generar imágenes de personas reales) y en rojo (suplantar, fabricar bulos, presentar como propio un texto generado). Justificá cada zona.

El clásico dilema del tranvía, aplicado al carro autónomo: si el accidente es inevitable, ¿cómo decide el carro a quién pone en riesgo? Analizá quién debería tomar esa decisión (el ingeniero, la ley, un comité ciudadano) y defendé una postura argumentada.

Una inteligencia artificial compone una canción imitando el estilo de un artista. ¿De quién es la obra? Analizá las posturas (del programador, del usuario, de nadie, del artista imitado), qué valor aporta lo humano al arte y defendé una solución razonable.