Ética de los datos y la inteligencia artificial

Explica con un ejemplo qué es un sesgo algorítmico y por qué una inteligencia artificial entrenada con datos poco variados puede tratar peor a ciertos grupos de personas.

La figura resume cómo aprende un sistema de inteligencia artificial: a partir de ejemplos.

Los datos de entrenamiento del ejemplo contienen muchos casos de un tipo y muy pocos de otro. Explica qué problema aparecerá en la decisión marcada con ?, de dónde viene realmente ese problema y cómo se corregiría.

Una empresa usa inteligencia artificial para filtrar currículos y el sistema rechaza más solicitudes de mujeres porque en el pasado la empresa contrató sobre todo a hombres. Explica de dónde sale ese sesgo, por qué «lo decide la máquina» no libera de responsabilidad a la empresa y qué medida corregiría el sistema.

Explica qué es un chatbot, por qué puede afirmar con total seguridad datos inventados (las llamadas «alucinaciones») y qué debes hacer siempre cuando te dé un dato importante: una fecha, una cifra o una fuente.

Si un coche autónomo atropella a un peatón, ¿de quién es la responsabilidad? Expón las opciones (propietario, fabricante, programador, responsabilidad compartida) y defiende una primera postura con un argumento.

El clásico dilema del tranvía, aplicado al coche autónomo: si el accidente es inevitable, ¿cómo decide el coche a quién pone en riesgo? Analiza quién debería tomar esa decisión (el ingeniero, la ley, un comité ciudadano) y defiende una postura argumentada.

Explica qué datos usa el algoritmo de recomendación de una plataforma de vídeos para elegir el siguiente (lo que ves, cuánto rato, lo que saltas) y por qué tiende a llevarte a contenidos cada vez más intensos o extremos.

Explica qué significa que una inteligencia artificial funciona como una «caja negra» y por qué inquieta que ni sus creadores sepan explicar una decisión concreta, por ejemplo denegar una beca o un préstamo.

Un ayuntamiento propone instalar cámaras con reconocimiento facial «para dar seguridad». Construye un argumento equilibrado: dos beneficios posibles, dos riesgos para la privacidad y una condición que consideres imprescindible antes de aprobar la medida.

Los sistemas de inteligencia artificial aprenden con «datos de entrenamiento». Explica por qué importa cómo se consiguieron esos datos y valora el caso de millones de fotos de personas usadas sin su permiso para entrenar un sistema de reconocimiento facial.

Los generadores de imágenes por inteligencia artificial aprenden de obras de artistas, muchas veces sin pagarles ni pedir permiso. Analiza el conflicto entre innovación y derechos de autor y evalúa las soluciones propuestas: licencias de entrenamiento, listas de exclusión y etiquetado de obras generadas.

Una inteligencia artificial compone una canción imitando el estilo de un artista. ¿De quién es la obra? Analiza las posturas (del programador, del usuario, de nadie, del artista imitado), qué valor aporta lo humano al arte y defiende una solución razonable.

Explica qué es la obsolescencia programada y pon un ejemplo de decisión de diseño que acorte la vida útil de un móvil.

Un fabricante deja de actualizar un modelo de móvil a los dos años aunque el aparato funciona bien. Analiza qué intereses hay detrás de esa decisión, qué impacto ambiental genera en forma de residuos electrónicos y qué alternativas tiene la persona consumidora para alargar la vida del dispositivo.

Tu móvil funciona perfectamente pero «ya no se lleva». Analiza cómo se fabrica esa sensación de obsolescencia percibida (campañas de publicidad, actualizaciones que ralentizan, presión social) y qué herramientas tiene el consumidor para no entrar en ese juego.

Entrenar un gran modelo de inteligencia artificial consume tanta electricidad como cientos de hogares en un año, y cada consulta también gasta energía. Explica qué preguntas de sostenibilidad deberían responder las empresas y qué criterios de uso responsable podrías aplicar tú.

Un colegio usa inteligencia artificial para corregir redacciones. Analiza sus ventajas (rapidez, criterio uniforme, no se cansa) y sus riesgos (no entiende la ironía, penaliza estilos distintos, errores sin recurso), y define qué supervisión humana exigirías antes de aceptar sus notas.

Los asistentes de inteligencia artificial redactan textos completos en segundos. Analiza qué usos son legítimos en tus estudios y cuáles vacían el aprendizaje, y propón una norma de aula sobre el uso de la IA que consideres justa y aplicable.

Diseña un «semáforo ético» para el uso de la inteligencia artificial por el alumnado: qué usos estarían en verde (aprender, accesibilidad, practicar idiomas), en ámbar (traducir deberes enteros, generar imágenes de personas reales) y en rojo (suplantar, fabricar bulos, presentar como propio un texto generado). Justifica cada zona.