Ética de los datos y la inteligencia artificial

Explique con un ejemplo qué es un sesgo algorítmico y por qué una inteligencia artificial entrenada con datos poco variados puede tratar peor a ciertos grupos de personas.

La figura resume cómo aprende un sistema de inteligencia artificial: a partir de ejemplos.

Los datos de entrenamiento del ejemplo contienen muchos casos de un tipo y muy pocos de otro. Explique qué problema aparecerá en la decisión marcada con ?, de dónde viene realmente ese problema y cómo se corregiría.

Una empresa usa inteligencia artificial para filtrar currículos y el sistema rechaza más solicitudes de mujeres porque en el pasado la empresa contrató sobre todo a hombres. Explique de dónde sale ese sesgo, por qué «lo decide la máquina» no libera de responsabilidad a la empresa y qué medida corregiría el sistema.

Explique qué es un chatbot, por qué puede afirmar con total seguridad datos inventados (las llamadas «alucinaciones») y qué debe hacer siempre cuando le dé un dato importante: una fecha, una cifra o una fuente.

Si un carro autónomo atropella a un peatón, ¿de quién es la responsabilidad? Exponga las opciones (propietario, fabricante, programador, responsabilidad compartida) y defienda una primera postura con un argumento.

El clásico dilema del tranvía, aplicado al carro autónomo: si el accidente es inevitable, ¿cómo decide el carro a quién pone en riesgo? Analice quién debería tomar esa decisión (el ingeniero, la ley, un comité ciudadano) y defienda una postura argumentada.

Explique qué datos usa el algoritmo de recomendación de una plataforma de videos para elegir el siguiente (lo que ve, cuánto rato, lo que salta) y por qué tiende a llevarlo a contenidos cada vez más intensos o extremos.

Explique qué significa que una inteligencia artificial funciona como una «caja negra» y por qué inquieta que ni sus creadores sepan explicar una decisión concreta, por ejemplo denegar una beca o un préstamo.

Una municipalidad propone instalar cámaras con reconocimiento facial «para dar seguridad». Construya un argumento equilibrado: dos beneficios posibles, dos riesgos para la privacidad y una condición que considere imprescindible antes de aprobar la medida.

Los sistemas de inteligencia artificial aprenden con «datos de entrenamiento». Explique por qué importa cómo se consiguieron esos datos y valore el caso de millones de fotos de personas usadas sin su permiso para entrenar un sistema de reconocimiento facial.

Los generadores de imágenes por inteligencia artificial aprenden de obras de artistas, muchas veces sin pagarles ni pedir permiso. Analice el conflicto entre innovación y derechos de autor y evalúe las soluciones propuestas: licencias de entrenamiento, listas de exclusión y etiquetado de obras generadas.

Gran parte del trabajo de etiquetar datos para entrenar inteligencias artificiales se subcontrata en países con salarios muy bajos, incluida la revisión de contenidos traumáticos. Analice qué injusticias ve en esa cadena global y qué condiciones (salario, apoyo psicológico, transparencia) exigiría a las empresas que la contratan.

Una inteligencia artificial compone una canción imitando el estilo de un artista. ¿De quién es la obra? Analice las posturas (del programador, del usuario, de nadie, del artista imitado), qué valor aporta lo humano al arte y defienda una solución razonable.

Explique qué se entiende por soberanía tecnológica y por qué preocupa que unos pocos países o empresas controlen los chips, las nubes y los grandes modelos de inteligencia artificial de los que dependen millones de personas.

Se fabrica un video falso de una compañera «cantando» algo ridículo y todo el cole se ríe. Analice qué derechos vulnera (imagen, honor), qué responsabilidad tiene quien lo creó y quien lo reenvía, y qué debe hacer ella y qué deben hacer quienes lo reciben.

Explique qué es la obsolescencia programada y ponga un ejemplo de decisión de diseño que acorte la vida útil de un celular.

Un fabricante deja de actualizar un modelo de celular a los dos años aunque el aparato funciona bien. Analice qué intereses hay detrás de esa decisión, qué impacto ambiental genera en forma de residuos electrónicos y qué alternativas tiene la persona consumidora para alargar la vida del dispositivo.

Su celular funciona perfectamente pero «ya no se usa». Analice cómo se fabrica esa sensación de obsolescencia percibida (campañas de publicidad, actualizaciones que ralentizan, presión social) y qué herramientas tiene el consumidor para no entrar en ese juego.

Entrenar un gran modelo de inteligencia artificial consume tanta electricidad como cientos de hogares en un año, y cada consulta también gasta energía. Explique qué preguntas de sostenibilidad deberían responder las empresas y qué criterios de uso responsable podría aplicar usted.

Un colegio usa inteligencia artificial para corregir redacciones. Analice sus ventajas (rapidez, criterio uniforme, no se cansa) y sus riesgos (no entiende la ironía, penaliza estilos distintos, errores sin recurso), y defina qué supervisión humana exigiría antes de aceptar sus notas.

Los asistentes de inteligencia artificial redactan textos completos en segundos. Analice qué usos son legítimos en sus estudios y cuáles vacían el aprendizaje, y proponga una norma de aula sobre el uso de la IA que considere justa y aplicable.

Diseñe un «semáforo ético» para el uso de la inteligencia artificial por parte del estudiantado: qué usos estarían en verde (aprender, accesibilidad, practicar idiomas), en ámbar (traducir tareas enteras, generar imágenes de personas reales) y en rojo (suplantar, fabricar noticias falsas, presentar como propio un texto generado). Justifique cada zona.

Evalúe la frase «la tecnología es neutra: todo depende del uso que se le dé». Utilice los ejemplos del sesgo algorítmico y de la obsolescencia programada para defenderla o matizarla con argumentos.

Algunos expertos pidieron una pausa en el desarrollo de las inteligencias artificiales más potentes hasta tener reglas claras. Argumente a favor (principio de precaución) y en contra (carrera internacional, usos beneficiosos que se retrasan) y proponga una regulación mínima que le parecería razonable.