En el chat de WhatsApp de los graduandos, Ixchel cuenta que una app de su celular le sugiere el siguiente video, que una billetera móvil decide si le da un préstamo y que un chatbot le contesta la tarea en segundos. Detrás hay inteligencia artificial (IA). Una IA no piensa por sí sola: aprende de ejemplos que crearon personas, con sus aciertos y sus prejuicios. ¿De quién es la responsabilidad cuando esas decisiones salen mal? Lo averiguamos en esta página.
Sesgos algorítmicos
Piensa en aprender a reconocer perros viendo solo fotos de pastores alemanes: ante un chihuahua dudarías. Con la IA pasa igual: aprende de datos de entrenamiento, y si unos casos abundan y otros casi no aparecen, falla más con los poco representados. El problema no está en la «mala voluntad» de la máquina, sino en los datos (y en quienes los eligieron).
Chatbots, alucinaciones y responsabilidad
Un chatbot es un programa que conversa con lenguaje natural; los más recientes generan texto prediciendo qué palabras suenan más probables, no consultando una base de hechos verificados. Por eso pueden «alucinar».
Practica★☆☆Sin empezar
Explica qué es un chatbot, por qué puede afirmar con total seguridad datos inventados (las llamadas «alucinaciones») y qué debes hacer siempre cuando te dé un dato…
Explica qué es un chatbot, por qué puede afirmar con total seguridad datos inventados (las llamadas «alucinaciones») y qué debes hacer siempre cuando te dé un dato importante: una fecha, una cifra o una fuente.
Datos de entrenamiento, derechos de autor y trabajo oculto
Autoría y trabajo oculto
Si una IA compone una canción «al estilo» de un artista, ¿de quién es? Hay posturas: del programador, de quien escribió la instrucción, de nadie, o que el artista imitado merece reconocimiento y pago. Piensa también qué aporta lo humano: intención, experiencia y responsabilidad.
Además, etiquetar datos para entrenar una IA (marcar qué hay en una foto o revisar contenido violento) suele subcontratarse en países con salarios muy bajos. Una cadena justa exigiría salario digno, apoyo psicológico y transparencia sobre quién hace ese trabajo. Es un caso de lo que ya viste como colonialismo de datos: el beneficio se queda en unos lugares y el costo en otros.
Soberanía tecnológica
Si pocos actores controlan los chips, las nubes y los grandes modelos, quienes dependen de ellos aceptan sus precios, reglas y condiciones sobre los datos. Eso es dependencia tecnológica. Por eso importan las alternativas abiertas y el desarrollo local.
Deepfakes y derechos de las personas
La IA puede fabricar videos, audios e imágenes falsos muy creíbles (deepfakes). Cuando se usa la imagen de una persona sin permiso, se vulneran su imagen y su honor, aunque se presente «como broma». Publicar el retrato de alguien exige su consentimiento, y sus datos personales merecen respeto y protección.
Practica★★☆Sin empezar
Se fabrica un video falso de una compañera «cantando» algo ridículo y todo el instituto se ríe. Analiza qué derechos vulnera (imagen, honor), qué responsabilidad tiene…
Se fabrica un video falso de una compañera «cantando» algo ridículo y todo el instituto se ríe. Analiza qué derechos vulnera (imagen, honor), qué responsabilidad tiene quien lo creó y quien lo reenvía, y qué debe hacer ella y qué deben hacer los que lo reciben.
Ejemplos: baterías selladas imposibles de cambiar, piezas pegadas, falta de repuestos o dejar de enviar actualizaciones de un celular que aún funciona. Detrás hay un interés comercial: vender más. El costo lo paga el ambiente en forma de residuos electrónicos y la minería de nuevos materiales.
Costo energético de la IA
Uso responsable de la IA
Un criterio práctico: pregúntate «¿después de usarla, entiendo más o solo entregué algo?». Si la IA piensa por ti, no aprendes lo que la tarea buscaba.
Una regla de aula justa y aplicable podría ser: se permite usar IA para entender y revisar, se declara cómo se usó y las evaluaciones clave se hacen sin ella.
Practica★★★Sin empezar
Los asistentes de inteligencia artificial redactan textos completos en segundos. Analiza qué usos son legítimos en tus estudios y cuáles vacían el aprendizaje, y propón…
Los asistentes de inteligencia artificial redactan textos completos en segundos. Analiza qué usos son legítimos en tus estudios y cuáles vacían el aprendizaje, y propón una norma de aula sobre el uso de la IA que consideres justa y aplicable.
Diseña un «semáforo ético» para el uso de la inteligencia artificial por parte de los estudiantes: qué usos estarían en verde (aprender, accesibilidad, practicar…
Diseña un «semáforo ético» para el uso de la inteligencia artificial por parte de los estudiantes: qué usos estarían en verde (aprender, accesibilidad, practicar idiomas), en ámbar (traducir tareas completas, generar imágenes de personas reales) y en rojo (suplantar, fabricar noticias falsas, presentar como propio un texto generado). Justifica cada zona.
Se dice que «la tecnología es neutra: todo depende del uso». Matiza: el sesgo y la obsolescencia programada nacen de decisiones de diseño, así que la tecnología refleja intereses de quienes la crean. Por eso hay debates de regulación, como la pausa de las IA más potentes: a favor está el principio de precaución; en contra, la competencia internacional y los beneficios que se retrasarían. Una regulación mínima razonable pide transparencia, auditorías y responsables claros.
Vuelve al principio: las decisiones de una IA, desde la que te sugiere un video hasta la que aprueba o niega un préstamo en una billetera del celular, no son mágicas ni neutras; salen de datos y diseños humanos, y por eso quienes las crean y usan responden por ellas.
Resumen
¡A practicar! 1 ejercicios de nivel medio en este apartado