Ética de los datos y la inteligencia artificial
Usted abre TikTok en su celular y la app le sugiere el siguiente video, una billetera electrónica en su celular decide si le da un préstamo y un chatbot le resuelve la tarea en segundos. Detrás hay inteligencia artificial (IA). Una IA no piensa por sí sola: aprende de ejemplos que crearon personas, con sus aciertos y sus prejuicios. ¿De quién es la responsabilidad cuando esas decisiones salen mal? Lo averiguamos en esta página.
Sesgos algorítmicos
Piense en aprender a reconocer perros viendo solo fotos de pastores alemanes: ante un chihuahua dudaría. Con la IA pasa igual: aprende de datos de entrenamiento, y si unos casos abundan y otros casi no aparecen, falla más con los poco representados. El problema no está en la «mala voluntad» de la máquina, sino en los datos (y en quienes los eligieron).
Explique con un ejemplo qué es un sesgo algorítmico y por qué una inteligencia artificial entrenada con datos poco variados puede tratar peor a ciertos grupos de…
Explique con un ejemplo qué es un sesgo algorítmico y por qué una inteligencia artificial entrenada con datos poco variados puede tratar peor a ciertos grupos de personas.
La figura resume cómo aprende un sistema de inteligencia artificial: a partir de ejemplos. Los datos de entrenamiento del ejemplo contienen muchos casos de un tipo y muy…
La figura resume cómo aprende un sistema de inteligencia artificial: a partir de ejemplos.
Los datos de entrenamiento del ejemplo contienen muchos casos de un tipo y muy pocos de otro. Explique qué problema aparecerá en la decisión marcada con ?, de dónde viene realmente ese problema y cómo se corregiría.
Una empresa usa inteligencia artificial para filtrar currículos y el sistema rechaza más solicitudes de mujeres porque en el pasado la empresa contrató sobre todo a…
Una empresa usa inteligencia artificial para filtrar currículos y el sistema rechaza más solicitudes de mujeres porque en el pasado la empresa contrató sobre todo a hombres. Explique de dónde sale ese sesgo, por qué «lo decide la máquina» no libera de responsabilidad a la empresa y qué medida corregiría el sistema.
Chatbots, alucinaciones y responsabilidad
Un chatbot es un programa que conversa con lenguaje natural; los más recientes generan texto prediciendo qué palabras suenan más probables, no consultando una base de hechos verificados. Por eso pueden «alucinar».
Explique qué es un chatbot, por qué puede afirmar con total seguridad datos inventados (las llamadas «alucinaciones») y qué debe hacer siempre cuando le dé un dato…
Explique qué es un chatbot, por qué puede afirmar con total seguridad datos inventados (las llamadas «alucinaciones») y qué debe hacer siempre cuando le dé un dato importante: una fecha, una cifra o una fuente.
Si un carro autónomo atropella a un peatón, ¿de quién es la responsabilidad? Exponga las opciones (propietario, fabricante, programador, responsabilidad compartida) y…
Si un carro autónomo atropella a un peatón, ¿de quién es la responsabilidad? Exponga las opciones (propietario, fabricante, programador, responsabilidad compartida) y defienda una primera postura con un argumento.
El clásico dilema del tranvía, aplicado al carro autónomo: si el accidente es inevitable, ¿cómo decide el carro a quién pone en riesgo? Analice quién debería tomar esa…
El clásico dilema del tranvía, aplicado al carro autónomo: si el accidente es inevitable, ¿cómo decide el carro a quién pone en riesgo? Analice quién debería tomar esa decisión (el ingeniero, la ley, un comité ciudadano) y defienda una postura argumentada.
Caja negra y algoritmos de recomendación
Explique qué datos usa el algoritmo de recomendación de una plataforma de videos para elegir el siguiente (lo que ve, cuánto rato, lo que salta) y por qué tiende a…
Explique qué datos usa el algoritmo de recomendación de una plataforma de videos para elegir el siguiente (lo que ve, cuánto rato, lo que salta) y por qué tiende a llevarlo a contenidos cada vez más intensos o extremos.
Explique qué significa que una inteligencia artificial funciona como una «caja negra» y por qué inquieta que ni sus creadores sepan explicar una decisión concreta, por…
Explique qué significa que una inteligencia artificial funciona como una «caja negra» y por qué inquieta que ni sus creadores sepan explicar una decisión concreta, por ejemplo denegar una beca o un préstamo.
Una alcaldía propone instalar cámaras con reconocimiento facial «para dar seguridad». Construya un argumento equilibrado: dos beneficios posibles, dos riesgos para la…
Una alcaldía propone instalar cámaras con reconocimiento facial «para dar seguridad». Construya un argumento equilibrado: dos beneficios posibles, dos riesgos para la privacidad y una condición que considere imprescindible antes de aprobar la medida.
Datos de entrenamiento, derechos de autor y trabajo oculto
Los sistemas de inteligencia artificial aprenden con «datos de entrenamiento». Explique por qué importa cómo se consiguieron esos datos y valore el caso de millones de…
Los sistemas de inteligencia artificial aprenden con «datos de entrenamiento». Explique por qué importa cómo se consiguieron esos datos y valore el caso de millones de fotos de personas usadas sin su permiso para entrenar un sistema de reconocimiento facial.
Autoría y trabajo oculto
Si una IA compone una canción «al estilo» de un artista, ¿de quién es? Hay posturas: del programador, de quien escribió la instrucción, de nadie, o que el artista imitado merece reconocimiento y pago. Piense también qué aporta lo humano: intención, experiencia y responsabilidad.
Además, etiquetar datos para entrenar una IA (marcar qué hay en una foto o revisar contenido violento) suele subcontratarse en países con salarios muy bajos. Una cadena justa exigiría salario digno, apoyo psicológico y transparencia sobre quién hace ese trabajo. Es un caso de lo que se conoce como colonialismo de datos: el beneficio se queda en unos lugares y el costo en otros.
Una inteligencia artificial compone una canción imitando el estilo de un artista. ¿De quién es la obra? Analice las posturas (del programador, del usuario, de nadie, del…
Una inteligencia artificial compone una canción imitando el estilo de un artista. ¿De quién es la obra? Analice las posturas (del programador, del usuario, de nadie, del artista imitado), qué valor aporta lo humano al arte y defienda una solución razonable.
Soberanía tecnológica
Si pocos actores controlan los chips, las nubes y los grandes modelos, quienes dependen de ellos aceptan sus precios, reglas y condiciones sobre los datos. Eso es dependencia tecnológica. Por eso importan las alternativas abiertas y el desarrollo local.
Los sistemas de inteligencia artificial aprenden con «datos de entrenamiento». Explique por qué importa cómo se consiguieron esos datos y valore el caso de millones de…
Los sistemas de inteligencia artificial aprenden con «datos de entrenamiento». Explique por qué importa cómo se consiguieron esos datos y valore el caso de millones de fotos de personas usadas sin su permiso para entrenar un sistema de reconocimiento facial.
Deepfakes y derechos de las personas
La IA puede fabricar videos, audios e imágenes falsos muy creíbles (deepfakes). Cuando se usa la imagen de una persona sin permiso, se vulneran su imagen y su honor, aunque se presente «como broma». Como principio general, publicar el retrato de una persona exige su consentimiento y sus datos personales deben protegerse.
Se fabrica un video falso de una compañera «cantando» algo ridículo y todo el colegio se ríe. Analice qué derechos vulnera (imagen, honor), qué responsabilidad tiene…
Se fabrica un video falso de una compañera «cantando» algo ridículo y todo el colegio se ríe. Analice qué derechos vulnera (imagen, honor), qué responsabilidad tiene quien lo creó y quien lo reenvía, y qué debe hacer ella y qué deben hacer los que lo reciben.
Obsolescencia programada y costo ambiental
Ejemplos: baterías selladas imposibles de cambiar, piezas pegadas, falta de repuestos o dejar de enviar actualizaciones de un celular que aún funciona. Detrás hay un interés comercial: vender más. El costo lo paga el ambiente en forma de residuos electrónicos y la minería de nuevos materiales.
Explique qué es la obsolescencia programada y ponga un ejemplo de decisión de diseño que acorte la vida útil de un celular.
Explique qué es la obsolescencia programada y ponga un ejemplo de decisión de diseño que acorte la vida útil de un celular.
Un fabricante deja de actualizar un modelo de celular a los dos años aunque el aparato funciona bien. Analice qué intereses hay detrás de esa decisión, qué impacto…
Un fabricante deja de actualizar un modelo de celular a los dos años aunque el aparato funciona bien. Analice qué intereses hay detrás de esa decisión, qué impacto ambiental genera en forma de residuos electrónicos y qué alternativas tiene la persona consumidora para alargar la vida del dispositivo.
Su celular funciona perfectamente pero «ya no se usa». Analice cómo se fabrica esa sensación de obsolescencia percibida (campañas de publicidad, actualizaciones que…
Su celular funciona perfectamente pero «ya no se usa». Analice cómo se fabrica esa sensación de obsolescencia percibida (campañas de publicidad, actualizaciones que ralentizan, presión social) y qué herramientas tiene el consumidor para no entrar en ese juego.
Costo energético de la IA
Un fabricante deja de actualizar un modelo de celular a los dos años aunque el aparato funciona bien. Analice qué intereses hay detrás de esa decisión, qué impacto…
Un fabricante deja de actualizar un modelo de celular a los dos años aunque el aparato funciona bien. Analice qué intereses hay detrás de esa decisión, qué impacto ambiental genera en forma de residuos electrónicos y qué alternativas tiene la persona consumidora para alargar la vida del dispositivo.
Uso responsable de la IA
Un criterio práctico: pregúntese «¿después de usarla, entiendo más o solo entregué algo?». Si la IA piensa por usted, no aprende lo que la tarea buscaba.
Una regla de aula justa y aplicable podría ser: se permite usar IA para entender y revisar, se declara cómo se usó y las evaluaciones clave se hacen sin ella.
Un colegio usa inteligencia artificial para corregir redacciones. Analice sus ventajas (rapidez, criterio uniforme, no se cansa) y sus riesgos (no entiende la ironía,…
Un colegio usa inteligencia artificial para corregir redacciones. Analice sus ventajas (rapidez, criterio uniforme, no se cansa) y sus riesgos (no entiende la ironía, penaliza estilos distintos, errores sin recurso), y defina qué supervisión humana exigiría antes de aceptar sus notas.
Los asistentes de inteligencia artificial redactan textos completos en segundos. Analice qué usos son legítimos en sus estudios y cuáles vacían el aprendizaje, y…
Los asistentes de inteligencia artificial redactan textos completos en segundos. Analice qué usos son legítimos en sus estudios y cuáles vacían el aprendizaje, y proponga una norma de aula sobre el uso de la IA que considere justa y aplicable.
Diseñe un «semáforo ético» para el uso de la inteligencia artificial por parte del alumnado: qué usos estarían en verde (aprender, accesibilidad, practicar idiomas), en…
Diseñe un «semáforo ético» para el uso de la inteligencia artificial por parte del alumnado: qué usos estarían en verde (aprender, accesibilidad, practicar idiomas), en ámbar (traducir tareas completas, generar imágenes de personas reales) y en rojo (suplantar, fabricar bulos, presentar como propio un texto generado). Justifique cada zona.
¿Tecnología neutra? ¿Pausar la IA?
Se dice que «la tecnología es neutra: todo depende del uso». Matice: el sesgo y la obsolescencia programada nacen de decisiones de diseño, así que la tecnología refleja intereses de quienes la crean. Por eso hay debates de regulación, como la pausa de las IA más potentes: a favor está el principio de precaución; en contra, la competencia internacional y los beneficios que se retrasarían. Una regulación mínima razonable pide transparencia, auditorías y responsables claros.
Evalúe la frase «la tecnología es neutra: todo depende del uso que se le dé». Utilice los ejemplos del sesgo algorítmico y de la obsolescencia programada para defenderla…
Evalúe la frase «la tecnología es neutra: todo depende del uso que se le dé». Utilice los ejemplos del sesgo algorítmico y de la obsolescencia programada para defenderla o matizarla con argumentos.
Vuelva al principio: las decisiones de una IA, desde la que le sugiere un video hasta la que aprueba o niega un préstamo en una billetera electrónica del celular, no son mágicas ni neutras; salen de datos y diseños humanos, y por eso quienes las crean y usan responden por ellas.