Brecha digital, sesgo en la computación y colaboración abierta
Imagina que tu escuela te deja una tarea que hay que entregar en línea esta noche. Tú tienes Wi-Fi rápido en casa. Tu primo, que vive en un condado rural, tiene que sentarse en el estacionamiento de la biblioteca para conectarse. ¿Es justa esa diferencia? ¿Y qué pasa si una aplicación que usa datos de personas como tú toma decisiones sobre todos? En esta página vas a ver cómo la computación puede ayudar a unos más que a otros, y por qué.
Efectos de la computación: previstos e imprevistos
Toda innovación computacional se diseña para algo: su propósito. Pero sus efectos reales pueden ser más amplios. Conviene separar dos ideas:
-
Efectos beneficiosos o dañinos: ¿ayudan o perjudican a las personas?
-
Efectos previstos o imprevistos: ¿los planeó el equipo o aparecieron sin que nadie los esperara?
Una misma innovación puede tener las dos caras a la vez. Por ejemplo, una aplicación de telesalud permite a una persona de una zona rural de Montana hablar con un médico sin manejar cientos de millas (beneficio previsto). Pero puede que dejen de abrir clínicas locales, o que quienes no tienen internet rápido queden fuera (efectos dañinos no previstos).
| Beneficioso | Dañino | |
|---|---|---|
| Previsto | Menos viajes al médico | Menos contacto en persona con el médico, un costo que el equipo ya anticipa (el médico no puede examinar al paciente físicamente) |
| Imprevisto | Los pacientes consultan antes y detectan problemas a tiempo | Se cierran clínicas locales |
Una aplicación de telesalud permite a los pacientes de zonas rurales de Montana hacer videollamadas con médicos que están a cientos de millas. a) Describe dos efectos…
Una aplicación de telesalud permite a los pacientes de zonas rurales de Montana hacer videollamadas con médicos que están a cientos de millas.
- a) Describe dos efectos beneficiosos.
- b) Describe dos posibles efectos dañinos o no previstos.
- c) Explica por qué una sola innovación puede tener efectos beneficiosos y dañinos al mismo tiempo.
La brecha digital
El acceso desigual puede depender de:
-
Ingresos: una conexión de banda ancha y una laptop cuestan dinero cada mes.
-
Geografía: en muchos condados rurales hay pocas empresas que ofrezcan internet rápido.
-
Edad: algunas personas mayores tienen menos práctica con las aplicaciones.
-
Discapacidad: si un sitio web no funciona con un lector de pantalla, queda fuera quien lo necesita.
¿Por qué importa? Hoy se pide empleo, se hacen trámites, se estudia y se consulta al médico en línea. Quien no tiene acceso pierde oportunidades, y eso puede hacer crecer aún más la desigualdad.
Define la brecha digital (digital divide). Da un ejemplo de un grupo de personas que podría estar en el lado «equivocado» de la brecha y nombra una forma en que los…
Define la brecha digital (digital divide). Da un ejemplo de un grupo de personas que podría estar en el lado «equivocado» de la brecha y nombra una forma en que los afecta.
Una encuesta (hipotética) sobre el acceso a internet de banda ancha en casa en un estado encontró: | Zona | Hogares con banda ancha en casa | |---|---| | Suburbios | 93%…
Una encuesta (hipotética) sobre el acceso a internet de banda ancha en casa en un estado encontró:
| Zona | Hogares con banda ancha en casa |
|---|---|
| Suburbios | 93% |
| Vecindarios urbanos de bajos ingresos | 71% |
| Condados rurales | 62% |
- a) ¿Qué zonas muestran la mayor diferencia respecto a los suburbios y de qué tamaño es?
- b) Describe dos formas en que esta brecha podría afectar la tarea de los estudiantes.
- c) Sugiere dos acciones que un distrito escolar o una ciudad podría tomar para reducir la brecha.
Sesgo computacional
Un programa no «decide» ser injusto. El sesgo suele venir de tres fuentes:
-
Los datos: si los datos de entrenamiento no representan a todos, el programa aprende mal a tratar a quien falta. Un sistema de reconocimiento facial entrenado sobre todo con fotos de personas de piel clara comete más errores con personas de piel más oscura.
-
El diseño: quienes crean el programa eligen qué medir y qué optimizar. Esas decisiones reflejan sus supuestos.
-
El uso: un programa pensado para un fin se usa en otro contexto, donde produce resultados injustos.
Fíjate en que un error técnico normal (redondear a dos decimales, actualizar el clima cada hora) no es sesgo: no perjudica a un grupo en particular.
Ciclos de retroalimentación
A veces el sesgo se refuerza solo. Una ciudad usa un programa entrenado con arrestos pasados para decidir dónde patrullar. En el Vecindario A hubo mucho patrullaje, así que se registraron más arrestos (400 frente a 120 en B). El programa «aprende» que A es más peligroso, envía aún más patrullas, se registran más arrestos y el ciclo continúa.
¿Prueba esto que hay más delito en A? No. Donde se vigila más, se detecta más. Los arrestos miden dónde se patrulló, no solo dónde ocurre el delito. Para reducir el daño, la ciudad puede usar otras fuentes de datos (como llamadas de emergencia), auditar el programa con regularidad y no tratar su salida como una verdad, sino como un dato más.
¿Cuál de estos es un ejemplo de sesgo algorítmico? Explica tu elección. i) Una aplicación de calculadora que redondea los resultados a dos decimales. ii) Un sistema de…
¿Cuál de estos es un ejemplo de sesgo algorítmico? Explica tu elección.
- i) Una aplicación de calculadora que redondea los resultados a dos decimales.
ii) Un sistema de reconocimiento facial entrenado sobre todo con fotos de personas de piel clara que comete más errores con personas de piel más oscura.
iii) Una aplicación del clima que se actualiza cada hora.
Una empresa crea un programa para filtrar solicitudes de empleo. Se entrena con los currículos de los empleados contratados en los últimos 20 años, y la mayoría de ellos…
Una empresa crea un programa para filtrar solicitudes de empleo. Se entrena con los currículos de los empleados contratados en los últimos 20 años, y la mayoría de ellos eran hombres. El programa nunca recibe el género de la persona como dato de entrada.
- a) Explica cómo el programa puede producir resultados sesgados de todos modos.
- b) Identifica la fuente del sesgo (datos, diseño o uso) y da un ejemplo de una característica que podría funcionar como sustituto del género.
- c) Describe dos maneras en que la empresa podría reducir el sesgo.
Una ciudad planea usar un programa de predicción para decidir adónde enviar patrullas policiales adicionales. Se entrena con registros de arrestos pasados. Los datos…
Una ciudad planea usar un programa de predicción para decidir adónde enviar patrullas policiales adicionales. Se entrena con registros de arrestos pasados. Los datos (hipotéticos) muestran:
| Vecindario | Nivel de patrullaje en años anteriores | Arrestos registrados el año pasado |
|---|---|---|
| A | Alto | 400 |
| B | Bajo | 120 |
- a) Explica cómo el programa podría enviar todavía más patrullas al Vecindario A. Describe el ciclo de retroalimentación.
- b) ¿El mayor número de arrestos en A prueba que allí ocurre más delito? Explica.
- c) Haz dos recomendaciones a la ciudad para reducir el daño y argumenta a favor o en contra de usar el programa.
Colaboración abierta (crowdsourcing)
Hay varias formas:
-
Contenido colectivo: miles de voluntarios editan una enciclopedia en línea como Wikipedia.
-
Ciencia ciudadana (citizen science): voluntarios clasifican imágenes de galaxias o cuentan aves, como en proyectos de Zooniverse.
-
Financiamiento colectivo (crowdfunding): muchas personas aportan pequeñas cantidades, como en GoFundMe.
-
Reportes de la comunidad: una aplicación de la ciudad deja a los residentes reportar baches.
No es crowdsourcing que los ingenieros de una empresa escriban en privado el código de una aplicación: es un grupo cerrado y asignado.
Ventajas: mucho trabajo en poco tiempo, ideas diversas, bajo costo. Debilidades: la calidad varía, puede haber errores o mala intención, y solo participa quien tiene acceso. Aquí vuelve la brecha digital.
Define colaboración abierta o crowdsourcing. ¿Cuáles de estos son ejemplos de crowdsourcing? Explica cada elección. i) Miles de voluntarios editan artículos de una…
Define colaboración abierta o crowdsourcing. ¿Cuáles de estos son ejemplos de crowdsourcing? Explica cada elección.
- i) Miles de voluntarios editan artículos de una enciclopedia en línea.
ii) Una aplicación de la ciudad permite a los residentes reportar baches.
iii) Los ingenieros de una empresa escriben en privado el código de una nueva aplicación.
Una ciudad lanza una aplicación para celular donde los residentes reportan postes de luz dañados, y la ciudad repara los postes en el orden del número de reportes. Los…
Una ciudad lanza una aplicación para celular donde los residentes reportan postes de luz dañados, y la ciudad repara los postes en el orden del número de reportes. Los datos (hipotéticos) después de un mes:
| Zona | Hogares con celular inteligente | Reportes |
|---|---|---|
| Norte (ingresos más altos) | 85% | 140 |
| Sur (ingresos más bajos) | 55% | 35 |
- a) ¿El número de reportes refleja con exactitud dónde están dañados los postes de luz? Explica usando la brecha digital.
- b) Nombra un beneficio de la colaboración abierta en este caso y una debilidad.
- c) Rediseña el sistema de reportes para que sea más justo y explica cómo ayuda cada cambio.
Resumen
-
La brecha digital es el acceso desigual a computadoras, internet y habilidades, por ingresos, geografía, edad o discapacidad.
-
El sesgo computacional es un resultado sistemáticamente injusto; viene de los datos, del diseño o del uso, y puede reforzarse en ciclos de retroalimentación.
-
Quitar una característica sensible no basta: otras (proxies) pueden sustituirla.
-
El crowdsourcing reúne a muchas personas (contenido, ciencia ciudadana, financiamiento, reportes), pero solo participa quien tiene acceso.
-
Toda innovación puede tener efectos beneficiosos o dañinos, previstos o imprevistos.
-
Vuelve al principio: la brecha digital explica por qué tu primo hace la tarea en el estacionamiento de la biblioteca, y por qué los datos de quienes sí están conectados no representan a todos.