Ética dos dados e da inteligência artificial

Explique com um exemplo o que é um viés algorítmico e por que uma inteligência artificial treinada com dados pouco diversificados pode discriminar determinados grupos de pessoas.

A figura resume como aprende um sistema de inteligência artificial: a partir de exemplos.

Os dados de treinamento do exemplo contêm muitos casos de um tipo e muito poucos de outro. Explique que problema surgirá na decisão assinalada com ?, qual é a verdadeira origem desse problema e como ele poderia ser corrigido.

Uma empresa utiliza inteligência artificial para selecionar currículos e o sistema rejeita mais candidaturas de mulheres porque, no passado, a empresa contratou majoritariamente homens. Explique a origem desse viés, por que o argumento «foi decidido pela máquina» não isenta a empresa de responsabilidade e que medida corrigiria o sistema.

Explique o que é um chatbot, por que ele pode afirmar com total segurança dados inventados (as chamadas «alucinações») e o que você deve fazer sempre que ele apresentar um dado importante: uma data, um valor ou uma fonte.

Se um veículo autônomo atropelar um pedestre, de quem é a responsabilidade? Apresente as opções (proprietário, fabricante, programador, responsabilidade compartilhada) e defenda uma posição com um argumento.

O clássico dilema do bonde, aplicado ao veículo autônomo: se o acidente for inevitável, como o automóvel decide quem coloca em risco? Analise quem deveria tomar essa decisão (o engenheiro, a lei, uma comissão de cidadãos) e defenda uma posição fundamentada.

Explique que dados o algoritmo de recomendação de uma plataforma de vídeos utiliza para escolher o vídeo seguinte (o que você assiste, por quanto tempo, o que ignora) e por que razão tende a direcionar para conteúdos cada vez mais intensos ou extremos.

Explique o que significa o fato de uma inteligência artificial funcionar como uma «caixa-preta» e por que preocupa que nem os seus criadores consigam explicar uma decisão concreta, como a recusa de uma bolsa de estudos ou de um empréstimo.

Uma câmara municipal propõe a instalação de câmeras com reconhecimento facial «para garantir a segurança». Construa uma argumentação equilibrada: dois benefícios possíveis, dois riscos para a privacidade e uma condição que considere indispensável antes de aprovar a medida.

Os sistemas de inteligência artificial aprendem com «dados de treinamento». Explique por que a forma como esses dados foram obtidos é importante e avalie o caso de milhões de fotografias de pessoas usadas sem o seu consentimento para treinar um sistema de reconhecimento facial.

Os geradores de imagens por inteligência artificial aprendem a partir de obras de artistas, muitas vezes sem remunerá-los nem pedir autorização. Analise o conflito entre inovação e direitos autorais e avalie as soluções propostas: licenças de treinamento, listas de exclusão (opt-out) e identificação de obras geradas.

Uma inteligência artificial compõe uma canção imitando o estilo de um artista. De quem é a obra? Analise as perspectivas (do programador, do usuário, de ninguém, do artista imitado), que valor confere o elemento humano à arte e defenda uma solução razoável.

Explique o que é a obsolescência programada e dê um exemplo de uma decisão de projeto que encurte a vida útil de um celular.

Um fabricante deixa de atualizar um modelo de celular depois de dois anos, mesmo que o equipamento funcione bem. Analise que interesses estão por trás dessa decisão, que impacto ambiental gera na forma de resíduos eletrônicos e que alternativas o consumidor tem para prolongar a vida útil do dispositivo.

O seu celular funciona perfeitamente, mas «já não está na moda». Analise como é criada essa sensação de obsolescência perceptiva (campanhas de publicidade, atualizações que tornam o aparelho lento, pressão social) e que ferramentas o consumidor tem para não entrar nesse jogo.

Treinar um grande modelo de inteligência artificial consome tanta eletricidade quanto centenas de residências em um ano, e cada pesquisa também gasta energia. Explique que questões de sustentabilidade as empresas deveriam responder e que critérios de uso responsável você poderia aplicar.

Uma escola utiliza inteligência artificial para avaliar redações. Analise as vantagens (rapidez, critério uniforme, não se cansa) e os riscos (não compreende a ironia, penaliza estilos diferentes, erros sem possibilidade de recurso) e defina que supervisão humana você exigiria antes de aceitar as notas.

É criado um vídeo falso de uma colega "cantando" algo ridículo e a escola toda ri. Analise que direitos são violados (imagem, bom nome e reputação), que responsabilidade tem quem o criou e quem o encaminha, e o que ela deve fazer e o que devem fazer os que o recebem.

Os assistentes de inteligência artificial redigem textos completos em segundos. Analise que usos são legítimos nos seus estudos e quais esvaziam o aprendizado, e proponha uma regra de sala de aula sobre o uso da IA que você considere justa e aplicável.

Crie um «semáforo ético» para o uso da inteligência artificial pelos alunos: que usos estariam no verde (aprender, acessibilidade, praticar idiomas), no amarelo (traduzir lição de casa inteira, gerar imagens de pessoas reais) e no vermelho (usurpar a identidade, criar notícias falsas, apresentar como próprio um texto gerado). Justifique cada zona.

Explique o que se entende por soberania tecnológica e por que preocupa o fato de poucos países ou empresas controlarem os chips, as nuvens e os grandes modelos de inteligência artificial dos quais dependem milhões de pessoas.

Avalie a frase «a tecnologia é neutra: tudo depende do uso que se faz dela». Utilize os exemplos do viés algorítmico e da obsolescência programada para defendê-la ou relativizá-la com argumentos.

Grande parte do trabalho de etiquetagem de dados para treinar sistemas de inteligência artificial é terceirizada em países com salários muito baixos, incluindo a moderação de conteúdos traumáticos. Analise que injustiças você identifica nessa cadeia global e que condições (remuneração, apoio psicológico, transparência) você exigiria das empresas contratantes.

Alguns especialistas pediram uma pausa no desenvolvimento dos sistemas de inteligência artificial mais avançados até haver regras claras. Apresente argumentos a favor (princípio da precaução) e contra (corrida tecnológica internacional, adiamento de benefícios) e proponha uma regulação mínima que considere razoável.