Exercícios: Ética dos dados e da inteligência artificial

Explique com um exemplo o que é um viés algorítmico e por que uma inteligência artificial treinada com dados pouco diversificados pode discriminar determinados grupos de pessoas.

Explique o que é a obsolescência programada e dê um exemplo de uma decisão de projeto que encurte a vida útil de um celular.

A figura resume como aprende um sistema de inteligência artificial: a partir de exemplos.

Os dados de treinamento do exemplo contêm muitos casos de um tipo e muito poucos de outro. Explique que problema surgirá na decisão assinalada com ?, qual é a verdadeira origem desse problema e como ele poderia ser corrigido.

Explique o que é um chatbot, por que ele pode afirmar com total segurança dados inventados (as chamadas «alucinações») e o que você deve fazer sempre que ele apresentar um dado importante: uma data, um valor ou uma fonte.

Se um veículo autônomo atropelar um pedestre, de quem é a responsabilidade? Apresente as opções (proprietário, fabricante, programador, responsabilidade compartilhada) e defenda uma posição com um argumento.

Explique que dados o algoritmo de recomendação de uma plataforma de vídeos utiliza para escolher o vídeo seguinte (o que você assiste, por quanto tempo, o que ignora) e por que razão tende a direcionar para conteúdos cada vez mais intensos ou extremos.

Explique o que significa o fato de uma inteligência artificial funcionar como uma «caixa-preta» e por que preocupa que nem os seus criadores consigam explicar uma decisão concreta, como a recusa de uma bolsa de estudos ou de um empréstimo.

Os sistemas de inteligência artificial aprendem com «dados de treinamento». Explique por que a forma como esses dados foram obtidos é importante e avalie o caso de milhões de fotografias de pessoas usadas sem o seu consentimento para treinar um sistema de reconhecimento facial.

Uma empresa utiliza inteligência artificial para selecionar currículos e o sistema rejeita mais candidaturas de mulheres porque, no passado, a empresa contratou majoritariamente homens. Explique a origem desse viés, por que o argumento «foi decidido pela máquina» não isenta a empresa de responsabilidade e que medida corrigiria o sistema.

Um fabricante deixa de atualizar um modelo de celular depois de dois anos, mesmo que o equipamento funcione bem. Analise que interesses estão por trás dessa decisão, que impacto ambiental gera na forma de resíduos eletrônicos e que alternativas o consumidor tem para prolongar a vida útil do dispositivo.

Explique o que se entende por soberania tecnológica e por que preocupa o fato de poucos países ou empresas controlarem os chips, as nuvens e os grandes modelos de inteligência artificial dos quais dependem milhões de pessoas.

Uma escola utiliza inteligência artificial para avaliar redações. Analise as vantagens (rapidez, critério uniforme, não se cansa) e os riscos (não compreende a ironia, penaliza estilos diferentes, erros sem possibilidade de recurso) e defina que supervisão humana você exigiria antes de aceitar as notas.

É criado um vídeo falso de uma colega "cantando" algo ridículo e a escola toda ri. Analise que direitos são violados (imagem, bom nome e reputação), que responsabilidade tem quem o criou e quem o encaminha, e o que ela deve fazer e o que devem fazer os que o recebem.

O seu celular funciona perfeitamente, mas «já não está na moda». Analise como é criada essa sensação de obsolescência perceptiva (campanhas de publicidade, atualizações que tornam o aparelho lento, pressão social) e que ferramentas o consumidor tem para não entrar nesse jogo.

Os geradores de imagens por inteligência artificial aprendem a partir de obras de artistas, muitas vezes sem remunerá-los nem pedir autorização. Analise o conflito entre inovação e direitos autorais e avalie as soluções propostas: licenças de treinamento, listas de exclusão (opt-out) e identificação de obras geradas.

Treinar um grande modelo de inteligência artificial consome tanta eletricidade quanto centenas de residências em um ano, e cada pesquisa também gasta energia. Explique que questões de sustentabilidade as empresas deveriam responder e que critérios de uso responsável você poderia aplicar.

Uma câmara municipal propõe a instalação de câmeras com reconhecimento facial «para garantir a segurança». Construa uma argumentação equilibrada: dois benefícios possíveis, dois riscos para a privacidade e uma condição que considere indispensável antes de aprovar a medida.

Os assistentes de inteligência artificial redigem textos completos em segundos. Analise que usos são legítimos nos seus estudos e quais esvaziam o aprendizado, e proponha uma regra de sala de aula sobre o uso da IA que você considere justa e aplicável.

Avalie a frase «a tecnologia é neutra: tudo depende do uso que se faz dela». Utilize os exemplos do viés algorítmico e da obsolescência programada para defendê-la ou relativizá-la com argumentos.

Crie um «semáforo ético» para o uso da inteligência artificial pelos alunos: que usos estariam no verde (aprender, acessibilidade, praticar idiomas), no amarelo (traduzir lição de casa inteira, gerar imagens de pessoas reais) e no vermelho (usurpar a identidade, criar notícias falsas, apresentar como próprio um texto gerado). Justifique cada zona.

O clássico dilema do bonde, aplicado ao veículo autônomo: se o acidente for inevitável, como o automóvel decide quem coloca em risco? Analise quem deveria tomar essa decisão (o engenheiro, a lei, uma comissão de cidadãos) e defenda uma posição fundamentada.

Grande parte do trabalho de etiquetagem de dados para treinar sistemas de inteligência artificial é terceirizada em países com salários muito baixos, incluindo a moderação de conteúdos traumáticos. Analise que injustiças você identifica nessa cadeia global e que condições (remuneração, apoio psicológico, transparência) você exigiria das empresas contratantes.

Uma inteligência artificial compõe uma canção imitando o estilo de um artista. De quem é a obra? Analise as perspectivas (do programador, do usuário, de ninguém, do artista imitado), que valor confere o elemento humano à arte e defenda uma solução razoável.

Alguns especialistas pediram uma pausa no desenvolvimento dos sistemas de inteligência artificial mais avançados até haver regras claras. Apresente argumentos a favor (princípio da precaução) e contra (corrida tecnológica internacional, adiamento de benefícios) e proponha uma regulação mínima que considere razoável.