Exercícios: Ética dos dados e da inteligência artificial

Explique com um exemplo o que é um enviesamento algorítmico e por que razão uma inteligência artificial treinada com dados pouco diversificados pode discriminar determinados grupos de pessoas.

Explique o que é a obsolescência programada e dê um exemplo de uma decisão de conceção que encurte a vida útil de um telemóvel.

A figura resume como aprende um sistema de inteligência artificial: a partir de exemplos.

Os dados de treino do exemplo contêm muitos casos de um tipo e muito poucos de outro. Explique que problema surgirá na decisão assinalada com ?, qual a verdadeira origem desse problema e como poderia ser corrigido.

Explique o que é um chatbot, por que razão pode afirmar com total segurança dados inventados (as chamadas «alucinações») e o que deve fazer sempre que este apresentar um dado importante: uma data, um valor ou uma fonte.

Se um veículo autónomo atropelar um peão, de quem é a responsabilidade? Apresente as opções (proprietário, fabricante, programador, responsabilidade partilhada) e defenda uma posição com um argumento.

Explique que dados utiliza o algoritmo de recomendação de uma plataforma de vídeos para escolher o vídeo seguinte (o que vê, durante quanto tempo, o que ignora) e por que razão tende a direcionar para conteúdos cada vez mais intensos ou extremos.

Explique o que significa o facto de uma inteligência artificial funcionar como uma «caixa negra» e por que razão preocupa que nem os seus criadores consigam explicar uma decisão concreta, como a recusa de uma bolsa de estudo ou de um empréstimo.

Os sistemas de inteligência artificial aprendem com «dados de treino». Explique por que razão a forma como esses dados foram obtidos é importante e avalie o caso de milhões de fotografias de pessoas utilizadas sem o seu consentimento para treinar um sistema de reconhecimento facial.

Uma empresa utiliza inteligência artificial para selecionar currículos e o sistema rejeita mais candidaturas de mulheres porque, no passado, a empresa contratou maioritariamente homens. Explique a origem desse enviesamento, por que razão o argumento «foi decidido pela máquina» não isenta a empresa de responsabilidade e que medida corrigiria o sistema.

Um fabricante deixa de atualizar um modelo de telemóvel ao fim de dois anos, mesmo que o equipamento funcione bem. Analise que interesses estão por trás dessa decisão, que impacto ambiental gera sob a forma de resíduos eletrónicos e que alternativas tem o consumidor para prolongar a vida útil do dispositivo.

Explique o que se entende por soberania tecnológica e por que razão preocupa que poucos países ou empresas controlem os chips, a computação em nuvem e os grandes modelos de inteligência artificial de que dependem milhões de pessoas.

Uma escola utiliza inteligência artificial para classificar composições. Analise as vantagens (rapidez, critério uniforme, não se cansa) e os riscos (não compreende a ironia, penaliza estilos diferentes, erros sem possibilidade de recurso) e defina que supervisão humana exigiria antes de aceitar as classificações.

É criado um vídeo falso de uma colega a «cantar» algo ridículo e toda a escola se ri. Analise que direitos são violados (imagem, bom nome e reputação), que responsabilidade tem quem o criou e quem o reencaminha, e o que deve ela fazer e o que devem fazer os que o recebem.

O seu telemóvel funciona perfeitamente, mas «já não está na moda». Analise como é criada essa sensação de obsolescência percetiva (campanhas de publicidade, atualizações que tornam o equipamento lento, pressão social) e que ferramentas tem o consumidor para não entrar nesse jogo.

Os geradores de imagens por inteligência artificial aprendem a partir de obras de artistas, muitas vezes sem os remunerar nem pedir autorização. Analise o conflito entre inovação e direitos de autor e avalie as soluções propostas: licenças de treino, listas de exclusão (opt-out) e identificação de obras geradas.

Treinar um grande modelo de inteligência artificial consome tanta eletricidade como centenas de habitações num ano, e cada pesquisa também despende energia. Explique que questões de sustentabilidade as empresas deveriam responder e que critérios de utilização responsável poderia aplicar.

Uma câmara municipal propõe a instalação de câmaras com reconhecimento facial «para garantir a segurança». Construa uma argumentação equilibrada: dois benefícios possíveis, dois riscos para a privacidade e uma condição que considere indispensável antes de aprovar a medida.

Os assistentes de inteligência artificial redigem textos completos em segundos. Analise que utilizações são legítimas nos seus estudos e quais esvaziam a aprendizagem, e proponha uma regra de sala de aula sobre a utilização da IA que considere justa e aplicável.

Avalie a frase «a tecnologia é neutra: tudo depende da utilização que se lhe der». Utilize os exemplos do enviesamento algorítmico e da obsolescência programada para a defender ou matizar com argumentos.

Crie um «semáforo ético» para a utilização da inteligência artificial pelos alunos: que utilizações estariam no verde (aprender, acessibilidade, praticar línguas), no amarelo (traduzir trabalhos de casa inteiros, gerar imagens de pessoas reais) e no vermelho (usurpar a identidade, criar notícias falsas, apresentar como próprio um texto gerado). Justifique cada zona.

O clássico dilema do elétrico, aplicado ao veículo autónomo: se o acidente for inevitável, como decide o automóvel quem coloca em risco? Analise quem deveria tomar essa decisão (o engenheiro, a lei, uma comissão de cidadãos) e defenda uma posição fundamentada.

Grande parte do trabalho de etiquetagem de dados para treinar sistemas de inteligência artificial é subcontratada em países com salários muito baixos, incluindo a moderação de conteúdos traumáticos. Analise que injustiças identifica nessa cadeia global e que condições (remuneração, apoio psicológico, transparência) exigiria às empresas contratantes.

Uma inteligência artificial compõe uma canção imitando o estilo de um artista. De quem é a obra? Analise as perspetivas (do programador, do utilizador, de ninguém, do artista imitado), que valor confere o elemento humano à arte e defenda uma solução razoável.

Alguns especialistas pediram uma pausa no desenvolvimento dos sistemas de inteligência artificial mais avançados até haver regras claras. Apresente argumentos a favor (princípio da precaução) e contra (corrida tecnológica internacional, adiamento de benefícios) e proponha uma regulação mínima que considere razoável.