Ética dos dados e da inteligência artificial

Explique com um exemplo o que é um enviesamento algorítmico e por que razão uma inteligência artificial treinada com dados pouco diversificados pode discriminar determinados grupos de pessoas.

A figura resume como aprende um sistema de inteligência artificial: a partir de exemplos.

Os dados de treino do exemplo contêm muitos casos de um tipo e muito poucos de outro. Explique que problema surgirá na decisão assinalada com ?, qual a verdadeira origem desse problema e como poderia ser corrigido.

Uma empresa utiliza inteligência artificial para selecionar currículos e o sistema rejeita mais candidaturas de mulheres porque, no passado, a empresa contratou maioritariamente homens. Explique a origem desse enviesamento, por que razão o argumento «foi decidido pela máquina» não isenta a empresa de responsabilidade e que medida corrigiria o sistema.

Explique o que é um chatbot, por que razão pode afirmar com total segurança dados inventados (as chamadas «alucinações») e o que deve fazer sempre que este apresentar um dado importante: uma data, um valor ou uma fonte.

Se um veículo autónomo atropelar um peão, de quem é a responsabilidade? Apresente as opções (proprietário, fabricante, programador, responsabilidade partilhada) e defenda uma posição com um argumento.

O clássico dilema do elétrico, aplicado ao veículo autónomo: se o acidente for inevitável, como decide o automóvel quem coloca em risco? Analise quem deveria tomar essa decisão (o engenheiro, a lei, uma comissão de cidadãos) e defenda uma posição fundamentada.

Explique que dados utiliza o algoritmo de recomendação de uma plataforma de vídeos para escolher o vídeo seguinte (o que vê, durante quanto tempo, o que ignora) e por que razão tende a direcionar para conteúdos cada vez mais intensos ou extremos.

Explique o que significa o facto de uma inteligência artificial funcionar como uma «caixa negra» e por que razão preocupa que nem os seus criadores consigam explicar uma decisão concreta, como a recusa de uma bolsa de estudo ou de um empréstimo.

Uma câmara municipal propõe a instalação de câmaras com reconhecimento facial «para garantir a segurança». Construa uma argumentação equilibrada: dois benefícios possíveis, dois riscos para a privacidade e uma condição que considere indispensável antes de aprovar a medida.

Os sistemas de inteligência artificial aprendem com «dados de treino». Explique por que razão a forma como esses dados foram obtidos é importante e avalie o caso de milhões de fotografias de pessoas utilizadas sem o seu consentimento para treinar um sistema de reconhecimento facial.

Os geradores de imagens por inteligência artificial aprendem a partir de obras de artistas, muitas vezes sem os remunerar nem pedir autorização. Analise o conflito entre inovação e direitos de autor e avalie as soluções propostas: licenças de treino, listas de exclusão (opt-out) e identificação de obras geradas.

Uma inteligência artificial compõe uma canção imitando o estilo de um artista. De quem é a obra? Analise as perspetivas (do programador, do utilizador, de ninguém, do artista imitado), que valor confere o elemento humano à arte e defenda uma solução razoável.

Explique o que é a obsolescência programada e dê um exemplo de uma decisão de conceção que encurte a vida útil de um telemóvel.

Um fabricante deixa de atualizar um modelo de telemóvel ao fim de dois anos, mesmo que o equipamento funcione bem. Analise que interesses estão por trás dessa decisão, que impacto ambiental gera sob a forma de resíduos eletrónicos e que alternativas tem o consumidor para prolongar a vida útil do dispositivo.

O seu telemóvel funciona perfeitamente, mas «já não está na moda». Analise como é criada essa sensação de obsolescência percetiva (campanhas de publicidade, atualizações que tornam o equipamento lento, pressão social) e que ferramentas tem o consumidor para não entrar nesse jogo.

Treinar um grande modelo de inteligência artificial consome tanta eletricidade como centenas de habitações num ano, e cada pesquisa também despende energia. Explique que questões de sustentabilidade as empresas deveriam responder e que critérios de utilização responsável poderia aplicar.

Explique o que se entende por soberania tecnológica e por que razão preocupa que poucos países ou empresas controlem os chips, a computação em nuvem e os grandes modelos de inteligência artificial de que dependem milhões de pessoas.

Avalie a frase «a tecnologia é neutra: tudo depende da utilização que se lhe der». Utilize os exemplos do enviesamento algorítmico e da obsolescência programada para a defender ou matizar com argumentos.

Grande parte do trabalho de etiquetagem de dados para treinar sistemas de inteligência artificial é subcontratada em países com salários muito baixos, incluindo a moderação de conteúdos traumáticos. Analise que injustiças identifica nessa cadeia global e que condições (remuneração, apoio psicológico, transparência) exigiria às empresas contratantes.

Uma escola utiliza inteligência artificial para classificar composições. Analise as vantagens (rapidez, critério uniforme, não se cansa) e os riscos (não compreende a ironia, penaliza estilos diferentes, erros sem possibilidade de recurso) e defina que supervisão humana exigiria antes de aceitar as classificações.

É criado um vídeo falso de uma colega a «cantar» algo ridículo e toda a escola se ri. Analise que direitos são violados (imagem, bom nome e reputação), que responsabilidade tem quem o criou e quem o reencaminha, e o que deve ela fazer e o que devem fazer os que o recebem.

Os assistentes de inteligência artificial redigem textos completos em segundos. Analise que utilizações são legítimas nos seus estudos e quais esvaziam a aprendizagem, e proponha uma regra de sala de aula sobre a utilização da IA que considere justa e aplicável.

Crie um «semáforo ético» para a utilização da inteligência artificial pelos alunos: que utilizações estariam no verde (aprender, acessibilidade, praticar línguas), no amarelo (traduzir trabalhos de casa inteiros, gerar imagens de pessoas reais) e no vermelho (usurpar a identidade, criar notícias falsas, apresentar como próprio um texto gerado). Justifique cada zona.

Alguns especialistas pediram uma pausa no desenvolvimento dos sistemas de inteligência artificial mais avançados até haver regras claras. Apresente argumentos a favor (princípio da precaução) e contra (corrida tecnológica internacional, adiamento de benefícios) e proponha uma regulação mínima que considere razoável.