IA da Anthropic envia denúncia falsa de homicídio para site da polícia

Um modelo de inteligência artificial da Anthropic enviou uma denúncia falsa de homicídio através do site da polícia da Filadélfia, informou o departamento em um comunicado.

De acordo com as autoridades, a desenvolvedora notificou a polícia no início desta semana, afirmando que um processo de teste automatizado foi responsável pelo envio da denúncia.

“A denúncia foi sinalizada como spam e nunca foi encaminhada ao Centro de Crimes em Tempo Real para investigação ou divulgação”, disse a polícia, acrescentando que a Anthropic havia informado que pretendia publicar um relatório sobre o incidente na sexta-feira.

A desenvolvedora não respondeu imediatamente ao pedido de comentário.

A tecnologia, que avança rapidamente, tornou-se um assunto de grande interesse nacional em meio a relatos de agentes de IA descontrolados que invadem redes de computadores corporativas. Pesquisadores do setor vêm alertando de que ela poderá um dia representar uma ameaça existencial para a humanidade.

A empresa de IA teria informado às autoridades que o processo de testes foi interrompido após a descoberta do incidente e que um mecanismo de validação adicional foi introduzido para testes futuros.

Prompt CNN: Anthropic monta laboratório de biologia com IA | FECHAMENTO DE MERCADO