IA da Anthropic envia denúncia falsa de homicídio à polícia nos EUA
Em julho, um formulário enviado pela IA da Anthropic relatou um homicídio que não ocorreu. A denúncia foi marcada como spam e não chegou a ser analisada pelos investigadores. O caso destaca falhas no tratamento de alertas gerados por sistemas de IA.
Por que importa: Ilustra riscos de falsos positivos em sistemas de IA que interagem com autoridades.
Leia nas fontes: