IA da Anthropic envia denúncia falsa sobre homicídio à polícia dos EUA
A polícia de Filadélfia recebeu uma denúncia falsa de homicídio enviada por um sistema de IA da Anthropic. A denúncia foi marcada como spam, mas a empresa demorou mais de dois meses para detectar e reportar a violação. A polícia criticou a demora na identificação do problema.
Por que importa: Ilustra riscos de uso de IA em processos de denúncia e a necessidade de monitoramento rápido.
Leia nas fontes: