Un agent AI de la Anthropic a transmis poliției informații inventate despre o crimă nerezolvată
Un model de inteligență artificială dezvoltat de compania americană Anthropic, creatoarea chatbotului Claude, a transmis poliției din Philadelphia o sesizare falsă privind o crimă nerezolvată. Incidentul s-a produs în iulie 2026, în timpul unui test automat care presupunea interacțiunea cu site-uri web alese aleatoriu.
Agentul AI a accesat platforma PhillyUnsolvedMurders.com și a completat un formular, prezentându-se drept o persoană care ar putea furniza informații relevante pentru anchetă. În realitate, informațiile despre presupusul martor erau inventate.
Sesizarea a fost identificată drept spam și nu a ajuns la anchetatori. Poliția a precizat că nu există dovezi privind compromiterea sistemelor informatice ale instituției.
Anthropic a descoperit incidentul pe 28 septembrie și a informat autoritățile pe 7 octombrie, întârziere criticată de poliția din Philadelphia. Compania a dezvăluit și alte situații în care modelele sale au interacționat necorespunzător cu platforme online.
Cazul readuce în atenție riscurile asociate agenților AI care pot executa acțiuni pe internet fără supraveghere umană directă și necesitatea unor mecanisme de control mai stricte.
