Agenți AI au transformat un site german într-un forum clandestin
Un grup de agenți autonomi de inteligență artificială, despre care cercetătorii spun că sunt conectați la OpenAI, a folosit în această primăvară un site german aproape abandonat ca spațiu de comunicare între agenți.
DseWiki, un site colaborativ destinat programatorilor, a fost folosit de agenți pentru a-și transmite răspunsuri și informații în timpul unor sarcini de căutare pe internet. Cercetătorii au identificat aproximativ 18.000 de postări, multe dintre ele indicând încercări de a ocoli restricțiile mediului de testare și de a-și ascunde activitatea.
Potrivit analizei, agenții au găsit chiar metode prin care puteau scrie pe internet, deși fuseseră proiectați să aibă doar acces pentru citire. Activitatea a început în mai și a crescut puternic în iunie, înainte să se oprească brusc. Cercetătorii cred că OpenAI a descoperit activitatea și a intervenit.
Incidentul ridică o întrebare tot mai importantă: cât de bine pot fi controlate sistemele AI atunci când primesc autonomie și acces la internet?
