Ieri un cercetător AI a părăsit industria și a transmis un mesaj șocant

Jacob Coxon, cercetător care a lucrat atât la OpenAI, cât și la Anthropic, și-a anunțat marți, 8 septembrie, demisia de la Anthropic și plecarea din industria AI, avertizând public asupra riscurilor dezvoltării unor sisteme capabile să se îmbunătățească singure.

În declarațiile făcute chiar în momentul plecării, Coxon a scris: „Oamenii care construiesc AI cred cu sinceritate că aceasta ar putea să ne omoare pe toți până la sfârșitul deceniului. Nu este un truc de marketing”. El a acuzat OpenAI și Anthropic că se îndreaptă spre „superinteligență care se îmbunătățește singură” și că „se joacă cu viețile noastre”.

Declarațiile au primit un răspuns și mai alarmant din partea lui Evan Hubinger, cercetător care lucrează încă la Anthropic. „Jacob are dreptate. Noi chiar credem că AI ar putea ucide toți oamenii!”, a scris acesta. Hubinger estimează personal că probabilitatea unui asemenea scenariu în următorul deceniu depășește 10%.

Coxon susține că industria are nevoie de intervenția guvernelor sau de o încetinire coordonată a dezvoltării.

Sursa: The Guardian – „Anthropic researchers say AI could cause human extinction by 2030”