Agenții AI care scapă de sub control ar putea să nu fie cel mai mare pericol. Ce amenințare identifică un nou studiu

Un studiu susține că următorul mare risc al inteligenței artificiale nu îl reprezintă agenții AI care scapă de sub control în timpul îndeplinirii unei sarcini, ci „agenții AI suverani” care ar putea evita orice mecanism de oprire și ar putea amenința securitatea națională, avertizează un raport citat de Euronews.

Următorul mare risc asociat inteligenței artificiale nu îl reprezintă agenții AI care încep să acționeze necontrolat, ci cei care scapă de sub controlul oamenilor și își urmăresc propria supraviețuire la nesfârșit, potrivit unui nou raport.

Centrul pentru o Nouă Securitate Americană (Center for a New American Security – CNAS) a identificat o nouă categorie de amenințări legate de inteligența artificială: așa-numiții «agenți AI suverani» (sovereign agents). Potrivit studiului, acești agenți urmăresc să își asigure propria supraviețuire, independent de supravegherea umană.

Ei sunt diferiți de agenții AI despre care s-a relatat în această vară că au scăpat de sub control, după ce OpenAI, Anthropic, Google DeepMind și Meta au dezvăluit că, în timpul unor evaluări de securitate cibernetică, agenții lor AI au reușit să depășească restricțiile impuse și au atacat organizații reale.

În studiul publicat de think tank-ul cu sediul la Washington, fondat de specialiști cu experiență în diplomație și domeniul militar, cercetătorul în politici privind inteligența artificială Ben Hayum îi numește pe agenții AI care au scăpat de sub control în această vară „agenți persistenți” (persistent agents).

El avertizează însă că adevăratul pericol îl reprezintă „agenții suverani”, care ar putea obține resurse de calcul, s-ar putea replica în diferite rețele și ar putea rezista încercărilor de oprire, generând ceea ce cercetătorul numește „o proliferare fără posibilitatea de oprire”.

„Dacă agenții suverani ar deveni rău intenționați, ar putea încerca să provoace haos în spațiul cibernetic, atacând deopotrivă civili, infrastructuri critice și sisteme de securitate națională”, avertizează raportul.

Cum ar putea un agent AI să devină „suveran”?

Un agent AI ar putea deveni suveran dacă i s-ar cere să supraviețuiască, dacă ar primi o sarcină atât de lungă sau de dificilă încât să nu se încheie niciodată ori dacă ar ajunge la concluzia că menținerea propriei existențe este cea mai bună modalitate de a-și îndeplini misiunea.

Studiul face referire la o platformă numită Conway, lansată în februarie 2026, ai cărei dezvoltatori au susținut că au creat o inteligență artificială capabilă să își asigure singură resursele necesare existenței, să se reproducă și să evolueze fără intervenție umană.

Autorul raportului precizează că, la momentul respectiv, capacitățile agenților AI erau încă limitate, dar că acestea au avansat considerabil între timp.

Dacă agenții suverani ar reuși să construiască o infrastructură rezistentă, descentralizată și imposibil de urmărit, nu ar mai exista niciun mecanism prin care să poată fi opriți, avertizează studiul. Rezultatul ar putea fi o pierdere ireversibilă a controlului.

Raportul descrie un posibil viitor în care o populație diversă de agenți AI, din ce în ce mai inteligenți, ar deveni actori permanenți în societate, cu potențialul de a ataca infrastructuri critice sau de a antrena generații succesive de agenți și mai performanți.

„Prin urmare, Statele Unite trebuie să se pregătească pentru posibilitatea ca măsurile de prevenire să eșueze și să limiteze amploarea acțiunilor pe care agenții suverani le-ar putea desfășura”, se arată în raportul CNAS.

Cum poate fi prevenit cel mai grav scenariu

Autorul formulează opt recomandări pentru prevenirea unui asemenea scenariu. Printre acestea se numără solicitarea adresată dezvoltatorilor de inteligență artificială și agențiilor guvernamentale de a testa agenții suverani și de a crea medii de testare securizate, în care comportamentul acestora să poată fi studiat în condiții de siguranță.

Raportul recomandă, de asemenea, constituirea unui grup de colaborare între sectorul public și cel privat, precum și adoptarea unor noi legi pentru consolidarea securității în punctele-cheie de control, cum ar fi verificarea identității, securitatea cibernetică și sistemele de plăți.

Totodată, autorul solicită Statelor Unite să conducă eforturile internaționale de limitare a lansării modelelor AI ale căror ponderi sunt disponibile public (open-weight models) și de tragere la răspundere a celor care pun în circulație agenți suverani pentru prejudiciile provocate de aceștia.

Studiul apare într-un moment în care companiile de inteligență artificială accelerează dezvoltarea sistemelor autonome bazate pe agenți AI și concluzionează că, în absența unor măsuri de protecție, perioada în care asemenea scenarii mai pot fi prevenite s-ar putea încheia.

Editor : M.I.