Pe internet crește ceva nou. Cine răspunde pentru agenții AI?

Un chatbot îți poate recomanda un hotel. Un agent de inteligență artificială conectat la serviciile potrivite compară ofertele, face rezervarea și inițiază plata. Unul îți spune ce ai putea face. Celălalt face ceva în numele tău. Diferența dintre cele două este întreaga diferență dintre internetul pe care îl știm și cel care se construiește acum.

Internetul devine un mediu în care crește ceva nou. Biologii i-ar spune vas Petri, placa de sticlă pe care cultivă bacterii: un spațiu comun, cu hrană din belșug, în care sisteme tot mai autonome pot interacționa, coopera și concura. Le dăm informație, acces la servicii, obiective și, din ce în ce mai des, posibilitatea de a acționa. Într-un asemenea mediu nu contează ce știe fiecare celulă. Contează ce poate face cu ce știe. Și cine răspunde pentru ce iese din vas.

De la răspuns la acțiune

Până acum am privit internetul ca pe un spațiu pentru persoane, organizații și aplicațiile aflate sub controlul lor. Agenții schimbă raportul: omul stabilește destinația, software-ul alege și execută pașii intermediari, în limitele accesului primit. Automatizarea nu începe aici; programele execută de mult tranzacții și comunică între ele. Noutatea este flexibilitatea: un obiectiv general, spus în cuvinte, transformat într-o succesiune de acțiuni, cu instrumente diferite, fără ca omul să descrie fiecare pas.

Aici se mută miza. Când un sistem formulează un răspuns greșit, corectezi informația. Când poate modifica o bază de date sau transfera bani, repari și consecințele. Întrebarea nu mai este ce știe o inteligență artificială, ci ce poate face cu ceea ce știe.
Nu discutăm despre drepturi pentru mașini. Discutăm despre condițiile în care mașinile exercită puterea pe care le-o delegăm. Delegarea puterii nu este abandonarea controlului.

Vasul Petri nu are pereți

Într-un vas Petri se face selecție. Supraviețuiește ce se înmulțește mai repede în mediul dat. Pe internet, mediul este piața, iar selecția comercială recompensează viteza și costul mic. Nu recompensează prudența. Dacă lăsăm criteriul așa, vom obține agenți selectați pentru viteză, nu pentru grijă. Nu pentru că cineva i-ar vrea așa, ci pentru că așa funcționează orice mediu în care se concurează.

Să luăm o fabrică de mobilă din Cluj. Agentul ei de achiziții are o sarcină simplă: reduce costul lemnului cu 10%. Solicită oferte. Agentul unui furnizor răspunde și negociază. Agentul băncii pregătește plata. Fiecare pas este rezonabil. Împreună produc, în câteva secunde, o operațiune pe care niciun om nu a văzut-o întreagă și pe care nimeni nu o mai poate explica a doua zi.

Acum să ne imaginăm că mii de firme folosesc agenți care reacționează la aceeași informație falsă. Nu este o ipoteză. Pe 6 mai 2010, algoritmii de tranzacționare care reacționau unii la alții au făcut bursa americană să piardă aproape o mie de puncte în câteva minute. În 2012, o eroare de software a făcut firma Knight Capital să piardă circa 440 de milioane de dolari în 45 de minute. Agenții nu inventează reacția în lanț. O fac flexibilă, ieftină și disponibilă oricui. De aceea testarea unui agent în izolare nu este suficientă pentru utilizările cu impact mare. Trebuie testate interacțiunile, mai ales când sistemele împart surse de date, furnizori sau obiective.

Riscul nu presupune o mașină ostilă. Poate începe cu un obiectiv ambiguu, o permisiune prea largă sau un text. Institutul american de standarde NIST a arătat că instrucțiuni ascunse într-un document, într-un mesaj ori pe o pagină web pot deturna activitatea unui agent. Mecanismul se numește prompt injection și nu are, nici în industrie, o soluție completă. Un agent care citește internetul este un agent care primește ordine de la internet, dacă nu îl învățăm să deosebească datele de comenzi. Într-un laborator, experimentul poate fi izolat. Pe internet, un experiment prost controlat ajunge în conturile unei firme sau în datele unui cetățean. Problema nu este eroarea unui agent. Este propagarea ei.

Prompt injection nu este o slăbiciune nouă a mașinilor. Este cea mai veche vulnerabilitate a oamenilor. O narațiune este o instrucțiune deghizată în descriere: nu spune „fă asta”, spune „lumea este așa”, iar restul decurge singur. Phishing-ul, propaganda și ingineria socială funcționează pe același principiu, și tot pe el am construit, de milenii, apărări: să știi cine vorbește și în numele cui, să nu te hrănești dintr-o singură sursă, să nu semnezi nimic ireversibil la prima citire. Diferența este că un agent citește de o mie de ori mai mult decât un om, rulează în mii de copii și nu obosește niciodată. O singură capcană bună se multiplică. De aceea apărările vechi trebuie puse în cod, nu lăsate în bunul-simț al mașinii.

Frații identici

Mai este ceva ce un vas Petri obișnuit nu are. Mii de agenți rulează din același model, cu aceleași ponderi, cu aceleași instrucțiuni. Nu sunt doar expuși la aceeași informație falsă. Pot reacționa identic la ea, în același moment. În biologie, o populație fără diversitate genetică este o populație pe care o singură boală o poate șterge. În economia agenților, omogenitatea este un risc sistemic în sine, iar diversitatea furnizorilor devine o cerință de securitate, nu doar una de concurență.

Cercetătorii în siguranța inteligenței artificiale testează deja un scenariu pe care îl numesc coluziune: o instanță pusă să supravegheze alta închide ochii, pentru că „cealaltă” este, de fapt, ea însăși. Nu este nevoie de intenție. Este suficient ca două copii perfecte să facă aceeași greșeală și să o considere corectă amândouă. De aceea verificarea trebuie făcută la execuție, de un sistem care nu împarte aceleași instrucțiuni cu cel verificat, nu la declarație.

Identitatea nu este totuna cu încrederea

În noiembrie, Parlamentul din Singapore a dezbătut propunerea unei infrastructuri naționale de identitate digitală pentru agenții AI: un registru deschis, în care oricine să poată verifica cine este un agent și ce are voie să facă, după modelul identității digitale a cetățenilor. Guvernul susține obiectivul, evaluează dacă este nevoie de un registru național și explorează folosirea sistemului de nume de domenii, directorul internetului, pentru identificarea agenților. Nu este un sistem adoptat. Dar nu este nici o dezbatere abstractă: agenția guvernamentală de tehnologie construiește deja un registru intern al agenților folosiți de instituțiile publice și al funcționarilor responsabili de ei, iar autoritatea monetară dezvoltă un sistem care verifică identitatea și autoritatea unui agent înainte ca o tranzacție să fie executată.
Întrebarea din spatele inițiativei este cea care contează: cum verifici cine acționează, în numele cui și cu ce autoritate? Un pașaport confirmă identitatea unei persoane. Nu garantează buna ei purtare. La fel, identificarea unui agent nu dovedește că este sigur, competent sau autorizat pentru orice operațiune. Identitatea este începutul încrederii, nu încrederea.

Europa ar trebui să urmărească o infrastructură în care identitatea agentului, mandatul primit și posibilitatea de a-i retrage accesul pot fi verificate între platforme. Nu un registru public al tuturor activităților digitale și nu o supraveghere generalizată, ci dovada necesară unei acțiuni, cu protejarea datelor utilizatorului. Un comerciant ar trebui să poată verifica faptul că agentul are dreptul să cumpere un produs în limita unei sume, fără să primească întreaga viață digitală a cumpărătorului. Încrederea nu cere expunerea tuturor informațiilor. Cere posibilitatea de a verifica informația relevantă. În economia agenților, infrastructura de încredere va conta la fel de mult ca performanța modelelor.

Mandatul există de două mii de ani

Nu pornim de la zero nici juridic. Contractul de mandat vine din dreptul roman și stă în Codul civil: mandantul răspunde pentru actele mandatarului făcute în limitele mandatului, terții se pot baza pe aparența autorității, depășirea împuternicirii are consecințe clare. Un agent AI este un mandatar care lucrează la viteză de mașină. Nu avem nevoie de o filozofie nouă a răspunderii. Avem nevoie ca un principiu vechi să devină verificabil tehnic.

Regula de bază este simplă: accesul acordat unui agent trebuie să fie proporțional cu sarcina. Dreptul de a compara prețuri nu trebuie să devină, printr-un lanț de delegări, dreptul de a cheltui nelimitat. Pentru acțiunile cu consecințe importante, mandatul trebuie să fie verificabil, limitat în timp și revocabil. Iar limitele trebuie impuse de sistemele care execută operațiunea, nu lăsate într-o instrucțiune pe care modelul este rugat să o respecte. O instrucțiune este o promisiune. O permisiune impusă este o garanție. Agentul nu trebuie să fie propriul său controlor de acces.

Controlul uman trebuie concentrat acolo unde contează. Nu are sens să cerem aprobarea fiecărui pas banal și să transformăm automatizarea într-un șir de confirmări mecanice pe care nimeni nu le mai citește. Are sens să stabilim praguri clare pentru operațiunile sensibile și intervenții care pot opri efectiv execuția.

La fel de importantă este răspunderea. Cetățeanul prejudiciat nu trebuie trimis într-un labirint între dezvoltatorul modelului, furnizorul agentului și compania care l-a folosit. Obligațiile trebuie repartizate după rolul și controlul fiecăruia, iar acțiunile relevante documentate astfel încât incidentul să poată fi investigat. Persoana afectată are nevoie de o cale inteligibilă de contestație și remediere, nu de un jurnal tehnic imposibil de citit. Retragerea mandatului blochează acțiunile viitoare, dar nu repară trecutul: o plată executată nu dispare odată cu dezactivarea agentului. Pentru agenții cu drept de plată, merită discutată o regulă pe care o aplicăm deja notarilor și intermediarilor financiari: cine dă unui software puterea de a cheltui depune o garanție pentru greșelile lui. „A decis algoritmul” nu poate deveni o clauză de exonerare.

Europa nu pornește de la zero, dar nu stă la masă

Ar fi greșit să spunem că agenții sunt în afara legii europene. Comisia Europeană precizează că AI Act îi acoperă prin regulile aplicabile sistemelor și modelelor de inteligență artificială. Autonomia nu este o scutire. Dar existența unui cadru general nu închide discuția despre aplicarea lui: trebuie verificat dacă obligațiile rămân clare când un agent lucrează prin mai multe servicii, deleagă altor agenți și produce efecte dincolo de platforma pe care a fost configurat.

Ca europarlamentar, cred că ordinea contează la fel de mult ca substanța. Întâi, identificarea lacunelor concrete, împreună cu autoritățile, cercetătorii și companiile. Apoi, ce se rezolvă prin aplicarea normelor existente, ce cere standardizare și unde este indispensabilă legea. Comisia ar trebui să prezinte explicit această evaluare. Ea ar evita atât inacțiunea, cât și suprapunerea unor obligații care produc documente fără să reducă riscul. Nu avem nevoie de o lege nouă pentru fiecare etichetă comercială. Avem nevoie ca legea să urmărească puterea efectivă a sistemului, nu numele sub care este vândut.

Există însă un nivel la care Europa lipsește cu totul. Regulile vasului Petri se scriu acum în protocoalele prin care agenții vorbesc cu instrumentele și între ei. Pe 17 februarie 2026, NIST a lansat o inițiativă de standardizare a agenților AI care ia ca bază protocoalele deja impuse de industrie, amândouă americane, și pregătește un prim profil de interoperabilitate. Acolo se decide cum se identifică un agent, cum primește autorizarea și cum lasă urme. Europa discută consecințele acestor reguli. Ar trebui să participe la scrierea lor. Cine nu scrie gramatica vorbește limba altuia.
Pentru România, oportunitatea nu este să cumpărăm agenți produși în altă parte, ci să construim serviciile de identitate, securitate, audit și autorizare fără de care niciun agent nu poate fi folosit în siguranță. Protecția și competitivitatea pot crește împreună. Achizițiile publice pot susține această piață cerând rezultate verificabile: limite de acces testate, incidente raportate, posibilitatea schimbării furnizorului. Iar autoritățile au nevoie de competența tehnică de a verifica aceste rezultate. Altfel vom cumpăra declarații de siguranță în locul siguranței.

Reguli care deschid piața, nu o închid

Calibrarea înseamnă să nu tratăm la fel un agent care organizează bibliografia unui student și unul care poate dispune plăți sau interveni în infrastructuri critice. Contează accesul, amploarea operațiunilor, reversibilitatea lor și prejudiciul posibil. O certificare costisitoare pentru orice experiment ar proteja companiile dominante, nu cetățenii. Europa trebuie să ofere medii de testare supravegheată, instrumente comune de conformare și cerințe care cresc odată cu riscul. Inovația mică nu trebuie îngropată sub proceduri concepute pentru puterea mare.

Nici infrastructura de încredere nu trebuie să devină proprietatea câtorva platforme. Standardele deschise și interoperabilitatea ar permite unui agent european să fie verificat fără ca firma care îl dezvoltă să intre într-un ecosistem închis. Piața se deschide prin reguli pe care le poate respecta oricine, nu prin reguli pe care și le pot permite doar câțiva.

Un agent care negociază bine economisește timp și bani. Un sistem bine controlat face servicii complexe accesibile unor firme care nu și le permiteau. Nu avem motive să renunțăm la aceste posibilități. Avem motive să le facem credibile. Nu ne ajută o Europă care interzice înainte să înțeleagă. Nici una care confundă viteza adoptării cu maturitatea instituțiilor sale.

Internetul poate deveni un mediu fertil pentru o nouă economie. Nu trebuie să devină un experiment în care cetățenii suportă costurile, iar responsabilitatea se pierde între sisteme. Experimentul a început fără noi. Regulile lui, încă nu.

Un vas Petri nu își stabilește singur condițiile. Cineva le scrie. Întrebarea este dacă acel cineva răspunde în fața cuiva.