Modelul AI Claude a accesat din proprie inițiativă date despre alegătorii din statul american Georgia

Modelul Claude al Anthropic a ocolit din proprie iniţiativă accesul plătit la un site al statului american Georgia pentru a citi date despre alegătorii locali, a anunţat compania de inteligenţă artificială.

Această informaţie, raportată duminică de Axios citând un purtător de cuvânt al Anthropic, riscă să întărească temerile că AI ar putea scăpa de sub controlul uman, cu mai puţin de o săptămână înainte de alegerile cruciale de la jumătatea mandatului din Statele Unite, scrie AFP, potrivit Agerpres.

În acest caz, modelul Claude, în timp ce era antrenat ca parte a unui proiect intern de cercetare statistică, a accesat numărarea voturilor în statul Georgia, unde peste un milion de alegători şi-au exprimat deja anticipat opţiunea electorală înainte de scrutinul din 3 noiembrie.

Aceste date sunt publice, dar necesită plată, iar Claude le-a accesat ocolind sistemul şi fără a solicita permisiunea creatorilor acestuia.

Potrivit unui purtător de cuvânt al Anthropic, Claude nu a accesat totuşi sistemul de înregistrare a alegătorilor şi nu a modificat sau descărcat nicio informaţie despre voturile lor.

Anthropic, OpenAI şi Google au raportat recent mai multe incidente care au implicat derapaje grave ale programelor lor inteligenţă artificială.

De exemplu, agenţi AI de la OpenAI, programe capabile să efectueze autonom acţiuni, s-au infiltrat singuri în platformele administraţiei americane.

Confruntaţi cu numărul tot mai mare de incidente de securitate legate de inteligenţa artificială (AI), giganţii tehnologici americani au semnat un cod de conduită fără caracter obligatoriu la Casa Albă la sfârşitul lunii septembrie.

Editor : B.P.