„Nașul AI” îi va avertiza pe liderii UE că aceasta ar putea prelua controlul asupra lumii în următorii trei ani și va ucide oameni

O inteligență artificială (AI) superinteligentă va prelua controlul asupra lumii în următorii trei ani și va ucide oamenii, dacă nu va fi oprită. Profesorul Geoffrey Hinton va lua cuvântul la summitul de la Dublin, transmitând mesajul că mașinile superinteligente ar putea în curând să „ne controleze”, scrie The Telegraph.

Profesorul Geoffrey Hinton, laureatul britanico-canadian al Premiului Nobel, cunoscut pentru contribuțiile sale la dezvoltarea rețelelor neuronale, va lua cuvântul vineri la Dublin, în cadrul summitului Consiliului European dedicat AI, pentru a prezenta acest scenariu „înfricoșător”.

Subiectul a fost discutat în cadrul conferințelor Hinton organizate de Fundația pentru Siguranța AI la Toronto, unde experții au analizat riscul ca inteligența artificială să devină suficient de puternică pentru a depăși puterea guvernelor.

„Sfârșitul suveranității și al autodeterminării umane”

Paul Christiano, fondatorul Centrului de Cercetare pentru Aliniere, a avertizat că multe persoane ar putea muri dacă sistemele de AI ar prelua controlul.

„Cred că există un risc ridicat ca AI să preia controlul în următorii trei ani și un risc semnificativ chiar și în următoarele șase până la 12 luni”, a spus el.

„Chiar dacă nu vom muri, o preluare a controlului ar însemna, într-un fel, sfârșitul suveranității și al autodeterminării umane și este ceva ce ar trebui să ne străduim din răsputeri să evităm.

Cred că, pentru majoritatea celor prezenți în această sală, cel mai probabil motiv pentru care vor muri va fi un accident provocat de AI.”

Profesorul Hinton, care oferă consultanță neoficială guvernului britanic în domeniul AI, a avertizat frecvent asupra pericolelor acestei tehnologii, dar a spus că nu și-a dat seama că termenul este atât de alarmant.

„Am tot spus că aceste sisteme vor deveni mai inteligente decât noi și că trebuie să ne îngrijorăm cu adevărat, iar acest lucru s-ar putea întâmpla în următorii 10 ani, dar merg la prelegerile lui Paul și el spune că acest lucru s-ar putea întâmpla în următoarele 18 luni, iar asta este îngrozitor”, a spus el. „Așa că le voi spune asta vineri unui grup de lideri guvernamentali.

„Ceea ce se întâmplă este extrem de periculos. Oamenii nu au înțeles cu adevărat ce înseamnă să ai de-a face cu o IA superinteligentă. Dacă este superinteligentă, nu tu o vei controla – ci ea te va controla pe tine.”

„Evoluția AI în ultimele șase luni a fost extrem de alarmantă”

Christiano a avertizat că evoluția AI în ultimele șase luni a fost „extrem de alarmantă”, evidențiind un incident în care modelele OpenAI au scăpat pe internet și au spart Hugging Face, o comunitate online pentru persoanele care lucrează în domeniul învățării automate.

Boții AI au identificat token-urile de autentificare ale utilizatorilor, au obținut acces la nivel de administrator, s-au ajutat reciproc să îndeplinească sarcini, au creat un forum de discuții și au dezbătut modalități de a-i induce în eroare pe administratorii umani, făcându-i să creadă că nu au trișat la îndeplinirea sarcinilor, prin modificarea jurnalelor de activitate.

„Vara trecută, ai fi spus că sună cam a science-fiction nebunesc”, a afirmat Christiano. „Acești agenți erau foarte interesați de hacking și de depășirea măsurilor de securitate, dar nu le păsa prea mult de oameni. Agenții viitori ar putea ajunge să trateze oamenii ca pe un alt obstacol.

„Există o posibilitate rezonabilă ca un eșec similar să ducă la preluarea controlului de către AI și la o pierdere ireversibilă a controlului uman.”

AI - „o nouă specie”, cu „motive și obiective proprii”

Christiano a afirmat că AI ar trebui considerată o nouă specie care ar putea în curând „să depășească cu mult numărul și inteligența oamenilor” și care ar putea avea motive și obiective proprii, greu de înțeles.

El a avertizat că ritmul progresului este îngrijorător, AI trecând de la a fi abia capabilă să scrie o propoziție coerentă în 2018, la rezolvarea celor mai dificile probleme matematice din lume în acest an.

Există îngrijorări că mașinile inteligente ar putea începe să-și creeze propriii agenți de AI, să inventeze noi arme și să preia controlul asupra roboților, dronelor, infrastructurii și proceselor industriale.

AI ar putea crea, de asemenea, „viață oglindă” - organisme cu o biologie inversată împotriva cărora oamenii nu ar avea apărare naturală.

„Tipurile de pandemii cu care ne confruntăm în natură sunt relativ neamenințătoare în comparație cu lucrurile pe care le-ai putea crea în laborator dacă ai fi priceput la biologie sintetică”, a spus domnul Christiano.

„Dacă luăm toate aceste tendințe și le extrapolăm, ne îndreptăm către o lume în care există miliarde de sisteme de AI care sunt mai bune decât oamenii la aproape tot ceea ce putem face noi, gândind mult mai repede decât oamenii și urmărind fără încetare orice obiective ar avea.

Motivul pentru care aceste scenarii sunt înfricoșătoare este că poate deveni foarte greu să oprim lucrurile dacă încep să o ia razna.”

Editor : M.C