Tot mai adesea, chiar oameni situați la vîrful companiilor de Inteligență Artificială formulează dubii cu privire la evoluțiile din domeniu. Și cer reglementare. Dario Amodei, șeful Anthropic, avertizează că modelele avansează mai repede decît capacitatea industriei și a autorităților de a le controla. Sam Altman, de la OpenAI, susține și el că omenirea ar putea pierde controlul asupra propriului viitor și atrage atenția asupra concentrării unei puteri uriașe în mîinile cîtorva companii. Putem lăsa chiar companiile care dezvoltă aceste tehnologii să stabilească, singure, limitele? Care sînt riscurile Inteligenței Artificiale și cine ar trebui să decidă cît de repede poate avansa? L-am întrebat pe Bogdan Manolea, director executiv al Asociației pentru Tehnologie și Internet, specialist în dreptul tehnologiei informației.
Nu e prima dată cînd vedem șefi ai unor mari companii vorbind despre riscurile Inteligenței Artificiale. Acum un an, Elon Musk propusese chiar un moratoriu, o pauză în dezvoltarea modelelor avansate. De data asta, însă avem doi competitori, doi șefi ai celor mai mari companii care avertizează, în termeni foarte serioși, că e nevoie de frîne. De ce acum? Ce s-a întîmplatîntre timp?
Bogdan Manolea: „S-a mai schimbat poziția pe piață. Elon Musk, cînd a făcut declarația respectivă, era într-o poziție inferioară, deci el voia tocmai să-şi ajungă din urmă competitorii. Şi cred că, în principal, au niște interese pe zona de politici publice, care se aliniază cu această idee de autoreglementare, ca și cum ar fi așa, un fel de iepure scos dintr-un joben, care rezolvă toate problemele AI-ului peste noapte. Pe de altă parte, dacă ei vor să nu dezvolte AI într-o anumită direcție, sau să limiteze, sau să stabilească că doar anumite părți ale AI-ului trebuie să fie dezvoltate, au de plină libertate să o facă. Şi totuși nu o fac. Și atunci ar trebui să ne întrebăm și noi, ca utilizatori, oare de ce nu o fac? Și vedem că, de fapt, interesele noastre de utilizatori nu converg cu interesele lor de șefi de mari companii în zona de AI. Și cred că ăsta este cel mai important lucru cu care trebuie să rămînem din discuția asta. Adică, dacă ei cer autoreglementare, nu înseamnă neapărat că și noi trebuie să cerem acest lucru, doar pentru că nu înțelegem de ce cer sau care este interesul din spate. Sigur că aici sînt speculații despre interesele din spate: că ar vrea să se pună pe o poziție mai safe în Statele Unite, în special față de modelele open source și să spună acelea nu sînt reglementate, ce faceți cu ele? Acelea sînt problema și așa mai departe. Altă discuție este legată de faptul că nu ar fi foarte fericiţi de sistemul european sau sistemul chinezesc de reglementare și atunci încearcă să găsească o alternativă.“
De fapt, cum am putea pierde controlul în favoarea AI? Ce ar însemna ca Inteligenţa Artificială să preia controlul?
Bogdan Manolea: „Cred că asta e o întrebare care tinde mai degrabă spre zona filozofică a discuției, însă eu cred că ar trebui să ne punem întrebarea dacă nu cumva pierdem controlul în ideea că nu reglementăm ceea ce deja putem să reglementăm. Și să vă dau un exemplu. În ultima perioadă au fost o serie de discuții legate de niște atacuri. Agenți AI dintr-o dată s-au trezit noaptea și au început să facă niște chestii la care cercetătorii nu s-ar fi așteptat și anume au atacat alte sisteme informatice cu un oarecare succes. Și au apărut tot felul de știri care au spus că agenții AI s-au trezit sau au început să aibă conștiință proprie. Și cred că de aici trebuie să distingem lucrurile. Pentru că nu s-au trezit și nu au nici conștiință proprie. Ci pur și simplu cei care au programat acele sisteme le-au dat niște sarcini care erau intruzive, adică să atace un alt sistem informatic, și nu au pus suficiente limite sau nu și-au dat seama că limitele pe care le pun nu sînt suficiente, astfel încît au permis acelor sisteme informatice să aducă niște prejudicii, prin atacuri, în alte sisteme informatice. Dacă am fi scos AI-ul din ecuație și am fi spus că niște oameni atacă alți oameni, era clar, era o infracțiune, nimeni nu își punea întrebări legate de cine-i responsabil. Dacă faci același lucru pentru un sistem informatic obișnuit, iarăși, e clar, e o infracțiune informatică. Ei, în momentul în care apare AI-ul și spui un agent AI, fiecare vrea să-și ia mîna de pe tigaia fierbinte și să zică nu, n-am fost eu, el, de la sine putere a atacat, pentru că a nesocotit ce l-am rugat eu să facă.”
Aici este întrebarea: dacă acel agent AI a ieșit singur din sandbox, a făcut o treabă autonom, în afara cerințelor care i-au fost date de utilizator, de cel care l-a programat?
Bogdan Manolea: „A ieșit pentru că putea să iasă. Adică tu, ca programator în zona respectivă, știi foarte bine că un sistem AI nu stă cumințel în sandboxul lui, ca să folosesc un termen un pic ironic. Tu trebuia să știi lucrul ăsta, tu trebuia să-ți dai seama că, de fapt, dacă vrei să-l testezi, ar trebui să fie într-un mediu de testare realmente închis din punct de vedere tehnic. Așa cum un calculator poți să-l scoți din priză, la fel și un sistem AI poți să-l deconectezi de la internet și să mergi într-o zonă închisă și să-l testezi acolo cum dorești. Faptul că tu dorești să-l testezi pe internet, către un site real, automat trebuie să pună niște semene de întrebare. Dar cazul ăsta este foarte bun pentru a ne arăta că sistemul actual nu este suficient de dezvoltat și de implicat, astfel încît, într-adevăr, să discutăm despre ceea ce trebuie. Și anume, care este responsabilitatea civilă și penală a celor care au făcut acest lucru? De ce nu se discută de acest aspect? Cel atacat n-a fost supărat, ceea ce iarăşi pune niște întrebări legate de natura atacului, dacă nu cumva știa, dacă nu cumva a fost de acord și așa mai departe. Deci, în loc să vorbim despre momentul în care agenți AI încep să aibă controlul, cred că trebuie să ne gîndim mai degrabă la responsabilitatea oamenilor care programează, care folosesc AI și la ce responsabilitate au ei în relație cu agenții respectivi.”
Apasă PLAY pentru a asculta interviul integral!
O emisiune de Adela Greceanu și Matei Martin
Un produs Radio România Cultural