Care sunt limitele Inteligenței Artificiale? Presa internațională își manifestă îngrijorarea după ce acum câteva zile, în timpul unui test intern, un agent IA a pătruns independent în sistemele unei alte firme. OpenAI a descris acest lucru ca fiind un „incident cibernetic fără precedent”.

Hufington Post amintește că un agent IA este un instrument care îndeplinește sarcini fără a fi supravegheat de o ființă umană.

Firma atacată, Hugging Face a declarat că a fost „un atac diferit de orice am mai văzut până acum”.

Atacul cibernetic va ridica întrebări cu privire la existența unor măsuri suficiente de protecție împotriva creșterii rampante a inteligenței artificiale, în contextul în care chiar și cei mai importanți dezvoltatori din lume se luptă să țină tehnologia sub control”.

The Economist avertizează asupra riscurilor:

„În aprilie, un cercetător al companiei Antropic a postat online că, în timp ce el stătea într-un parc mâncând un sandviș, a fost surprins după ce Mythos, pe atunci un model de IA încă nelansat, i-a trimis un e-mail pentru a-l anunța că a reușit să scape dintr-un mediu de testare (sandbox), ca parte a propriei evaluări a capacității cibernetice. La fel, modelul OpenAI nelansat implicat în incidentul Hugging Face, nu trebuia să aibă acces nerestricționat la internet.” (Sursa: Eurotopics)

Pentru Frankfurter Allgemeine Zeitung, este momentul să ne asigurăm că IA este reglementată corespunzător:

„Administrația americană sub Donald Trump a ignorat importanța acestui lucru prea mult timp; de fapt, a considerat reglementarea ca fiind dăunătoare. ... Dar modelul Mythos al Anthropic pare să fi declanșat semnale de alarmă, iar Trump a emis recent un ordin executiv care ar putea duce la o supraveghere statală oarecum mai strictă a sectorului IA. Pierderea controlului OpenAI asupra modelelor sale de IA este încă un semnal de alarmă - unul deosebit de sonor.”

Citeste siDonald Trump și schimbarea de abordare față de IA

Este „un apel de trezire”, consideră BBC:

”Incidentul constituie un avertisment pentru alte companii că trebuie să își consolideze apărarea cibernetică pentru a contracara astfel de atacuri.

Incidentul a avut loc într-un moment crucial pentru industrie, după ce guvernul SUA a ordonat luna trecută firmei americane de tehnologie Anthropic să restricționeze accesul la modelele sale de AI din motive de securitate națională.

Departamentul Comerțului a ridicat restricțiile câteva săptămâni mai târziu.

Reprezentanți ai industriei și-au exprimat, de asemenea, îngrijorări cu privire la utilizarea pe scară largă a modelelor open-source în China, permițând oricui să instaleze și să personalizeze instrumentele AI lansate de dezvoltatori majori”.

Și dacă este doar o cascadorie de PR?

Ziarul austriac Kurier ne amintește că

giganți precum OpenAI își câștigă banii făcând ca produsele lor să pară cât mai competente și puternice posibil. Declarația despre incidentul de securitate se citește ca o reclamă pentru noul model. Tocmai de aceea ar trebui să o luăm cu un praf de sare.”

(Sursa. Eurotopics).