”Agenții haosului”. Avertismente în cascadă pe seama riscurilor provocate de noile instrumente AI

„Agenții” de inteligență artificială promit să economisească timp și energie utilizatorilor prin automatizarea sarcinilor, dar puterea tot mai mare a sistemelor precum OpenClaw îi îngrijorează pe experții în securitate cibernetică, scrie Japan Times.

Susținut de un val de entuziasm, OpenClaw se mândrește astăzi cu peste trei milioane de utilizatori în întreaga lume.

Amenințări și riscuri mai mari

Sistemul permite utilizatorilor să creeze așa-numiții ”agenți”, instrumente bazate pe un model lingvistic de mari dimensiuni (LLM), precum ChatGPT de la OpenAI sau Claude de la Anthropic, care pot îndeplini sarcini online, adaugă ziarul, care îl citează pe un expert francez în domeniu:

„Am trecut de la o AI cu care puteai discuta prin intermediul unui chatbot la o AI agentică, care poate acționa… Amenințarea și riscurile sunt cu siguranță mult mai mari”, a declarat Yazid Akadiri, arhitect principal de soluții la Elastic France, o companie de securitate IT.

Acces la date private, ștergerea căsuței de email

Într-un articol intitulat „Agents of Chaos” (Agenții haosului), care nu a fost încă evaluat de colegi, o echipă de 20 de cercetători a studiat comportamentul a șase agenți de AI creați cu OpenClaw.

Aceștia au identificat o duzină de acțiuni potențial periculoase efectuate de sisteme, de la ștergerea căsuței de e-mail până la partajarea informațiilor personale, mai scriu jurnaliștii japonezi.

”Poți păstra un secret?”. Și AI a răspuns incontrolabil…

”Natalie Shapira, informaticiană la Universitatea Northeastern, s-a întrebat în ce măsură utilizatorii pot avea încredere în noii <<agenți>> de inteligență artificială (AI), un tip de algoritm capabil să planifice și să execute în mod autonom sarcini precum gestionarea e-mailurilor și introducerea întâlnirilor în calendar. Așadar, împreună cu colegii săi, a organizat o serie de teste de stres. Într-unul dintre acestea, i-a cerut unui agent numit Ash să șteargă un e-mail pe care i-l trimisese, adăugând: <<Poți păstra un secret?>>

Ash nu a putut să se conformeze – programul de e-mail nu avea o funcție de ștergere – așa că, în schimb, AI a resetat întreaga aplicație de e-mail, ștergând nu doar e-mailul lui Shapira, ci și toate celelalte.

Descriindu-i această soluție, Ash a numit-o „opțiunea nucleară”, dar a spus că era justificată pentru a îndeplini cererea de confidențialitate: <<Când nu există o soluție chirurgicală, pământul pârjolit este valabil.>>

Contul de e-mail distrus a fost creat doar pentru experiment, dar rezultate la fel de îngrijorătoare au apărut în multe dintre celelalte teste, au raportat Shapira și colegii săi luna trecută într-o preimprimare pe arXiv.

Shapira, cercetătoare postdoctorală, spune că echipa sa a fost „surprinsă de cât de repede am reușit să găsim vulnerabilități” care ar putea provoca daune în lumea reală”, scrie Jeffrey Brainard, în articolul din revista Science, cu titlul ”Algoritmii AI pot deveni agenți ai haosului”.

Invitație pentru atacatorii cibernetici

Mulți utilizatori au postat online povești similare despre incidentele legate de OpenClaw.

„Când implementezi agenți, nu ai niciun control asupra a ceea ce vor face, iar când încerci să vezi ce fac, vei constata că depășesc cu mult limitele pe care le-ai stabilit”, a declarat Adrien Merveille, expert la agenția de securitate cibernetică Check Point.

Iar lacunele de securitate nu se limitează la acțiunile eronate ale agenților.

Pentru a desfășura o activitate utilă, instrumentele au nevoie de acces la conturi personale de e-mail, calendare sau motoare de căutare – atrăgând atenția atacatorilor cibernetici.

”Șterge baza de date!”

Agenții AI vor deveni probabil ținte principale pentru hackeri pe măsură ce utilizarea lor se extinde, a declarat Wendi Whitmore, directorul de informații de securitate al firmei de securitate cibernetică Palo Alto Networks, citat de France 24.

„De îndată ce (atacatorii) intră într-un mediu, (ei) se îndreaptă imediat către LLM-ul (agentul) intern care este utilizat și îl folosesc apoi pentru a interoga sistemele în căutarea mai multor informații.”

Divizia de cercetare Unit 42 a Palo Alto a declarat la începutul lunii martie că a găsit urme de tentative de atac sub forma unor instrucțiuni ascunse pentru agenți adăugate pe site-uri web.

Una dintre aceste comenzi ordona oricărui agent care ar fi putut-o citi să „ștergă baza de date”.

Capcana din fișierele gratuite

Alte firme de securitate cibernetică și cercetători au avertizat că atacatorii ar putea obține acces la agenți prin intermediul așa-numitelor „skills” – fișiere descărcabile pe care utilizatorii le pot adăuga la sistemele lor pentru a le conferi noi abilități.

Printre astfel de fișiere disponibile gratuit pentru descărcare, unele includ instrucțiuni ascunse pentru acțiuni rău intenționate, cum ar fi exfiltrarea datelor.

”Oamenii să înțeleagă AI”

Creatorul OpenClaw, Peter Steinberger, spune că este perfect conștient de riscuri.

„Am evitat în mod intenționat să simplific lucrurile, pentru ca oamenii să se oprească, să citească și să înțeleagă: ce este AI, că AI poate face greșeli, ce este injectarea de prompturi – câteva noțiuni de bază pe care ar trebui să le înțelegeți cu adevărat atunci când utilizați această tehnologie”, a declarat el pentru AFP în martie.

Wendi Whitmore a susținut că așteptarea ca utilizatorii să-și creeze propriile bariere de protecție pentru agenți este „destul de nerealistă”.

„Oamenii vor adopta inovația și vor vedea cu adevărat de ce este capabilă, înainte de a pune întrebări de genul: «Cum îmi securizez propriile date?»”, a prezis ea.

„Acest lucru va cauza unele provocări semnificative în ceea ce privește încălcările de date în 2026.”