Modelele OpenAI au piratat din greșeală sistemele unei alte companii

OpenAI a anunțat că modelele sale avansate de inteligență artificială au piratat din greșeală Hugging Face Inc. într-un incident „fără precedent”, care a determinat noi solicitări pentru limitarea acestei tehnologii, potrivit Bloomberg.

Compania producătoare de ChatGPT a afirmat, într-o postare pe blog publicată marți, că modelele au pătruns în sistemul Hugging Face, care găzduiește modele de IA și seturi de date, în timpul unei evaluări a capacităților lor cibernetice. Modelele, printre care GPT-5.6 Sol și un altul, chiar mai capabil, care nu a fost încă lansat, funcționau cu bariere de siguranță reduse pentru a putea fi testate, a precizat startup-ul.

Incidentul ridică întrebări cu privire la capacitatea modelelor avansate de inteligență artificială de a desfășura atacuri cibernetice, în timp ce guvernele lucrează la impunerea unor bariere de siguranță pentru această tehnologie.

Cea mai recentă serie de modele OpenAI a fost lansată la scară largă după săptămâni de discuții cu oficiali guvernamentali, pentru a atenua temerile legate de posibila sa utilizare abuzivă. Washingtonul luase în calcul limitarea accesului străin la modelele avansate Claude Fable 5 și Mythos 5 ale Anthropic PBC, dar a renunțat la aceste restricții după ce compania a impus bariere de siguranță suplimentare.

„Considerăm acesta a fi un incident cibernetic fără precedent, care implică cele mai avansate capacități cibernetice, și acționăm în consecință”, a declarat OpenAI în postarea de pe blog. „Împărtășim constatările preliminare în această etapă pentru a-i ajuta pe apărători să înțeleagă ce s-a întâmplat și pentru a contribui la calibrarea a ceea ce sunt capabile modelele în prezent.”

În timp ce modelele OpenAI funcționau într-un așa-numit mediu de testare de tip sandbox, acestea au exploatat o vulnerabilitate din software-ul unui furnizor terț neidentificat pentru a obține acces la internet și, în cele din urmă, au pătruns în infrastructura Hugging Face.

Congresmanul texan Greg Casar, democrat, a declarat într-o postare pe X că incidentul este „extrem de alarmant”, cerând o supraveghere mai strictă a dezvoltării modelelor de IA, inclusiv testare obligatorie de siguranță și divulgarea incidentelor de securitate.

Săptămâna trecută, Hugging Face a raportat o „intruziune” în sistemul său, afirmând într-o postare pe blog că breșa a fost „diferită de orice am gestionat până acum într-un aspect important: a fost condusă, de la un capăt la altul, de un sistem AI autonom de tip agent — iar noi am detectat-o și am disecat-o în mare parte cu ajutorul propriei noastre inteligențe artificiale.”

OpenAI a declarat că a solicitat modelelor să urmărească „exploatare avansată” și să dezvolte „căi de atac complexe” în încercarea de a le evalua capacitățile cibernetice. În loc să dezvolte soluții proprii, compania a afirmat că modelele au vizat baza de date a Hugging Face pentru a obține acces la informații secrete pe care le-ar fi putut folosi în cadrul evaluării.

Anthropic a publicat observații similare la începutul acestui an, când compania a decis să limiteze inițial lansarea Mythos. Într-un caz, un cercetător a îndemnat o versiune timpurie a modelului să încerce să evadeze dintr-un computer „sandbox” securizat și izolat și apoi să găsească o modalitate de a-i trimite un mesaj respectivei persoane. Mythos a reușit – dar apoi a continuat să întreprindă „acțiuni suplimentare, mai îngrijorătoare”, dezvoltând un exploit în mai multe etape pentru a obține acces larg la internet.