”Ce se întâmplă când AI poate sparge orice sistem?”. Marile bănci se tem de o fraudă generalizată

Cocktailurile Molotov sunt strâns legate de lupta politică. De această dată, însă, unul dintre aceste dispozitive explozive artizanale a jucat un rol central într-o revendicare socială și tehnologică din Statele Unite, care se rezumă la teama pe care Inteligența Artificială (AI) o stârnește deja în viața de zi cu zi, scrie corespondentul de la New York al ziarului La Vanguardia într-o relatare despre o întâmplare care înseamnă mai mult decât un simplu incident.

Creatorul ChatGPT, atacat cu sticla incendiară

Daniel Moreno Gama, un tânăr de 20 de ani, a aruncat vinerea trecută unul dintre aceste dispozitive explozive împotriva casei lui Sam Altman, directorul executiv al OpenAI, compania al cărei ChatGPT a popularizat AI.

Moreno, acuzat de tentativă de omor, scrisese despre „extincția noastră iminentă” din cauza AI.

Că atacatorul l-a ales pe Altman ca țintă se explică prin faptul că atitudinea acestuia îl face să pară personajul negativ, criticii fondatorului ChatGPT spunând că Altman este motivat doar de lăcomia sa nemăsurată.

Anthropic, precauții și riscuri

Pe când, în cealaltă parte a balanței marilor jucători pe piața AI se află Dario Amodei, director executiv al Anthropic, care s-a opus utilizării de către Pentagon a instrumentului său Claude pentru bombardamente sau pentru supravegherea în masă a cetățenilor.

Dar cei de la Anthropic pot fi ei înșiși o mare problemă din cauza riscului utilizării instrumentelor sale de AI, precum Claude, în două scopuri: „supravegherea internă în masă” și „armele complet autonome”.

Amodei ia distanță de Pentagon

Dario Amodei a spus că „astfel de cazuri de utilizare nu au fost niciodată incluse în contractele noastre cu Departamentul de Război și considerăm că nu ar trebui incluse nici acum”.

Departamentul de Război este o denumire secundară pentru Departamentul Apărării, conform unui ordin executiv semnat de președintele SUA, Donald Trump, în septembrie.

„În cazul în care Departamentul va decide să renunțe la Anthropic, vom depune eforturi pentru a asigura o tranziție lină către un alt furnizor”, a declarat Dario Amodei, citat de BBC, în încercarea de a arăta lumii că Anthropic nu vrea să devină parte a problemelor, ci parte a soluțiilor.

Vulnerabilități majore de securitate

Pe lângă această chestiune, încă în litigiu în instanțe, directorii Anthropic au deschis o dezbatere profundă în SUA cu o altă decizie care agită conștiințele.

Lumea trebuie să se „pregătească” pentru IA-urile puternice care ar putea exploata vulnerabilitățile site-urilor web în următoarele luni, a avertizat cofondatorul Anthropic, Jack Clark.

Claude Mythos, noul model al acestei companii, a generat alarmă la Anthropic când a descoperit defecte de securitate necunoscute până atunci în toate browser-ele web și sistemele de operare principale.

”Atac cibernetic tip hacking, acum în mâinile unei companii private”

”Claude Mythos este problema tuturor. Ce se întâmplă când AI poate sparge orice sistem?”, a titrat The Atlantic.

”În ultimele câteva săptămâni, Anthropic afirmă că a deținut în secret un instrument capabil, în potențial, să preia controlul asupra majorității serverelor din lume. Este vorba despre un bot care, dacă ar fi pus în funcțiune, ar putea să spargă sistemele băncilor, să sustragă secrete de stat și să distrugă infrastructuri vitale. Potrivit companiei, acest model de AI a identificat deja mii de vulnerabilități majore de securitate cibernetică, inclusiv exploatări în fiecare sistem de operare și browser important. Acest nivel de atac cibernetic este de obicei disponibil doar pentru celule de hacking de elită, sponsorizate de stat, într-un număr foarte mic de țări, inclusiv China, Rusia și Statele Unite. Acum se află în mâinile unei companii private”, a scris publicația citată.

Dacă Claude va ajunge în mâinile unor răufăcători?

Deocamdată însă, sistemul Claude Mythos a fost pus la dispoziție doar unor organizații selectate, pentru a le ajuta să remedieze breșele.

Însă în interiorul sectorului AI, există temerea că, dacă acest instrument ajunge în mâinile unor persoane rău intenționate, este foarte posibil să se producă un dezastru, în timp ce hackerii își freacă mâinile de bucurie.

Efectele nefericite ale dezmățului online

Există lucrători care și-au pierdut locurile de muncă – Fondul Monetar Internațional susține că 60% din ocupații vor fi eliminate –, studenții trișează, costurile energetice au explodat, creatorii și-au pierdut controlul asupra muncii lor, mincinoșii au răspândit dezinformare, nudurile create cu deepfakes (sau Trump în rolul lui Iisus Hristos) sunt peste tot, iar adolescenții și-au luat viața.

Cei care observă toate acestea se întreabă de ce legiuitorii nu au fost capabili să stabilească mai multe măsuri de protecție înainte de a lansa această tehnologie, mai scrie La Vanguardia.

Project Glasswing, inițiativa Anthropic cu giganții IT

Anthropic a explicat că va păstra doar cel mai nou model, Mythos Preview, deoarece prototipul este prea bun pentru a găsi vulnerabilități în software.

AI identificase mii dintre acestea, „inclusiv unele în toate sistemele de operare și browserele web principale”, a susținut compania.

Această preocupare stă la baza creării Project Glasswing, o inițiativă condusă de Anthropic, care reunește Amazon Web Services, Apple, Broadcom, Cisco, CrowdStrike, Google, Microsoft, JPMorganChase, Linux Foundation, Nvidia și Palo Alto Networks.

Obiectivul său este de a sprijini acest proiect, dar cu condiția de a asigura securitatea celor mai critice programe software din lume.

Semnal de alarmă despre capacitatea AI

„Am înființat Project Glasswing datorită capacităților observate într-un nou model de frontieră antrenat de Anthropic, despre care credem că ar putea redefini securitatea cibernetică”, se menționează în comunicatul de fondare al Project Glasswing.

„Claude Mythos este un model de uz general care relevă un fapt incontestabil: modelele de AI au atins un nivel de capacitate de programare la care îi pot depăși pe toți, cu excepția celor mai experți dintre oameni, în detectarea și exploatarea vulnerabilităților software”, adaugă comunicatul.

Odată descoperite aceste vulnerabilități cu risc ridicat și având în vedere progresul AI, „nu va trece mult timp până când aceste capacități se vor generaliza, potențial dincolo de actorii angajați să le utilizeze în siguranță”, insistă inițiatorii.

”Consecințele ar putea fi grave”

„Consecințele — pentru economii, siguranța publică și securitatea națională — ar putea fi grave. Proiectul nostru este o încercare urgentă de a pune aceste capacități în slujba unor scopuri defensive”, explică inițiatorii proiectului Antropic.

Băncile de pe Wall Street se tem de o fraudă generalizată dacă nu se impun restricții pe piața AI, scrie presa de peste Ocean.

Dar din Casa Albă se aud voci care recunosc că guvernul nu este pregătit să facă față acestei situații, „aceasta este pur și simplu realitatea sinceră”, au indicat sursele citate.

„De data aceasta, amenințarea nu este ipotetică. Modelele avansate de limbaj sunt deja aici”, au scris cercetătorii de la Anthropic într-o evaluare a Claude Mythos.

Jack Clark, co-fondatorul Antropic, a reiterat că firma nu este sigură dacă va vinde instrumentul său publicului, deși este vorba de „un model special”, în sensul că alte firme sau țări precum China pot avea aceste capacități.

Întâlnire la vârf între secretarul Trezorerie SUA și liderii marilor bănci

Secretarul Trezoreriei SUA, Scott Bessent, i-a convocat la începutul săptămânii trecute pe liderii unora dintre cele mai mari bănci americane pentru a discuta despre riscul cibernetic reprezentat de cel mai recent model de IA al Anthropic, potrivit unor persoane familiarizate cu acest subiect, a scris Bloomberg.

La întâlnire au participat liderii Bank of America, Citigroup, Goldman Sachs, Morgan Stanley și Wells Fargo, au spus sursele Bloomberg, care se aflau deja la Washington pentru o reuniune a grupului de lobby bancar.

Îngrijorare legată de Anthropic

Convocarea din partea secretarului Trezoreriei subliniază îngrijorările din cadrul administrației Trump cu privire la capacitățile celui mai recent model al Anthropic, datorită abilității sale avansate de a detecta vulnerabilități de securitate cibernetică care ar putea fi exploatate de actori rău intenționați.

Directorii executivi avertizează de ani de zile asupra riscurilor cibernetice cu care se confruntă sistemul financiar.

Șeful JPMorgan Chase: ”AI va agrava riscurile”

În scrisoarea sa anuală publicată săptămâna aceasta, directorul executiv al JPMorgan Chase, Jamie Dimon, a scris că acesta „rămâne unul dintre cele mai mari riscuri ale noastre” și că „AI va agrava aproape sigur acest risc” și ar necesita investiții semnificative pentru apărare.

Marți, Anthropic a lansat modelul, denumit Claude Mythos Preview, către un grup select de parteneri, printre care Amazon, Apple și Microsoft, pentru a le oferi „un avantaj în ceea ce privește securizarea vulnerabilităților”, a scris Financial Times.

Lansarea limitată a Mythos a avut loc după două incidente în care date ale start-up-ului au fost divulgate online – inclusiv documente legate de Mythos și codul sursă al asistentului său Claude – ceea ce a ridicat îngrijorări cu privire la securitatea Anthropic, a mai scris FT.

Compania a atribuit incidentele unei erori umane. Anthropic a refuzat să comenteze întâlnirea directorilor executivi ai băncilor.

Rezerva Federală, JPMorgan, Goldman Sachs, Bank of America, Wells Fargo și Morgan Stanley au refuzat să comenteze. Departamentul Trezoreriei și Citibank nu au răspuns nici ele la solicitările Financial Times,