Cea mai puternică inteligenţă artificială creată de Anthropic devine publică, însă cu anumite limitări, din motive de securitate

Compania Anthropic, creatoarea modelelor de inteligenţă artificială (AI) Claude, a pus la dispoziţia publicului, marţi, versiunea cea mai puternică a tehnologiei sale, însă a decis să limiteze totuşi accesul pentru anumite domenii sensibile, precum securitatea cibernetică şi – o noutate – riscurile de atacuri biologice şi chimice, informează AFP.

Denumit Fable 5, acest model este primul din clasa Mythos – cea mai avansată gamă creată de Anthropic, dezvăluită în aprilie, dar restricţionată din motive de securitate – care a fost deschis către public.

În paralel, Anthropic propune o versiune nelimitată, Claude Mythos 5, pentru companii, organizaţii şi agenţii de stat care dispun deja de un acces la această familie de modele, prezentate ca fiind capabile să detecteze şi să exploateze breşele de securitate cu o viteză şi o acuitate nemaiîntâlnite.

La începutul lunii aprilie, Anthropic anunţase simultan existenţa clasei Mythos şi decizia sa de a limita accesul la ea doar pentru parteneri de încredere, pentru a consolida protecţia lor cibernetică.

Acea veste i-a adus acuzaţii de “marketing al fricii” şi a provocat în acelaşi timp o vizibilă agitaţie la conducerea ţărilor şi a instituţiilor globale, pentru a evalua nivelul de ameninţare asupra infrastructurilor esenţiale (bancare, energetice etc.).

De atunci, mai multe companii care aveau acces la gama Mythos au confirmat capacităţile acestor modele, iar Guvernul american, care se află într-un contencios cu Anthropic, a sfârşit prin a le testa.

Casa Albă a instaurat apoi un dispozitiv facultativ de evaluare a celor mai puternice modele AI americane, înainte de comercializarea lor. OpenAI, marele rival al Anthropic, este pe cale să dezvăluie versiunea 5.6 a modelului său ChatGPT.

Atacuri biologice?

Până acum, Anthropic justifica restricţionarea accesului la Mythos doar prin riscurile de securitate cibernetică.

Odată cu lansarea Fable 5, Anthropic îşi extinde aşadar vigilenţa şi controlul asupra riscurilor de atacuri biologice şi chimice. Compania americană a citat exemplul dezvoltării unor adenovirusuri asociate (AAV), potenţial periculoase, dar şi benefice în cadrul terapiei genice. De aceea, versiunea nelimitată va fi deschisă pentru cercetători în biologie care vor fi selecţionaţi, a precizat compania.

Potrivit reprezentanţilor săi, majoritatea solicitărilor ce vizează securitatea cibernetică şi biologia primesc un răspuns de la un model inferior, Opus 4.8, devenit public la sfârşitul lunii mai.

Anthropic prezintă modelul Fable 5 ca pe o versiune securizată a gamei Mythos, care, fără măsuri de siguranţă, nu ar putea fi deschisă pentru public. Acest cadru se bazează pe filtre automatizate care analizează solicitările în timp real şi le blochează pe cele sensibile.

Anthropic afirmă că a însărcinat experţi externi să încerce să contracareze acele filtre – o procedură de simulare a atacurilor, denumită “red teaming” – oferind recompense celor care reuşeau acest lucru.

Potrivit companiei americane, niciunul – din 1.000 de ore de testare – nu a reuşit “o eludare universală”, adică o deblocare completă a modelului. Însă “este probabil imposibil să se împiedice complet eludările universale”, recunoaşte Anthropic, obiectivul său fiind acela de a face ca astfel de tentative să devină suficient de lente şi de costisitoare pentru a le detecta înainte de o implementare pe scară largă.

Tot în numele securităţii, firma americană a anunţat că va păstra toate datele acestor modele de vârf timp de 30 de zile.

Tarif ridicat

Chestiunea securităţii, din care Anthropic a făcut unul dintre principalele sale argumente comerciale, a determinat acest start-up din San Francisco să intre într-o dispută inedită cu administraţia Trump, din cauza refuzului ei de a ridica restricţiile privind supravegherea în masă şi armele letale autonome.

După aceea, Pentagonul a reziliat contractele cu compania, ale cărei instrumente de inteligenţă artificială erau singurele ce beneficiau de o autorizaţie de apărare clasificată.

Lansarea modelului Fable 5 este însoţită de un tarif ridicat – până la 50 de dolari pentru un milion de “tokeni”, unitatea de măsură a solicitărilor şi rezultatelor produse -, reprezentând dublul tarifului cerut pentru Opus 4.8.

O sesiune intensivă de programare poate consuma 1 milion de tokeni în doar câteva ore sau chiar într-un interval mai scurt de timp.

Anthropic şi-a revizuit recent politica de tarifare pentru a ţine cont de accelerarea agenţilor AI, care sporesc adeseori consumul de tokeni.

Însă compania trebuie încă să facă dovada rentabilităţii sale pe termen lung, afectată de costul ridicat al puterii de calcul care este necesară instrumentelor AI.

Anthropic tocmai a încheiat recent un acord cu Elon Musk pentru a utiliza unul dintre centrele sale de date contra sumei de 1,25 miliarde de dolari pe lună.

Lansările acestor produse intervin într-o perioadă marcată de o efervescenţă financiară în jurul inteligenţei artificiale.

Anthropic, la fel ca OpenAI, a anunţat în iunie că şi-a depus dosarul de listare la bursă.

Cele două companii încearcă să se poziţioneze astfel pe piaţă cu doar câteva zile înaintea unei listări record pentru SpaceX, gigantul spaţial al lui Elon Musk, care integrează şi un laborator propriu de inteligenţă artificială, denumit xAI.