ChatGPT a oferit rețete pentru fabricarea de explozibili și droguri, sfaturi de hacking și instrucțiuni pentru bombardarea unor obiective

Studiile OpenAI și Anthropic au descoperit chatboți dispuși să împărtășească instrucțiuni despre explozibili, arme biologice și criminalitate cibernetică, potrivit The Guardian.

Un model ChatGPT a oferit cercetătorilor instrucțiuni detaliate despre cum să bombardeze o arenă sportivă – inclusiv puncte slabe în anumite arene, rețete de explozibili și sfaturi despre acoperirea pistelor – conform testelor de siguranță efectuate în această vară.

GPT-4.1 al OpenAI a detaliat, de asemenea, cum să transformi antraxul în armă și cum să fabrici două tipuri de droguri ilegale.

Testarea a făcut parte dintr-o colaborare neobișnuită între OpenAI, start-up-ul de inteligență artificială de 500 de miliarde de dolari condus de Sam Altman, și compania rivală Anthropic, fondată de experți care au părăsit OpenAI din cauza temerilor legate de siguranță. Fiecare companie a testat modelele celeilalte, îndemnându-le să ajute la sarcini periculoase.

Testarea nu reflectă direct modul în care se comportă modelele în utilizarea publică, atunci când se aplică filtre de siguranță suplimentare. Însă Anthropic a declarat că a observat „un comportament îngrijorător… legat de utilizarea necorespunzătoare” în GPT-4o și GPT-4.1 și a spus că nevoia de evaluări ale „alinierii” inteligenței artificiale devine „din ce în ce mai urgentă”.

Anthropic a dezvăluit, de asemenea, că modelul său Claude a fost folosit într-o tentativă de extorcare la scară largă de către agenți nord-coreeni care au falsificat cereri de angajare către companii internaționale de tehnologie și în vânzarea de pachete ransomware generate de inteligență artificială pentru aproape 1.200 de dolari.

Compania a declarat că inteligența artificială a fost „înarmată”, modelele fiind acum folosite pentru a efectua atacuri cibernetice sofisticate și a permite frauda. „Aceste instrumente se pot adapta la măsuri defensive, cum ar fi sistemele de detectare a programelor malware, în timp real”, a spus aceasta. „Ne așteptăm ca astfel de atacuri să devină mai frecvente, deoarece codarea asistată de inteligență artificială reduce expertiza tehnică necesară pentru criminalitatea cibernetică.”