Compania Palantir prezintă o inteligență artificială care poate merge la război

Palantir își vinde deja serviciile de supraveghere internă către US Immigration and Customs Enforcement, așa că nu ar trebui să fie o surpriză faptul că firma fondată de miliardarul Peter Thiel încearcă să pătrundă și în Pentagon.

Marți, compania a publicat o demonstrație video a celei mai recente oferte a sa, Palantir Artificial Intelligence Platform (AIP). În timp ce sistemul în sine este conceput pur și simplu pentru a integra modele lingvistice mari (LLM) precum GPT-4 de la OpenAI sau BERT de la Google în rețelele private, primul lucru pe care l-au făcut a fost să îl aplice pe câmpul de luptă modern.

În demonstrația video, un operator militar însărcinat cu monitorizarea teatrului de operațiuni din Europa de Est descoperă forțe inamice care se concentrează în apropierea graniței și răspunde cerând ajutorul unui asistent digital de tip ChatGPT pentru a desfășura drone de recunoaștere, pentru a elabora răspunsuri tactice la agresiunea percepută și chiar pentru a organiza bruierea comunicațiilor inamicului.

AIP este prezentat ajutând la estimarea compoziției și capacităților inamicului prin lansarea unei drone Reaper într-o misiune de recunoaștere ca răspuns la solicitarea operatorului de a obține imagini mai bune și sugerând răspunsuri adecvate în cazul descoperirii unui element blindat.

„LLM-urile și algoritmii trebuie să fie controlați în acest context extrem de reglementat și sensibil pentru a se asigura că sunt utilizați într-un mod legal și etic”, se spune la începutul videoclipului. Pentru a face acest lucru, funcționarea AIP se bazează pe trei „piloni-cheie”: primul – AIP se va desfășura într-un sistem clasificat, capabil să analizeze în timp real atât datele clasificate, cât și cele neclasificate, în mod etic și legal; compania nu a detaliat cum va funcționa acest lucru. Al doilea pilon este că utilizatorii vor putea să comute domeniul de aplicare și acțiunile fiecărui LLM și activ din rețea. AIP-ul în sine va genera o înregistrare digitală securizată a întregii operațiuni, „crucială pentru atenuarea riscurilor juridice, de reglementare și etice semnificative în mediile sensibile și clasificate”, potrivit demo-ului. Cel de-al treilea pilon îl reprezintă „gardurile de protecție de top din industrie” ale AIP pentru a împiedica sistemul să întreprindă acțiuni neautorizate.

În scenariul Palantir există un „om în buclă” pentru a preveni astfel de acțiuni, deși, din videoclip, „operatorul” aproape că aprobă din cap tot ceea ce sugerează AIP. De asemenea, demonstrația nu a detaliat ce măsuri sunt luate pentru a împiedica LLM-urile pe care se bazează sistemul să „halucineze” fapte și detalii pertinente.