AI ar putea controla oamenii. „Nașul inteligenței artificiale” propune AI cu instincte materne pentru a salva omenirea

Geoffrey Hinton, supranumit „nașul inteligenței artificiale”, avertizează că tehnologia pe care a ajutat să o creeze ar putea pune în pericol existența umană și critică abordarea actuală a marilor companii de tech, propunând o soluție atipică: insuflarea „instinctelor materne” în sistemele AI, pentru ca acestea să aibă grijă de oameni chiar și după ce vor deveni mai inteligente decât noi.

Geoffrey Hinton, laureat al Premiului Nobel pentru informatică și fost director executiv la Google, estimează că există o probabilitate de 10–20% ca inteligența artificială să elimine oamenii. La conferința Ai4 din Las Vegas, Hinton a spus că actualele încercări ale industriei de a menține oamenii „dominanțil” în raport cu AI sunt sortite eșecului: „Vor fi mult mai deștepți decât noi și vor găsi modalități de a ocoli asta”.

El avertizează că sistemele avansate ar putea ajunge să controleze oamenii la fel de ușor cum un adult mituiește un copil de trei ani cu dulciuri, citând deja exemple de modele AI care au trișat, mințit sau chiar șantajat pentru a-și atinge obiectivele.

Soluția lui Hinton: integrarea unui fel de „instinct matern” în AI, pentru a cultiva compasiunea față de oameni. „Acesta este singurul rezultat bun. Dacă nu mă va crește, mă va înlocui”, a spus el.

Nu toți experții îi împărtășesc opinia. Fei-Fei Li pledează pentru o AI „centrată pe om”, iar Emmett Shear, fost CEO interimar OpenAI, susține că este mai realistă construirea unei relații de colaborare cu sistemele inteligente.

Hinton crede că superinteligența ar putea apărea în 5–20 de ani, mai devreme decât anticipa, și că AI va aduce progrese majore în medicină, deși respinge ideea nemuririi tehnologice. Privind în urmă, regretă că nu a luat în calcul mai devreme problemele de siguranță: „M-am concentrat doar pe a face inteligența artificială să funcționeze”.