Ce ar trebui să facem dacă AI ar căpăta conștiință? Sunt cercetători care spun că este timpul pentru un plan

Evoluția rapidă a inteligenței artificiale (AI) ridică întrebări etice care odinioară erau considerate doar science fiction: dacă sistemele AI ar putea într-o zi să „gândească” precum oamenii, ar putea avea și experiențe subiective similare? Ar putea suferi? Dacă da, ar fi umanitatea pregătită să le îngrijească adecvat?

Un grup de filosofi și informaticieni susține că bunăstarea AI trebuie tratată cu seriozitate. Într-un raport publicat recent pe platforma arXiv, prezentat de Nature.com aceștia propun ca firmele de AI să evalueze sistemele pentru semne de conștiință și capacitatea de a lua decizii autonome, precum și să stabilească politici pentru tratarea acestora, în cazul în care astfel de scenarii devin realitate.

Cercetătorii avertizează că ignorarea conștiinței unei AI ar putea duce la neglijarea sau suferința acesteia. Totuși, opiniile sunt împărțite: unii consideră aceste scenarii absurde, în timp ce alții, precum Anil Seth de la Universitatea Sussex, argumentează că implicațiile emergenței conștiinței AI sunt atât de majore încât nu trebuie ignorate.

Jonathan Mason, matematician din Oxford, sugerează că evaluarea conștiinței AI ar trebui să fie o prioritate, având în vedere dependența tot mai mare de aceste tehnologii.

Pe de altă parte, Jeff Sebo, filosof la Universitatea New York și coautor al raportului, avertizează că asumarea greșită a conștiinței unui sistem AI ar putea deturna fonduri de la oameni sau animale care au nevoie de ele.

Raportul semnalează un moment „de tranziție” pentru bunăstarea AI, menționând că firmele de top, precum Anthropic din San Francisco, încep să ia în serios subiectul conștiinței și semnificației morale a AI.