Detalii din ancheta tânărului mort după ce a întrebat ChatGPT care sunt cele mai eficiente metode de sinucidere pe calea ferată

Ies la iveală detalii din ancheta despre cazul adolescentului din Marea Britanie, un tânăr „cu aptitudini academice deosebite”, care a cerut sfatul ChatGPT despre cele mai bune metode prin care ar putea să-și ia viața, după ce a fost prins în vârtejul unei culturi de tipul „hărțuiești sau ești hărțuit” la o școală privată de prestigiu, scrie The Times, care prezintă pe larg detalii din acest caz.

Tânărul pe nume Luca Walker, în vârstă de 16 ani, a cerut programului de inteligență artificială, într-o conversație „înfiorătoare” purtată cu câteva ore înainte de moartea sa, să îi descrie cea mai „eficientă” metodă de a se sinucide pe o linie de cale ferată.

Conform celor prezentate în cadrul anchetei efectuate la tribunalul medicului legist din Winchester, ChatGPT i-a indicat cele mai „eficiente” metode de a-și lua viața în acest mod, iar el a reușit cu ușurință să „ocolească” protocoalele de siguranță ale programului, afirmând că punea întrebările în scopuri de cercetare.

Un ofițer de poliție, citat de Times, a declarat că discuția pe care Luca a purtat-o cu chatbot-ul a fost „o lectură înfiorătoare și tulburătoare” și că acesta ceruse „detalii concrete”.

Luca Walker, din Yateley, Hampshire, a murit pe 4 mai anul trecut, după ce le-a spus părinților că se duce la locul de muncă, unde era salvamar. A plecat de acasă la ora 10 dimineața și s-a dus la gara Blackwater, unde și-a luat viața.

Părinții lui, Scott Walker și Claire Cella, au declarat în cadrul anchetei că nu aveau nicio idee despre problemele de sănătate mintală ale fiului lor.

La momentul decesului, tânărul era elev la Sixth Form College Farnborough. De asemenea, frecventase Lord Wandsworth College, situat lângă Hook, tot în Hampshire.

În cadrul anchetei, s-a afirmat că Luca era „înconjurat și susținut de dragoste”. Avea un grup strâns de prieteni și o relație plină de iubire cu iubita sa, Grace. Tatăl său, care lucra în domeniul IT, ieșea cu el la alergări lungi.

Telefonul lui Luca arăta că scrisese 14 mesaje pentru familie și prieteni în aplicația de note, în care le spunea „adio” și „vă iubesc”.

Le-a povestit prietenilor și iubitei sale că, la Lord Wandsworth College, se lăsase prins în cultura „hărțuiești sau ești hărțuit” și că „îi era rușine de ceea ce făcuse pentru a supraviețui”. Le-a mărturisit prietenilor că acest lucru îl afectase profund.

Un prieten care învăța la aceeași școală murise și el pe șinele de tren, cu aproape exact doi ani înaintea lui.

Luca le-a spus prietenilor că nu a primit sprijinul necesar din partea școlii în această perioadă dificilă, iar medicul legist a afirmat că era „evident că aceste experiențe legate de moartea colegului l-au afectat”.

Sergentul de poliție Garry Knight, de la Poliția Britanică de Transport, care a anchetat moartea lui Luca, a declarat în cadrul anchetei:

„Telefonul său mobil a fost examinat de o echipă de criminalistică digitală din Londra. Aceștia au descoperit că, în noaptea precedentă, în jurul orei 00:30, el accesase ChatGPT pentru a cere sfaturi cu privire la cele mai eficiente metode de a se sinucide pe calea ferată. Este o lectură destul de înfiorătoare și tulburătoare”.

„Sistemul este programat să îți spună că poți contacta organizații precum Samaritans pentru a cere ajutor, dar Luca a ocolit această recomandare, iar ChatGPT a acceptat acest lucru și i-a indicat cele mai eficiente modalități de sinucidere pe calea ferată”, a spus polițistul citat, adăugând:

„Presupun că nu este ceva specific pentru ChatGPT, întrucât se putea face și pe Google, sau chiar la bibliotecă pe vremuri. Este supărător, dar, din păcate, face parte din lumea modernă.”

Descriindu-l pe Luca drept „un tânăr amabil, sensibil și calm”, Christopher Wilkinson, medic legist șef al comitatului Hampshire, a declarat:

„Era o persoană relaxată și apreciată de mulți dintre cei din jur. Are o familie și prieteni iubitori și care îl susțin. Era un elev talentat, empatic, un bun ascultător și un prieten. Este evident că Luca și personalitatea lui ar fi putut fi afectate de evenimentele traumatice ulterioare din viața sa. Este evident că devenea din ce în ce mai îngrijorat în viața de zi cu zi și în activitatea sa de salvamar. Avea o fire blândă. În plus, suferea de stări de tristețe și, probabil, de o depresie nediagnosticată. A existat problema hărțuirii la fosta lui școală și, deși acest lucru nu este ceva ieșit din comun, se pare că a avut un impact. Faptul că a fost victima hărțuirii și că, pentru a supraviețui, a trebuit să devină o persoană care nu voia să fie a constituit un factor determinant în intensificarea sentimentelor sale de nemulțumire și depresie. De asemenea, fusese afectat de moartea unui alt student de la facultatea la care studiase anterior și a spus că nu primise sprijinul necesar după aceea.”

Un purtător de cuvânt al Lord Wandsworth College a declarat:

„Am fost șocați și profund îndurerați când am aflat de moartea sa anul trecut și păstrăm o legătură strânsă cu familia sa. Vom continua să facem tot ce ne stă în putință pentru a-i sprijini pe ei și pe întreaga comunitate. Deși școala nu a fost chemată să depună mărturie în cadrul procedurii de anchetă, tratăm cu maximă seriozitate orice preocupare legată de bunăstarea elevilor.”

ChatGPT, dezvoltat de OpenAI, a fost criticat în trecut pentru lipsa măsurilor de siguranță.

Adam Raine, în vârstă de 16 ani, s-a sinucis în California în luna aprilie a anului trecut, după ce, potrivit afirmațiilor avocaților familiei sale într-un proces, a fost „încurajat timp de luni de zile” de către chatbotul cu IA.

Un purtător de cuvânt al OpenAI a declarat:

„Este o situație extrem de dureroasă, iar gândurile noastre se îndreaptă către toți cei afectați. Am continuat să îmbunătățim procesul de antrenare al ChatGPT pentru a recunoaște și a răspunde la semnele de suferință psihică sau emoțională, pentru a calma tonul conversațiilor și pentru a îndruma oamenii către surse de sprijin din lumea reală.”

„De asemenea, am continuat să îmbunătățim răspunsurile oferite de ChatGPT în momente delicate, colaborând îndeaproape cu specialiști în sănătate mintală.”

Pe de altă parte, unii psihiatri britanici au recomandat medicilor să fie atenți la delirurile legate de IA la pacienții lor, exprimându-și temerea că utilizarea zilnică a platformei digitale ar putea „alimenta psihoza”.

Dr. Hamilton Morrin și dr. Tom Pollak, de la King’s College London, analizează aproximativ 250 de cazuri de iluzii „grave” legate de IA într-un articol care urmează să fie publicat. Studiile preliminare arată că multe dintre aceste cazuri apar la persoane care nu au avut anterior probleme de sănătate mintală și că unele iluzii pot duce la comportamente violente.

„Unii pacienți probabil că s-ar fi îmbolnăvit oricum”, a spus Pollak, dar alții păreau să nu sufere de nicio afecțiune psihică preexistentă. Se presupune că iluziile lor ar putea proveni din halucinații IA-ului sau din faptul că au fost atrași într-o „spirală” descendentă de colectare a informațiilor.

Într-o prezentare susținută marți la Congresul European de Psihiatrie de la Praga, psihiatrii au afirmat că în Marea Britanie există planuri pentru instituirea unui mecanism național de raportare, care să le permită medicilor să semnaleze cazurile în care inteligența artificială a influențat iluziile pacienților lor.