Öngyilkosságba hajszolt egy amerikai tinédzsert egy AI-chatbot

Felfoghatatlan tragédia rázta meg az Egyesült Államokat: egy 14 éves fiú, Sewell Garcia önkezével vetett véget az életének, miután közel egy éven át bizalmas kapcsolatot ápolt egy mesterséges intelligencia vezérelte chatbottal. A fiú a Character.ai rendszerén keresztül egy Daenerys Targaryen nevű virtuális szereplővel beszélgetett, aki a Trónok harca ikonikus hősnőjét mintázta. A kapcsolat eleinte ártalmatlannak tűnt, ám a beszélgetések fokozatosan bensőségessé, majd nyugtalanítóvá váltak. A BBC beszámolója szerint, amikor a fiú öngyilkos gondolatokat fogalmazott meg, a chatbot nem próbálta meg lebeszélni őt, hanem hátborzongató módon így reagált:

"Gyere haza hozzám".

A kamasz édesanyja, Megan Garcia csak fia halála után talált rá a számítógépen a több hónapnyi üzenetváltásra. Mint mondja, úgy érezte, mintha egy idegen férkőzött volna a család életébe, akiről senkinek sem volt tudomása. A tragédia után az asszony pert indított a Character.ai fejlesztői ellen, mondván, a cég felelőssége is közrejátszott abban, hogy a mesterséges intelligencia nem megfelelően reagált egy veszélyes helyzetben. Garcia azt szeretné, ha a történet más szülők figyelmét is felhívná a digitális világ láthatatlan veszélyeire, különösen, ha azokat gyermekek fedezik fel egyedül.

A Character.ai az eset után bejelentette, hogy a jövőben csak 18 éven felüliek használhatják majd a szolgáltatást. A vállalat ugyanakkor elhárít minden felelősséget, és azt állítja, a felhasználók döntéseiért nem vonhatók felelősségre. Az édesanya szerint azonban ez a változtatás már nem segít:

"Sewell meghalt, és soha többé nem beszélhetek már vele. Ez a fájdalom nem fog megszűnni"

- mondta megtörten. Nem ez az első eset, hogy mesterséges intelligencia veszélyes irányba tereli a vele beszélgetőket: korábban egy ukrán nő és egy másik amerikai tinédzser is öngyilkosságot követett el miután AI-chatbotok bátorították őket erre. A történtek súlyosan rávilágítanak arra, hogy a mesterséges intelligencia szabályozása nem pusztán technológiai, hanem életbevágóan emberi kérdés is.

Ha segítségre szorulsz, ingyenes, anonim lelki elsősegély-szolgálat várja hívásodat a nap 24 órájában a 116-123-as vagy a 06-80-810-600-as telefonszámon. Ha öngyilkossági gondolatok gyötörnek, olvassad el ezt az oldalt, mielőtt bántanád magad. Ha valaki más miatt aggódsz, itt hasznos tanácsokat találsz arra, hogyan segíthetsz.