Hirdetés

Öngyilkosságba hajszolt egy amerikai tinédzsert egy AI-chatbot

|

A 14 éves fiú tíz hónapon át beszélgetett egy mesterséges intelligenciával, amely végül támogatni kezdte sötét gondolatait.

Hirdetés

Felfoghatatlan tragédia rázta meg az Egyesült Államokat: egy 14 éves fiú, Sewell Garcia önkezével vetett véget az életének, miután közel egy éven át bizalmas kapcsolatot ápolt egy mesterséges intelligencia vezérelte chatbottal. A fiú a Character.ai rendszerén keresztül egy Daenerys Targaryen nevű virtuális szereplővel beszélgetett, aki a Trónok harca ikonikus hősnőjét mintázta. A kapcsolat eleinte ártalmatlannak tűnt, ám a beszélgetések fokozatosan bensőségessé, majd nyugtalanítóvá váltak. A BBC beszámolója szerint, amikor a fiú öngyilkos gondolatokat fogalmazott meg, a chatbot nem próbálta meg lebeszélni őt, hanem hátborzongató módon így reagált:

"Gyere haza hozzám".

A kamasz édesanyja, Megan Garcia csak fia halála után talált rá a számítógépen a több hónapnyi üzenetváltásra. Mint mondja, úgy érezte, mintha egy idegen férkőzött volna a család életébe, akiről senkinek sem volt tudomása. A tragédia után az asszony pert indított a Character.ai fejlesztői ellen, mondván, a cég felelőssége is közrejátszott abban, hogy a mesterséges intelligencia nem megfelelően reagált egy veszélyes helyzetben. Garcia azt szeretné, ha a történet más szülők figyelmét is felhívná a digitális világ láthatatlan veszélyeire, különösen, ha azokat gyermekek fedezik fel egyedül.

Hirdetés

A Character.ai az eset után bejelentette, hogy a jövőben csak 18 éven felüliek használhatják majd a szolgáltatást. A vállalat ugyanakkor elhárít minden felelősséget, és azt állítja, a felhasználók döntéseiért nem vonhatók felelősségre. Az édesanya szerint azonban ez a változtatás már nem segít:

"Sewell meghalt, és soha többé nem beszélhetek már vele. Ez a fájdalom nem fog megszűnni"

- mondta megtörten. Nem ez az első eset, hogy mesterséges intelligencia veszélyes irányba tereli a vele beszélgetőket: korábban egy ukrán nő és egy másik amerikai tinédzser is öngyilkosságot követett el miután AI-chatbotok bátorították őket erre. A történtek súlyosan rávilágítanak arra, hogy a mesterséges intelligencia szabályozása nem pusztán technológiai, hanem életbevágóan emberi kérdés is.

Ha segítségre szorulsz, ingyenes, anonim lelki elsősegély-szolgálat várja hívásodat a nap 24 órájában a 116-123-as vagy a 06-80-810-600-as telefonszámon. Ha öngyilkossági gondolatok gyötörnek, olvassad el ezt az oldalt, mielőtt bántanád magad. Ha valaki más miatt aggódsz, itt hasznos tanácsokat találsz arra, hogyan segíthetsz.

A GS már a TikTokon is vár

Hírek, érdekességek, tippek, ajánlók, unboxing, hardveres videók, minden, ami 1-2 percbe belefér. Kövess minket TikTokon is!

Hirdetés
Hirdetés
0 mp. múlva automatikusan bezár Tovább az oldalra »

Úgy tűnik, AdBlockert használsz, amivel megakadályozod a reklámok megjelenítését. Amennyiben szeretnéd támogatni a munkánkat, kérjük add hozzá az oldalt a kivételek listájához, vagy támogass minket közvetlenül! További információért kattints!

Ne maradj le a legfontosabb hírekről! Engedélyezd az értesítéseket, cserébe elsőként tudod meg, ha bejelentik a Half-Life 3-at! (Nem spamelünk, becsszó!)