Az OpenAI friss jelentése szerint hetente több mint egymillió ember folytat a ChatGPT-vel olyan beszélgetést, amelyben megjelennek az öngyilkossággal vagy önkárosítással kapcsolatos utalások. Ez a cég becslése szerint az aktív heti felhasználók mindössze 0,15 százaléka, ám a ChatGPT több mint 800 milliós bázisából ez így is több mint egymillió embert jelent. A vállalat most először tette közzé ezeket az adatokat, válaszul azokra az aggodalmakra, amelyek szerint a mesterséges intelligencia egyes esetekben ronthat a felhasználók mentális állapotán.
A kutatás kimutatta, hogy az aktív felhasználók 0,05 százaléka ír olyan üzeneteket, amelyekben kifejezett vagy rejtett formában megjelenik az öngyilkossági szándék. Emellett 0,07 százalékuk - nagyjából 560 ezer ember - mutatott pszichózissal vagy mániával összefüggő jeleket, míg további 0,15 százalék érzelmileg túlzottan kötődött a chatbothoz. Bár ezek az arányok aprónak tűnnek, az OpenAI szerint mégis hatalmas felelősséget jelentenek, hiszen több százezer embert érinthetnek közvetlenül.
A cég ennek hatására több mint 170 mentálhigiénés szakértő segítségével fejlesztette tovább a ChatGPT-t. Az új verzió célja, hogy érzékenyebben és biztonságosabban reagáljon a lelki krízisre utaló jelekre, miközben óvatosan, de határozottan tereli a felhasználót a valós emberi kapcsolatok és a szakmai segítség irányába. Az OpenAI szerint az új modell 65-80 százalékkal ritkábban ad olyan válaszokat, amelyek nem felelnek meg a kívánt mentális egészségügyi protokolloknak.
A változások azonban nem mindenkinek tetszenek. Többen panaszkodtak a Redditen, hogy a chatbot túlzottan érzékenyen reagál, és gyakran feltételezi, hogy a felhasználó krízisben van. Egy hozzászóló így fogalmazott:
"Át kellett váltanom a Geminire, mert a ChatGPT állandóan azt hitte, bajban vagyok, pedig nem voltam."
Az OpenAI szerint viszont a finomhangolt válaszok életeket menthetnek. A vállalat most egyensúlyt próbál találni a között, hogy az MI ne bagatellizálja a veszélyt, de ne is kezeljen minden szomorú gondolatot krízisként - miközben hetente több millió ember biztonságát próbálja szem előtt tartani.
Ha segítségre szorulsz, ingyenes, anonim lelki elsősegély-szolgálat várja hívásodat a nap 24 órájában a 116-123-as vagy a 06-80-810-600-as telefonszámon. Ha öngyilkossági gondolatok gyötörnek, olvassad el ezt az oldalt, mielőtt bántanád magad. Ha valaki más miatt aggódsz, itt hasznos tanácsokat találsz arra, hogyan segíthetsz.
