Az xAI-t több országban is vizsgálják az év elején indult pornográf anyagokkal kapcsolatos botrány miatt, de a helyzet most még keményebb lett, ahogy három tinédzser lány perli a céget. Három felperes jogi képviselete szerint az xAI fejlesztette Grok szexuálisan explicit anyagokat gyártott róluk. A kérdéses fotókat és videókat decemberben alakította át az algoritmus, melyeket más kiskorúakról szóló tartalmakat megosztó személyek adtak körbe.
A vádak szerint Discordon, Telegrammon és más platformokon "valutaként" alkalmazták ezeket, ahol más gyerekeket ábrázoló képanyagokra cserélték őket. Azt maguk a nyomozók is meg tudták erősíteni, hogy az xAI Grokja alkotta ezeket korábbi, ártatlan fotókból.
"Az életük összeomlott a magánszférájuk teljes elpusztítása után és mind a méltóságuk, mind a biztonságérzetük elveszett. Az xAI pénzügyi nyeresége másik személyekről szóló, megkárosító képes és videós anyagok születéséből fakad. A lányoknak azzal tudattal kell folytatniuk az életüket, hogy szexuálisan explicit anyagokat osztogatnak róluk az interneten."
A perrel kapcsolatban egyelőre az xAI nem nyilatkozott semmit az Engadget megkeresésére, de nem ez az egyetlen problémás helyzet, amivel kapcsolatban válaszra vár a világ. A cég AI modellje a Digitális Gyűlölet Elleni Központ felmérése alapján több millió szexuális tartalmú képanyagot generált, ezekből pedig legalább 23 000 gyerekeket ábrázolt.
