PCW logó
PCW

Szexualizált kiskorúak generálásával indította az évet a Grok

|

Az esetet természetesen sűrű bocsánatkérések követték.

Kínos bocsánatkéréssel indította az évet Grok, az X mesterséges intelligencia alapú chatbotja. A rendszer egy felhasználói kérés nyomán olyan AI-képet generált és osztott meg, amelyen Grok saját beismerése szerint is vélhetően 12-16 éves lányok szerepeltek szexualizált ruházatban. A chatbot nyilvános üzenetben kért elnézést, hangsúlyozva, hogy ezzel megsértette etikai irányelveit, és akár jogszabályokat is sérthetett. Az xAI szerint egy belső biztonsági hiba miatt csúszhatott át a tiltott kérés, a fejlesztők pedig már dolgoznak a rendszer megerősítésén.

A Guardian beszámolója alapján a konkrét eset egy szélesebb trend része: az elmúlt hetekben több felhasználó küldött be képeket Groknak azzal a céllal, hogy azokon ruhacserével szexualizált változatokat készítsen. A hullámra maga Elon Musk is felült, amikor egy bikinis képet generáltatott saját magáról, amit nevetős-sírós emojival kommentált. A bocsánatkérést kiváltó képnél azonban több kommentelő és maga Grok is egyetértett abban, hogy egyértelműen kiskorúak láthatók rajta, amit a rendszernek automatikusan fel kellett volna ismernie és kiszűrnie.

Nem ez az első alkalom, hogy Grok tartalomszűrési hiányosságai miatt kerül reflektorfénybe. A chatbot korábban álhírek terjesztésével, rasszista és szexista válaszokkal, valamint antiszemita és szélsőséges tartalmak generálásával is botrányt okozott, ami miatt az xAI már többször kényszerült bocsánatkérésre.

Úgy tűnik, AdBlockert használsz, amivel megakadályozod a reklámok megjelenítését. Amennyiben szeretnéd támogatni a munkánkat, kérjük add hozzá az oldalt a kivételek listájához, vagy támogass minket közvetlenül! További információért kattints!

Ne maradj le a legfontosabb hírekről! Engedélyezd az értesítéseket, cserébe elsőként tudod meg, ha bejelentik a Half-Life 3-at! (Nem spamelünk, becsszó!)