PCW logó
Hirdetés
PCW

Több chatbot is hivatkozik a Grokipediára egyes lekérdezésekben

|

Amikor az AI a másik AI hallucinációja alapján hallucinálja a választ.

Hirdetés

A The Guardian beszámolója szerint nemcsak a ChatGPT, hanem az Anthropic Claude nevű AI-chatbotja is hivatkozott forrásként a Grokipediára egyes lekérdezések során. Az OpenAI a lapnak azt közölte: a ChatGPT webes keresése "széles körű, nyilvánosan elérhető forrásokra és nézőpontokra" támaszkodik, valamint biztonsági szűrőket alkalmaz annak érdekében, hogy csökkentse a súlyos károkkal összefüggő tartalmak megjelenésének kockázatát. A cég hangsúlyozta azt is, hogy a chatbot egyértelműen jelöli a válaszaihoz felhasznált forrásokat.

Biztonsági szakértők ugyanakkor arra figyelmeztetnek, hogy a nagy nyelvi modellek manipulálhatók, és olyan módszerekkel, mint az úgynevezett "LLM Grooming", félrevezető vagy hamis információk terjesztésére is rávehetők. Bár nem bizonyított, hogy harmadik fél szándékos beavatkozása állna amögött, hogy a ChatGPT és a Claude a Grokipediát használta forrásként, a The Guardian szerint a jelenség mindenképpen aggasztó, különösen egy olyan információs környezetben, ahol az AI-rendszerek egyre nagyobb szerepet játszanak.

Hirdetés

A Grokipediát Elon Musk mesterséges intelligencia vállalata, az xAI működteti, és a Grok nevű chatbot hajtja. Musk a Grokipediát a Wikipédia alternatívájaként hozta létre, amelyet évek óta bírál, a kezdeményezés azonban rövid idő alatt politikailag terhelt témákban terjedő hamis információk forrásává vált. A Grok egyébként is sűrűn keveredik botrányokba, legutóbb például fiatalkorú lányokat vetkőztetett le képeken. Musk maga is egyre nyíltabban kötődik finoman szólva is megkérdőjelezhető ideológiákhoz: néhány hete például olyan képet osztott meg az X-en, amely pozitív színben tüntette fel az egykori apartheid államot, Rodéziát, a mai Zimbabwét.

Hirdetés
0 mp. múlva automatikusan bezár Tovább az oldalra »

Úgy tűnik, AdBlockert használsz, amivel megakadályozod a reklámok megjelenítését. Amennyiben szeretnéd támogatni a munkánkat, kérjük add hozzá az oldalt a kivételek listájához, vagy támogass minket közvetlenül! További információért kattints!

Ne maradj le a legfontosabb hírekről! Engedélyezd az értesítéseket, cserébe elsőként tudod meg, ha bejelentik a Half-Life 3-at! (Nem spamelünk, becsszó!)