A mesterséges intelligencia akár több millió dokumentumot is képes rövid idő alatt feldolgozni, ám a nagy pontosság önmagában nem jelent garanciát a megbízhatóságra. Egy 99,9 százalékos pontossággal működő rendszer egymillió feldolgozott tételnél is ezer hibát véthet, amelyek közül akár egyetlen téves személyazonosítás vagy hibás besorolás is súlyos következményekkel járhat. A jelenlegi levéltári botrány kapcsán különösen aktuális kérdés, hogyan ellenőrizhetők a nagy adatállományokat feldolgozó rendszerek, és ki viseli a felelősséget a nyilvánosságra kerülő téves információkért.
Berkovich Gáborral, a SeaCon Europe ügyvezetőjével arról beszélgettünk, milyen technológiai és szervezeti biztosítékok szükségesek az AI-alapú dokumentumfeldolgozás során, miért nélkülözhetetlen az emberi ellenőrzés, és hogyan lehet kezelni egy olyan hibát, amelynek következményei a helyesbítés után is tovább élhetnek a keresőmotorokban, adatbázisokban vagy más mesterségesintelligencia-rendszerekben. Az interjú az adatbiztonság, a jogi felelősség és az európai szabályozás kérdéseire is kitér, miközben egy fontos különbségre figyelmeztet: az AI által előállított következtetés még nem tekinthető ellenőrzött ténynek.
CW: Egy több százezer vagy akár több millió dokumentumot feldolgozó, mesterséges intelligenciával támogatott rendszerben mekkora hibaarány tekinthető elfogadhatónak? Egyáltalán beszélhetünk-e elfogadható hibaszázalékról, ha az érintettek jó hírneve forog kockán?
Berkovich Gábor: Nincs általánosan elfogadható hibaszázalék. A megengedhető kockázatot nem pusztán az összes feldolgozott dokumentumra vetített átlagos pontosság, hanem az adott tévedés következménye határozza meg. Ha egy személyt tévesen jogsértéshez, üzleti visszaéléshez vagy más negatív eseményhez kapcsol a rendszer, egyetlen nyilvános téves állítás is aránytalan kárt okozhat.
Ezért külön kell mérni a dokumentumfelismerés hibáját, a névazonosítást, a szerep-/kapcsolatértelmezést és a nyilvános állítások hibaarányát. Milliós állománynál még a 99,9%-os pontosság is ezres nagyságrendű hibát jelenthet. A személyt érintő, reputációs következményű állításoknál a gyakorlatilag elvárt működés: nincs automatikus közzététel ellenőrizetlen, bizonytalan találat alapján.
Javasolt kontroll: forrásdokumentumhoz kötött bizonyítás, kockázatalapú küszöbök, manuális felülvizsgálat a magas hatású eseteknél, valamint véletlenszerű mintavétel és célzott tesztelés a ritka, súlyos hibákra. A pontosság és a téves pozitív arány önmagában nem helyettesíti az egyedi ügyek ellenőrzését.
CW: Milyen ellenőrzési mechanizmusokra lenne szükség ahhoz, hogy az AI ne csupán neveket és összefüggéseket azonosítson, hanem a dokumentumokban szereplő személyek tényleges szerepét is megfelelően értelmezze?
Berkovich Gábor: A személy neve pusztán egy dokumentumban még nem igazolja sem az érintettség okát, sem a felelősséget. A rendszernek külön kell azonosítania a szerepet: szerződő fél, tanú, ügyintéző, képviselő, kedvezményezett, említett személy vagy más releváns minőség. Az együtt-előfordulás nem bizonyít oksági vagy jogi kapcsolatot.
Ajánlott többlépcsős feldolgozás: (1) OCR és dokumentumstruktúra-ellenőrzés; (2) név- és entitásfelismerés; (3) szerep-, időpont- és kontextuskinyerés; (4) több forrás közötti egyeztetés; (5) bizonytalanság esetén 'nem állapítható meg' kimenet; (6) emberi ellenőrzés minden jelentős következményű állítás előtt.
Technikailag hasznos az entitásfeloldás (azonos nevű személyek elkülönítése), az idézet és tényállítás különválasztása, a forráshely megjelenítése, a szigorú strukturált kimeneti séma és a negatív tesztesetek használata. A validáló szakértőnek az eredeti dokumentumrészletet is látnia kell, nem elég az AI összefoglalója.
CW: Egy ilyen adatfeldolgozási hiba esetén hogyan állapítható meg a felelősség? A rendszer fejlesztője, az adatbázis üzemeltetője, az adatokat közzétevő intézmény vagy az eredményeket jóváhagyó szakember felel a téves információk nyilvánosságra kerüléséért? Léteznek-e erre nemzetközileg elfogadott eljárások?
Berkovich Gábor: A felelősség nem rendelhető automatikusan egyetlen szereplőhöz: a tényleges adatkezelési célok, döntési jogosultságok, szerződések és az oksági kapcsolat alapján vizsgálható. A GDPR szerinti adatkezelő jellemzően az, aki a célokat és eszközöket meghatározza; az adatfeldolgozó az adatkezelő utasításai szerint jár el. Emellett külön jelentősége lehet a közzé tevő szerkesztői döntésének, a fejlesztő műszaki hibájának és az ellenőrzést végző szakember eljárásának.
A felelősség felderítéséhez szükséges: adatáramlási térkép, adatkezelő/adatfeldolgozó szerepkörök, szerződéses felelősségi mátrix, modell- és adatverziók, promptok és lekérdezési naplók megfelelő védelme, jóváhagyási nyomvonal, valamint a publikálási döntés dokumentálása. A GDPR 82. cikke kártérítési szabályokat tartalmaz; a személyiségi jogi és sajtójogi felelősség ettől külön is felmerülhet.
Nem létezik egyetlen, minden országban minden AI-hibára alkalmazható kötelező felelősségi protokoll. A NIST AI RMF, az ISO/IEC 42001 és az incidenskezelési szabványok viszont használható irányítási keretet adnak. Az egyedi jogi felelősséget az alkalmazandó jog és a konkrét tényállás alapján kell eldönteni.
CW: Ha egy mesterséges intelligenciával támogatott rendszer téves, személyiségi jogokat sértő vagy súlyos reputációs károkat okozó információt hoz nyilvánosságra, elegendő-e az adat kijavítása és a bocsánatkérés? Létezik-e olyan szakmai incidenskezelési vagy válságkommunikációs protokoll, amely előírja az érintett hivatalos értesítését, a téves információ terjedésének megakadályozását és a károk mérséklését?
Berkovich Gábor: Nem feltétlenül elegendő a helyesbítés és a bocsánatkérés. A kárenyhítés része lehet a hibás tartalom azonnali visszavonása vagy jól látható helyesbítése, a kapcsolódó automatikus publikálás leállítása, az érintett megkeresése, a téves adatok címzettjeinek értesítése, valamint az érintett további jogérvényesítési lehetőségeinek biztosítása.
Javasolt incidenseljárás: 1. észlelés és tartalomfelfüggesztés; 2. bizonyítékmegőrzés és tényellenőrzés; 3. DPO/jogi/security/kommunikációs bevonás; 4. érintettség és jogi minősítés; 5. helyesbítés és címzetti értesítés; 6. szükséges hatósági bejelentés; 7. utókövetés és kontrolljavítás. A kommunikációnak világosan meg kell különböztetnie a bizonyított tényeket és a vizsgálat alatt álló állításokat.
A GDPR szerinti adatvédelmi incidensbejelentés csak akkor releváns, ha a történés személyesadat-sértésnek minősül. Ilyenkor a felügyeleti hatóság értesítése főszabály szerint 72 órán belül szükséges, ha az incidens kockázattal jár az érintettek jogaira és szabadságaira; magas kockázat esetén az érintettek tájékoztatása is kötelező lehet. A pusztán pontatlan publikáció nem minden esetben adatvédelmi incidens, de más helyesbítési vagy jogi kötelezettséget kiválthat.
CW: A digitális információk egyik sajátossága, hogy a hibás adatot más rendszerek, keresőmotorok vagy mesterségesintelligencia-modellek is átvehetik. Hogyan lehet egy egyszer már nyilvánosságra került téves információt ténylegesen helyesbíteni? Megoldható-e technológiailag, hogy a javítás az adatot korábban átvevő rendszerekhez is eljusson?
Berkovich Gábor: A nyilvánosságra jutott hibás adat teljes visszavonása általában nem garantálható. A helyesbítést a forrásrendszerben kell kezdeni, majd az ismert másolatokra és továbbadási csatornákra kiterjeszteni. Keresőmotoroknál frissített oldal, megfelelő HTTP-státusz, eltávolítási vagy újraindexelési kérelem segíthet; szerződéses adatátvevőknél javítási értesítés és API-szinkronizáció alkalmazható.
Technikai javaslat: minden közzétett állítás kapjon stabil azonosítót, forrásverziót, érvényességi időt és javítási állapotot; működjön helyesbítési esemény (webhook / change feed), címzetti napló és visszaigazolás. A visszavont tényeket a RAG-indexből, gyorsítótárakból és riportnézetekből is el kell távolítani vagy újraindexelni.
A GDPR 19. cikke meghatározott feltételekkel előírja a helyesbítésről/törlésről az adatot korábban megkapó címzettek értesítését; a 17. cikk bizonyos esetekben további törlési intézkedéseket is érinthet. Ettől még a független másolatok, archiválások és már betanított külső modellek minden példányának technikai kijavítása nem biztosítható. Ezért alapvető jelentőségű a közzététel előtti kontroll.
CW: A SeaCon Europe az AI-alapú adatfeldolgozás és az adatbiztonság területén is kínál megoldásokat. Milyen technológiai és szervezeti kontrollokkal lehet megelőzni, hogy egy nagy mennyiségű, érzékeny adatot feldolgozó rendszer téves következtetéseket tegyen közzé, vagy bizalmas információkat szivárogtasson ki? Mennyiben jelenthetnek megoldást a zárt, vállalati környezetben működő MI-rendszerek?
Berkovich Gábor: A legbiztonságosabb architektúra nem az AI 'önfegyelmére' épít, hanem a modell elé és mögé szervezett kontrollokra. Forrásoldalon adatminősítés, adatminimalizálás, érzékeny mezők azonosítása és forrásjogosultságok megőrzése szükséges. A lekérdezési rétegben SSO/MFA, RBAC/ABAC, dokumentumszintű ACL, sor- és oszlopszintű szűrés, valamint korlátozott jogosultságú API-k javasoltak.
A modellrétegben forráshoz kötött RAG, találati küszöbök, ellenőrzött strukturált kimenet, DLP, prompt injection elleni kontrollok, kimeneti validáció, 'nincs elég adat' válasz és emberi jóváhagyás szükséges a publikáláshoz. Üzemeltetési oldalon naplózás, modell- és adatverzió-kezelés, biztonsági tesztek, rendszeres jogosultság-felülvizsgálat és incidenseljárás indokolt.
A zárt, saját hosztolású környezet jelentősen javíthatja az adatáramlás, a kulcsok, a naplók és a külső szolgáltatói függőségek kontrollját. Önmagában azonban nem garantál sem adatvédelmi megfelelőséget, sem alacsony hallucinációs arányt. A valós biztonságot a teljes adatút, a hozzáférési szabályok, a tesztelt válaszminőség és a felelős szervezeti működés együtt adja.
CW: Az európai AI Act és a GDPR milyen kötelezettségeket róhat egy olyan szervezetre, amely mesterséges intelligenciával dolgoz fel és tesz közzé személyes adatokat? Milyen esetekben szükséges emberi felülvizsgálat, dokumentált döntési folyamat vagy hivatalos incidensbejelentés, és milyen következményekkel járhat ezek elmulasztása?
Berkovich Gábor: A GDPR akkor alkalmazandó, ha személyes adatot kezelnek. Fő elvárások: megfelelő jogalap; célhoz kötés és adatminimalizálás; pontosság és helyesbítés; átlátható tájékoztatás; biztonság; adatkezelői felelősség; adatfeldolgozói megállapodások; az érintetti jogok kezelése. Magas adatvédelmi kockázatú feldolgozás esetén DPIA szükséges lehet; kizárólag automatizált, joghatással vagy hasonlóan jelentős hatással járó döntéseknél a GDPR 22. cikke külön garanciákat ír elő.
Az AI Act kötelezettségei nem minden MI-alapú dokumentumkeresőre azonosak. A rendszer szerepét és kockázati besorolását (szolgáltató / alkalmazó, tiltott / nagy kockázatú / átláthatósági kör) külön kell vizsgálni. Nagy kockázatú rendszereknél a vonatkozó szabályok szerint dokumentáció, nyomon követhetőség, felügyelet és üzemeltetési kontrollok válhatnak kötelezővé; az alkalmazási időpontokat a 2026-os módosításokkal együtt szükséges ellenőrizni. A puszta AI-használat nem teszi automatikusan nagy kockázatúvá a megoldást, a felelőtlen, meggondolatlan, vagy felkészületlen, esetleg rossz szándékú használat viszont jelentős kockázatokat hordozhat (ahogy ez a konyhakésnél is leírható).
Az emberi felülvizsgálat különösen indokolt az egyén jogait vagy jó hírnevét érdemben érintő nyilvános állítások előtt, és bizonyos jogi helyzetekben kötelező is lehet. A hatósági bejelentések körét külön kell megállapítani: GDPR szerinti személyesadat-sértés, AI Act szerinti súlyos incidens vagy más ágazati esemény eltérő feltételekhez kötött. Elmulasztásuk felügyeleti intézkedést, bírságot, polgári jogi igényt és reputációs következményeket eredményezhet; a konkrét jogkövetkezmény mindig az adott tényállástól függ.
Hivatkozások és szakmai keretek:
- GDPR - (EU) 2016/679 rendelet, különösen 5., 16-19., 22., 24., 28., 32-35., 82.
- EU AI Act - (EU) 2024/1689 rendelet és módosításai; hivatalos tájékoztató és egységesített böngésző
- European Data Protection Board, 28/2024. vélemény az MI-modellekhez kapcsolódó adatvédelmi kérdésekről
- NIST AI Risk Management Framework - Generative AI Profile (AI 600-1, 2024)
- ISO/IEC 42001:2023 - Artificial intelligence management system (irányítási szabvány).
A válaszok általános szakmai tájékoztatást adnak; konkrét ügyben az adatkezelési szerepek, az alkalmazandó magyar és uniós szabályok, valamint a bizonyítékok alapján szükséges jogi értékelés.
