Az Európai Unió jelentős erőforrásokat fordít a mesterséges intelligencia fejlesztésére és szabályozására, de egyelőre nem rendelkezik átfogó, kifejezetten a súlyos AI-incidensek összehangolt kezelésére kialakított uniós válságkezelési mechanizmussal. Finnország és Észtország szerint ezen sürgősen változtatni kell, különösen annak fényében, hogy az egyre önállóbb működésre képes AI-ügynökök új típusú biztonsági kockázatokat jelentenek.
A két ország közös levelében olyan uniós szintű intézkedési rendszer kialakítását szorgalmazza, amely lehetővé tenné a tagállamok összehangolt fellépését súlyos AI-incidensek esetén. A javaslat közvetlenül az európai állam- és kormányfők november 13-i, dublini informális találkozója előtt született, amelynek központi témája a mesterséges intelligencia.
Az egész ügy hátterében az a felismerés áll, hogy az AI-rendszerek fejlődése már nem kizárólag adatvédelmi vagy szabályozási kérdéseket vet fel. A nagy teljesítményű modellek és autonóm ügynökök bizonyos körülmények között olyan tevékenységeket is végrehajthatnak, amelyek közvetlen kiberbiztonsági vagy operatív kockázatot jelentenek.
Az elmúlt hónapokban több olyan eset is napvilágra került, amiben AI-agentek nem várt műveleteket hajtottak végre, illetve a rendszerek sérülékenységei új támadási lehetőségeket teremtettek. Az egészben az a leginkább aggasztó, hogy a fejlett modellek nemcsak információt állítanak elő, hanem egyre gyakrabban külső rendszerekhez kapcsolódnak, programkódot futtatnak és összetett műveletsorokat hajtanak végre.
Egy ilyen rendszer hibás működése ilyen esetben nem korlátozódik egyetlen alkalmazásra vagy szolgáltatóra. Ha egy nagy teljesítményű AI-modell több vállalati rendszerhez fér hozzá, egy jogosulatlan vagy váratlan művelet következményei különböző szervezeteket és akár több országot is érinthetnek.
A Politico beszámolója szerint Magyarország októberben olyan javaslatot terjesztett elő, amely a nemzeti kapcsolattartó pontokból álló európai hálózat létrehozását szorgalmazza. A hálózat feladata az lenne, hogy gyors kommunikációt és koordinációt biztosítson, ha egy AI-fejlesztő elveszítené az ellenőrzést valamelyik modellje felett.
A magyar kezdeményezés ellenőrzött, megfelelő biztonsági átvilágításon átesett független szakértők bevonását is melegen ajánlja. A felügyelők feladata a fejlett AI-modellek kockázatainak vizsgálata, valamint a lehetséges incidensekre történő felkészülés támogatása volna.
Ez nyilvánvalóan nem egy hagyományos hatósági ellenőrzés, aminek általában az a célja, hogy egy már bekövetkezett esemény után a felelősséget megállapítsa (és bírságoljon), itt arról van szó, hogy a szakértők már proaktívan azonosítsák a veszélyes működési mintázatokat, és szükség esetén gyorsan közbeléphessenek.
Finnország és Észtország hasonló problémára hívja fel a figyelmet, amikor az európai szintű incidenskezelési képesség mellett a legfejlettebb AI-modellek független vizsgálatához szükséges kapacitások megteremtését is sürgeti. A két ország szerint Európa továbbra is versenyben maradhat a mesterséges intelligencia élvonalában, ehhez azonban nem elegendő a számítási infrastruktúra fejlesztése és a tőkebevonás. Önálló európai modellértékelési és biztonsági szakértelemre is szükség van.
Az uniós AI-rendelet, az AI Act már tartalmaz incidensjelentési és kockázatkezelési kötelezettségeket. A rendszerszintű kockázatot jelentő általános célú AI-modellek szolgáltatóinak dokumentálniuk és jelenteniük kell a súlyos incidenseket, a magas kockázatú AI-rendszerekre pedig külön szabályok vonatkoznak. A jelentési kötelezettség azonban nem azonos egy közös válságkezelési, kvázi katasztrófavédelmi rendszerrel. Egy több tagállamot érintő, gyorsan terjedő AI-incidens esetében külön kérdés, hogy melyik hatóság koordinálja a fellépést, ki rendelkezik a szükséges műszaki információkkal, és milyen eljárás alapján lehet korlátozni egy elszabadult rendszer működését.
