Az AI Act szabályai most új szintre lépnek: az Európai Bizottság már nemcsak meghatározza, milyen követelményeknek kell megfelelniük a mesterséges intelligencia rendszereinek, hanem a gyakorlatban is ellenőrizheti a legnagyobb általános célú AI-modelleket (GPAI). De mit jelent ez a gyakorlatban, és mire számíthat az a szolgáltató, akinek a modellje bekerül a Bizottság látókörébe?
Nem számít, honnan érkezik az AI-modell
Az általános célú mesterségesintelligencia-modellek (GPAI) szabályozása egyre szigorúbb és közvetlenebb hatósági ellenőrzés felé halad. A cél, hogy az AI-technológiák biztonságosan és megbízhatóan működjenek, miközben az uniós szabályozás védi az alapvető jogokat, a közbiztonságot és az egészséget.
A szabályok azonban nem csak az uniós szereplőkre vonatkoznak: az Európán kívüli, például amerikai vagy ázsiai fejlesztőknek is számolniuk kell velük, ha modelljeik az uniós piacon elérhetők. A katonai, honvédelmi és nemzetbiztonsági célú rendszerek, valamint a kizárólag kutatási szakaszban lévő prototípusok ugyanakkor kívül esnek a szabályozás hatályán. A közszolgáltatást nyújtó szervezetek számára pedig különösen fontos lehet a megfelelés, hiszen nagy kockázatú modellek bevezetése előtt alapjogi hatásvizsgálatot is el kell végezniük.
Nem csak a dokumentumokat vizsgálhatják
A friss végrehajtási rendelet egyik legfontosabb újdonsága, hogy az Európai Bizottság és az MI-hivatal a vizsgálat során közvetlen technikai hozzáférést is kérhet a GPAI-modellekhez. Vagyis az ellenőrzés nem áll meg a dokumentumok és megfelelőségi iratok áttekintésénél.
A hatóság hozzáférést kérhet többek között az API-khoz, a forráskódhoz és az adat-előkészítési scriptekhez, valamint megvizsgálhatja a modellsúlyokat és a belső konfigurációs paramétereket is. A szolgáltató emellett nem akadályozhatja technikailag a vizsgálatot, például sebességkorlátozással vagy a tesztkörnyezet manipulálásával, és a hozzáférést üzleti titokra vagy szerződéses titoktartásra hivatkozva sem tagadhatja meg.
Független szakértők is beléphetnek a vizsgálatba
Az AI-modellek vizsgálata nem feltétlenül kizárólag a Bizottság szakembereire korlátozódik. A rendelet lehetővé teszi külső, független szakértők és tudományos testületek bevonását is, például a modellek értékelésére, sérülékenységeik feltárására vagy a rendszerszintű kockázatok vizsgálatára.
A szakértők kiválasztásánál ugyanakkor szigorú függetlenségi szabályok érvényesülnek. Érdekeltségi nyilatkozatot kell tenniük, és az elmúlt tizenkét hónap kapcsolatait is vizsgálják annak érdekében, hogy kizárják az érintett szolgáltatóval fennálló gazdasági, munkajogi vagy tanácsadói kapcsolatot. Emellett szigorú titoktartási kötelezettség köti őket, így a vizsgálat során megismert érzékeny műszaki információk és szellemi tulajdon védelme is biztosított
A megfelelés már nem csak papírmunka
Az AI Act alkalmazásának új szakaszával a GPAI-modellek szolgáltatóinak már nemcsak a szabályok ismeretére, hanem a tényleges megfelelés igazolására is fel kell készülniük. Az Európai Bizottság vizsgálatai a dokumentáció mellett a modellek technikai működésére, a kockázatok kezelésére és a szolgáltató által alkalmazott folyamatokra is kiterjedhetnek. Mindez azt jelenti, hogy az AI Act szerinti megfelelés egyre inkább folyamatos, dokumentált és technikailag is megalapozott működést igényel – különösen azoknál a vállalkozásoknál, amelyek GPAI-modelleket fejlesztenek vagy tesznek elérhetővé az uniós piacon.
Kollégánk, Dr. Balogh Bálint cikke
A cikkben foglalt információk kizárólag tájékoztató jellegűek, a szerzők szakmai véleményét tükrözik, és nem minősülnek jogi tanácsadásnak. A cikk elolvasása nem hoz létre ügyvédi megbízási vagy egyéb jogviszonyt. Konkrét jogi kérdés esetén keressen minket bizalommal.