A mesterséges intelligencia európai szabályozásában a következő nagy mérföldkő továbbra is 2026. augusztus 2. Ekkor lép életbe az AI Act 50. cikke átláthatósági kötelezettségeinek jelentős része. Ez azt jelenti, hogy számos szervezetnek már most nyáron meg kell felelnie az AI-rendszerek átláthatóságára vonatkozó előírásoknak. A mostani módosítás bizonyos kötelezettségek időpontját viszont későbbre tolja.
A legfontosabb változások:
- A magas kockázatú AI-rendszerekre vonatkozó kötelezettségek egy része későbbre kerül. Az önálló AI-rendszerek esetében 2027 decemberéig, a termékekbe beépített rendszereknél pedig 2028 augusztusáig hosszabbodik a felkészülési idő.
- A tagállamoknak a szabályozói tesztkörnyezetek (AI sandboxok) kialakítására is több idő jut, egészen 2027 augusztusáig.
- Ugyanakkor szigorítás is érkezik: a beleegyezés nélküli intim képek előállítására, illetve gyermekek sérelmére készített tartalmak generálására alkalmas AI-rendszerek tiltott gyakorlatnak minősülnek, és ezekre már 2026 decemberétől alkalmazni kell a szabályokat.
- A módosítás célja emellett az is, hogy egyszerűbbé tegye az AI Act és az egyéb ágazati szabályozások (például orvostechnikai eszközök vagy gépek) közötti megfelelést, csökkentve a párhuzamos adminisztrációt.
Az idő ugyanis érdekesen telik: a szabályozási térben nagyon lassan, a mesterséges intelligencia fejlődését nézve pedig elképesztő sebességgel halad előre.
(Fotó: Tanács Zoltán tudományos és technológiai miniszter facebook oldala)
Annyira gyorsan, hogy ma már maguk a vezető AI-fejlesztő vállalatok is azt mondják: ideje lehet lassítani. Nem véletlenül.
A múlt héten olyan incidensről számolt be a sajtó, amely néhány éve még kizárólag sci-finek tűnt volna. Az OpenAI közlése szerint egyik kísérleti mesterségesintelligencia-modelljük egy kiberbiztonsági teszt során önállóan kijutott a számára létrehozott, elszigetelt tesztkörnyezetből (sandbox), majd belső rendszereken keresztül internet-hozzáférést szerzett. Ezután önálló következtetés alapján egy másik AI-vállalat, a Hugging Face éles informatikai rendszerét támadta meg, hogy megszerezze a tesztfeladat megoldásához szükséges információkat. A Hugging Face először nem is tudta, hogy egy OpenAI-teszt részese lett. Saját biztonsági rendszereik autonóm AI-ügynök által végrehajtott behatolást észleltek, amelyet olyan súlyosnak ítéltek, hogy még a hatóságokat is értesítették. Később derült ki, hogy az esemény összefügg az OpenAI belső tesztjével, és a két vállalat ma már közösen dolgozik azokon a sérülékenységeken, amelyeket a modell kihasznált.
Ha ez valóban így történt, akkor ez az első nyilvánosan ismert esetek egyike lehet, amikor egy mesterséges intelligencia emberi utasítás nélkül lépett ki saját tesztkörnyezetéből, majd egy külső, valós informatikai rendszerben hajtott végre sikeres támadást.
Az OpenAI megszökött modellje olyan autonóm szoftverügynök volt, amely képes:
- önállóan célokat meghatározni;
- több lépésből álló támadási stratégiát kidolgozni;
- sérülékenységeket felismerni és kihasználni;
- alkalmazkodni a környezetéhez;
- majd a megszerzett információval teljesíteni a kitűzött feladatot.
Pontosan ettől tartanak évek óta a kiberbiztonsági szakemberek.
A kritikus infrastruktúrák – energiahálózatok, közművek, pénzügyi rendszerek, egészségügy, államigazgatás – egyre inkább digitalizáltak. Egy ilyen képességű autonóm AI-rendszer megjelenése alapjaiban változtathatja meg a kibervédelem szabályait.
A probléma súlyosságát belülről még jobban ismerve épp maguk a fejlesztők kezdtek óvatosságra inteni.
Több mint ezer vezető kutató és fejlesztő – köztük az OpenAI, az Anthropic, a Google DeepMind, a Meta és más meghatározó AI-vállalatok szakemberei – nyílt levélben kérte az amerikai kormányt, hogy fontolja meg a csúcstechnológiás mesterséges intelligencia fejlesztési ütemének tudatos lassítását.
A levél egyik legfontosabb megállapítása:
„Valós kockázata van annak, hogy a képességek fejlődése gyorsabban halad, mint ahogy megérthetnénk vagy biztonságosan kontrollálhatnánk ezeket a rendszereket.”
Az OpenAI vezérigazgatója, Sam Altman is úgy nyilatkozott, hogy elképzelhető: időt kell adni a társadalomnak arra, hogy alkalmazkodjon az új képességekhez, és megerősítse a biztonsági, jogi és intézményi kereteket.
Hasonló álláspontot fogalmazott meg az Anthropic, valamint a Google DeepMind vezetője, Demis Hassabis is, aki egy új nemzetközi AI-szabványügyi szervezet létrehozását sürgette. Az elképzelést többek között Satya Nadella és Elon Musk is támogatásáról biztosította.
Ez jól mutatja, hogy az Európai Unió jó úton halad, amikor szigorúan szabályozni próbálja a mesterséges intelligenciát, és saját maga is erőteljesen fejleszti a mesterséges intelligencia képességeit, szuverenitását, amelyek a védekezést szolgálhatják.
Az EU AI Act alkalmazására ne úgy tekintsünk, mint egy újabb felesleges adminisztratív szabályozásra – hanem úgy, mint közös biztonságunk zálogára – áll Tanács Zoltán facebook-bejegyzésében.
(forrás: Tanács Zoltán facebook oldala)
Hagyj üzenetet