eu-ai-act

Európsky AI Office prevzal dohľad nad výkonnými AI modelmi: čo to znamená pre firmy?

Od 2. augusta 2025 platia nové pravidlá EÚ pre vývojárov najvýkonnejších AI modelov. Európsky AI Office dozerá na GPAI modely a ukladá sankcie za porušenie pravidiel.

Redakcia najlepsia.ai

— 4 min read
Share

Od 2. augusta 2025 platia v Európskej únii nové pravidlá pre vývojárov najvýkonnejších AI modelov. Európsky AI Office — úrad sídliaci v Bruseli v rámci oddelenia Európskej komisie DG CONNECT — oficiálne prevzal dohľad nad tzv. modelmi všeobecného určenia (skratka GPAI — ide o veľké AI modely schopné plniť širokú škálu úloh, ako sú ChatGPT, Gemini či Claude) a zároveň začal fungovať systém sankcií za porušenie pravidiel.

Čo je Európsky AI Office a prečo vznikol?

Európsky AI Office bol formálne zriadený rozhodnutím Európskej komisie zo 24. januára 2024. Úrad sídli v rámci DG CONNECT a je podľa dostupných informácií organizovaný do piatich hlavných odborov — pre excelentnosť v AI a robotike, reguláciu a súlad, bezpečnosť AI, inovácie a koordináciu politík a AI pre spoločenské dobro — pričom celková štruktúra zahŕňa pravdepodobne aj ďalšie jednotky a poradcov (presné zloženie môže byť aktualizované). V súčasnosti zamestnáva viac ako 125 odborníkov vrátane technických špecialistov, právnikov, politických analytikov a ekonómov.

Hlavným dôvodom vzniku úradu bola potreba jednotného európskeho dohľadu nad AI modelmi, ktoré svojím dosahom presahujú hranice jedného štátu. Podľa AI Act má Európska komisia výhradné právomoci dohliadať a vymáhať povinnosti pre poskytovateľov GPAI modelov, pričom implementáciu týchto úloh zverila práve AI Office; národné orgány vymáhajú väčšinu ostatných častí nariadenia. Zjednodušene povedané: ak OpenAI, Google alebo Anthropic porušia európske pravidlá týkajúce sa ich AI modelov, rieši to Brusel — nie jednotlivé členské krajiny.

AI Office podporuje európsky prístup k umelej inteligencii, zohráva kľúčovú úlohu pri implementácii AI Act — najmä pre modely všeobecného určenia — a vymáha pravidlá pre tieto modely. Je oprávnený vykonávať hodnotenia modelov, vyžadovať informácie a opatrenia od ich poskytovateľov a ukladať sankcie.

Čo je „systémovo rizikový" AI model a prečo na tom záleží?

Nie každý AI model podlieha rovnako prísnym pravidlám. AI Act zavádza odstupňovaný systém povinností podľa toho, aké výpočtové zdroje bol model trénovaný. Kľúčový je technický parameter nazývaný FLOPs — ide o počet matematických operácií vykonaných počas trénovania modelu, ktorý vypovedá o jeho výkone a potenciálnom dosahu.

Každý model trénovaný s výpočtovým výkonom 10²⁵ FLOPs alebo viac sa považuje za model s vysokým dopadom a môže byť klasifikovaný ako GPAI so systémovým rizikom. Práve na túto skupinu sa vzťahujú najprísnejšie povinnosti. Poskytovatelia takýchto modelov podliehajú dodatočným povinnostiam zameraným na posudzovanie a zmierňovanie systémových rizík. Tieto povinnosti zahŕňajú vykonávanie hodnotení modelu, hlásenie incidentov a zabezpečenie primeranej ochrany v oblasti kybernetickej bezpečnosti.

Ak model dosiahne alebo sa očakáva, že dosiahne prahovú hodnotu, poskytovateľ musí o tom okamžite informovať AI Office, najneskôr však do dvoch týždňov. Modely, ktoré tento prah nedosahujú, majú tiež povinnosti — napríklad zverejňovanie technickej dokumentácie, prehľadov tréningových dát a dodržiavanie autorsko-právnych pravidiel — no bez najprísnejšieho dohľadu.

Za nesplnenie povinností GPAI poskytovateľmi hrozia pokuty až do výšky 15 miliónov eur alebo 3 % celosvetového obratu (podľa Article 101 AI Act). Maximálna pokuta 35 miliónov eur alebo 7 % obratu sa vzťahuje na porušenie zákazu zakázaných praktík podľa Article 99, nie na GPAI povinnosti — čo sú sumy, ktoré môžu byť citlivé aj pre technologické giganty.

Čo to prakticky znamená pre slovenské firmy?

Väčšina slovenských firiem — banky, poisťovne, e-shopy či výrobné podniky — nie sú priamymi vývojármi AI modelov. Napriek tomu sa ich nová regulácia dotýka, a to hneď z niekoľkých strán.

Ak vaša firma využíva AI cez rozhranie (API) niektorého z veľkých poskytovateľov — napríklad OpenAI, Google alebo Anthropic — máte ako tzv. downstream používateľ právo požadovať od dodávateľa technickú dokumentáciu o tom, čo model vie, čo nevie a aké má obmedzenia. Poskytovatelia GPAI modelov musia sprístupniť informácie tým firmám, ktoré ich model integrujú do svojich systémov, aby tieto firmy mohli pochopiť schopnosti a obmedzenia modelu a plniť vlastné povinnosti podľa AI Act.

Dôležité je sledovať aj to, či váš dodávateľ AI spĺňa európske pravidlá. Odporúča sa aktualizovať zmluvy a kontrolovať dodávateľský reťazec — je potrebné zabezpečiť, aby AI technológia nakupovaná od dodávateľov spĺňala európske normy, čo môže vyžadovať záruky alebo doložky o súlade od poskytovateľov.

V prípade incidentu — napríklad keď AI model vašej firmy vydá diskriminačnú odpoveď alebo chybné odporúčanie — môže dôjsť k vyšetrovaniu na dvoch úrovniach: národnej (v SR bude zodpovedný príslušný národný orgán dozoru) a európskej (AI Office). Od augusta 2025 je európska infraštruktúra pre súlad plne operatívna: národné príslušné orgány vykonávajú trhový dohľad v každom členskom štáte a Európsky AI Office koordinuje vymáhanie pravidiel pre GPAI a modely so systémovým rizikom.

Pre praktickú prípravu odborníci odporúčajú: zostaviť interný zoznam všetkých AI nástrojov, ktoré firma používa, overiť, či ich poskytovatelia zverejňujú dokumentáciu požadovanú AI Act, a nastaviť vnútorné procesy pre prípad hlásenia incidentov. Kód praxe (Code of Practice) pre GPAI je dobrovoľný nástroj vypracovaný nezávislými odborníkmi, ktorý má pomôcť priemyslu splniť právne povinnosti AI Act týkajúce sa modelov všeobecného určenia.

Čo sa týka časového harmonogramu: Komisia potvrdila, že povinnosti GPAI začínajú platiť od 2. augusta 2025, pričom vymáhanie zo strany Komisie (prostredníctvom AI Office) nastúpi od 2. augusta 2026; modely uvedené na trh pred 2. augustom 2025 musia byť v súlade do 2. augusta 2027. Slovenské firmy tak majú čas na prípravu, no čakať na poslednú chvíľu sa neodporúča.

Zdroje

Článok bol vytvorený s pomocou umelej inteligencie.

Read more