AI Act v Evropě: Co přináší a jak se připravit

Umělá inteligence (AI) se stává nedílnou součástí našeho života i podnikání. S jejím vzestupem přicházejí i regulace, které mají zajistit její bezpečné a etické využití. Evropská unie proto představila Evropský akt o umělé inteligenci (AI Act), který měl svou částečnou účinnost od 2. února 2025. Jaké změny přináší, koho se týká a jak se připravit? Pojďme si to shrnout.

Co je AI Act?

AI Act je prvním komplexním právním předpisem, který reguluje umělou inteligenci v EU. Jeho cílem je minimalizovat rizika spojená s AI a zajistit transparentnost jejího používání. Zároveň se týká nejen firem v EU, ale i zahraničních společností, které nabízejí AI řešení evropským uživatelům.

Jaké jsou úrovně rizik?

AI Act rozděluje systémy AI do čtyř kategorií podle jejich rizikovosti:

Minimální riziko – herní AI, spam filtry a podobné aplikace, které nevyžadují zvláštní opatření.
Omezené riziko – např. chatboty nebo AI pro generování textů, kde je vyžadována transparentnost ohledně toho, že obsah byl generován AI.
Vysoké riziko – AI ve zdravotnictví, autonomní řízení či v oblastech s vysokým dopadem na společnost. Tyto systémy podléhají přísné regulaci.
Nepřijatelné riziko – zakázané systémy, jako např. hodnocení sociálního kreditu, rozpoznávání emocí na pracovišti nebo prediktivní policejní systémy.

Co to znamená pro podnikatele?

Pokud ve firmě používáte AI, budete muset:

Zmapovat AI nástroje, které používáte, a určit jejich rizikovou úroveň.
Vést interní dokumentaci o tom, jak AI používáte.
Transparentně informovat o obsahu generovaném AI, pokud spadá do kategorie omezeného rizika.
U systémů s vysokým rizikem zajistit jejich registraci a splnit přísnější regulace.

Jak se připravit?

Projděte si nástroje, které ve firmě používáte, a ověřte, do jaké kategorie spadají.
Seznamte se s pravidly, zejména pokud vyvíjíte nebo nasazujete AI systémy.
Připravte si dokumentaci, která popisuje, jak vaše firma s AI pracuje.
Zajistěte odpovědnostní pojistku, pokud se vaše AI řešení týká oblastí s vysokým rizikem.
Zkontrolujte, zda dodavatelé AI řešení splňují nové standardy.

Praktické příklady dopadů regulace

E-commerce: Online obchody využívající AI pro doporučování produktů budou muset informovat zákazníky, že jsou návrhy generovány umělou inteligencí.
Zdravotnictví: AI diagnostické nástroje podléhají přísné certifikaci a budou muset prokázat transparentnost a přesnost svých výstupů.
Personalistika: Firmy používající AI pro nábor zaměstnanců budou muset zajistit, že jejich systémy nejsou diskriminační a umožňují lidskou kontrolu rozhodnutí.

BOXELO upozornění

AI Act je první regulací tohoto druhu a jeho vliv se bude ještě vyvíjet. Pro většinu malých podnikatelů a běžných uživatelů to znamená hlavně potřebu informovat o použití AI a vést základní evidenci. Pro vývojáře a větší firmy ale přináší daleko větší zodpovědnost.

Nejsme právníci a žádná z uvedených informací nepředstavuje advokátní radu. Pokud se rozhodnete těmito doporučeními řídit, dělejte tak podle svého nejlepšího úsudku a v případě pochybností konzultujte s odborníky.