Od února nová povinnost pro firmy: Týká se AI, ale málokdo o ní ví

Od 2. února vstoupila v platnost nová povinnost týkající se firem, které se zabývají vývojem nebo implementací systémů umělé inteligence (AI). Tato novinka, vyplývající z evropského nařízení AI Act, přináší novou výzvu především pro technologické společnosti. Situaci připomíná Česká asociace umělé inteligence.

Nové pravidlo se opírá o článek 4 nařízení AI Act, který ukládá firmám povinnost zajistit odpovídající úroveň dovedností a porozumění systémům umělé inteligence, včetně pochopení jejich výhod a rizik. Pro mnohé je však tento požadavek zatím neznámý.

Pokuty zatím nehrozí, ale…

V České republice dosud neexistuje úřad, který by měl na starosti přímé vymáhání tohoto článku. Sankce proto momentálně přímo nehrozí. Nicméně nařízení počítá se zavedením sankcí od 2. srpna 2025, i když článek 4 mezi přímo sankcionovanými náležitostmi nefiguruje. Přesto by v budoucnu mohla nedostatečná úroveň AI gramotnosti znamenat pro organizace problém. V některých případech může být například přitěžující okolností při posuzování dodržení dalších povinností vyplývajících z AI Act.

Pozor na „zázračné“ kurzy a certifikace

Na českém trhu se v poslední době objevují desítky nabídek různých školení, webinářů a certifikací, které slibují jednoduché splnění požadavků podle článku 4. Jejich hodnota je však sporná. Podle Lukáše Benzla, ředitele České asociace umělé inteligence, nemají tyto univerzální kurzy a instantní certifikáty žádnou oficiální platnost.

„Pokud organizace skutečně potřebují důkaz o vzdělávání v oblasti AI, doporučuji zaměřit se na interní školení přizpůsobená na míru konkrétní činnosti firmy nebo na dlouhodobé vzdělávací programy, které reflektují praktické využití umělé inteligence,“ říká Benzl.

Kdo by měl být na pozoru?

Zvláštní pozornost by měly novým pravidlům věnovat firmy, které:

– vyvíjejí vysoce rizikové AI systémy,

– implementují technologie spadající do kategorie vysoce rizikových AI aplikací.

V těchto případech budou platit přísnější požadavky, včetně důrazu na zajištění lidského dohledu nad výstupy technologií. Tyto firmy budou muset prokázat nejen dostatečné znalosti o vlastním systému, ale také zodpovědné nakládání s jeho výstupy.

Závěr: Co dělat dál?

Ačkoliv pokuty za neplnění pravidel zatím nehrozí, firmy by neměly tuto povinnost ignorovat. Nedostatečné vzdělávání v oblasti AI může v budoucnu výrazně zkomplikovat jejich plnění dalších legislativních požadavků.

Namísto rychlých a univerzálních řešení doporučujeme zaměřit se na dlouhodobé, prakticky zaměřené vzdělávací programy, které odpovídají konkrétním potřebám organizace. Klíčové je porozumění nejen samotným technologiím, ale také jejich rizikům a odpovědnému přístupu při jejich aplikaci.

Pokud tento krok nepodceníte, získáte nejen náskok před konkurencí, ale navíc budete připraveni čelit případným regulacím, jakmile dojde k jejich přísnějšímu prosazování.

Autor: Gabriela Tilšar, DiS.