Nový AI Act v EU: Co přináší budoucnost umělé inteligence?

PLATNOST AI ACT 

AI Act byl oficiálně oznámen Evropskou komisí 21. dubna 2021. Je součástí širší strategie EU, která má za cíl regulovat nové technologie a zajistit, aby byly využívány eticky a s ohledem na základní práva občanů.  

Platný bude od 1. ledna 2025 a firmy tak mají čas se připravit na nové požadavky a zajistit, že jejich AI systémy budou v souladu s novými pravidly. 

HLAVNÍ CÍLE AI ACT  

1. Zajistit bezpečnost a základní práva občanů: AI systémy musí být navrženy a používány tak, aby neohrožovaly bezpečnost lidí a respektovaly jejich základní práva, jako je ochrana soukromí a nediskriminace.
2. Transparentnost a odpovědnost: AI systémy musí být transparentní a odpovědné, což zahrnuje jasné informování uživatelů o tom, že komunikují s AI systémem, a možnost lidského dohledu nad rozhodováním AI.
3. Podpora inovací a konkurenceschopnosti: Zákon má vytvořit podmínky pro inovace v oblasti AI a zajistit, aby evropské firmy byly schopny konkurovat na globálním trhu.

KLASIFIKACE RIZIK 

Jedním z klíčových prvků AI Act je klasifikace AI systémů podle rizik, která představují. Tato klasifikace zahrnuje čtyři kategorie: 

1. Neakceptovatelné riziko: AI systémy, které představují jasné ohrožení bezpečnosti, práv nebo svobod lidí, jsou zakázány. Příkladem může být AI využívaná k sociálnímu hodnocení občanů nebo manipulaci s lidským chováním.
2. Vysoké riziko: AI systémy, které mohou výrazně ovlivnit životy lidí, jako jsou systémy pro nábor zaměstnanců, hodnocení úvěruschopnosti nebo zdravotnické aplikace. Tyto systémy musí splňovat přísné požadavky na transparentnost, správnost a robustnost.
3. Omezené riziko: AI systémy, které vyžadují určitou míru transparentnosti, jako jsou chatboti nebo doporučovací systémy. Uživatelé musí být informováni, že komunikují s AI systémem.
4. Minimální riziko: AI systémy, které nepředstavují žádné nebo minimální riziko, nejsou regulovány, jako jsou například video hry nebo spamové filtry.

DOPADY NA MARKETINGOVÉ AGENTURY A E-COMMERCE FIRMY 

Marketingové agentury  

Pro marketingové agentury přináší AI Act několik klíčových změn: 

1. Transparentnost a odpovědnost: Agentury budou muset zajistit, aby jejich AI nástroje byly transparentní a neporušovaly práva uživatelů. To zahrnuje informování uživatelů o použití AI a zajištění, že jejich osobní údaje jsou chráněny.
2. Inovace a konkurenceschopnost: Možnost využívat regulační sandboxy pro testování nových AI technologií bez rizika právních postihů může agenturám umožnit rychlejší inovace a zajištění konkurenceschopnosti na trhu.
3. Přesnost a etika: AI systémy používané pro cílení reklam a analýzu dat budou muset být přesné a etické, což může zvýšit důvěru klientů a zlepšit efektivitu kampaní.

E-commerce firmy 

Pro firmy podnikající v e-commerce (e-shopy) má AI Act také významné dopady: 

1. Zlepšení zákaznické zkušenosti: E-shopy budou muset zajistit, že jejich AI systémy jsou transparentní a etické, což může zlepšit důvěru zákazníků a zvýšit jejich spokojenost.
2. Ochrana dat: Firmy budou muset věnovat zvýšenou pozornost ochraně osobních údajů svých zákazníků a zajistit, že AI systémy tyto údaje nezneužívají.
3. Optimalizace procesů: AI Act může podpořit využívání AI pro optimalizaci logistických a prodejních procesů, což může zvýšit efektivitu a snížit náklady.

MOŽNÉ DOPADY NA DALŠÍ SEKTORY 

Zdravotnictví 

V oblasti zdravotnictví může AI Act znamenat zvýšené nároky na transparentnost a přesnost AI systémů používaných pro diagnostiku a léčbu. Zdravotnická zařízení budou muset prokázat, že jejich AI nástroje jsou bezpečné a spolehlivé, což může zpomalit jejich zavádění, ale zároveň zvýší důvěru pacientů v tyto technologie. 

Finance 

Ve finančním sektoru bude mít AI Act dopad na systémy používané pro hodnocení úvěruschopnosti a prevenci podvodů. Firmy budou muset zajistit, že jejich AI modely nejsou diskriminační a že jsou transparentní ve svém rozhodování. To může vést k větším investicím do vývoje etických AI systémů a zvýšené spolupráci s regulátory.