Ne děravé regulaci umělé inteligence

Evropská unie vstupuje do závěrečné fáze jednání o Aktu o umělé inteligenci. Velké technologické společnosti a další průmyslové subjekty lobbují za zavedení významné mezery do procesu klasifikace vysoce rizikových AI systémů umělé, která by celý právní předpis zpochybnila.

"Akt EU o umělé inteligenci ve své původní podobě obsahoval seznam vysoce rizikových systémů umělé inteligence, včetně např. systémů používaných k hodnocení studentů, k posuzování úvěruschopnosti fyzických osob, k hodnocení uchazečů o zaměstnání a k určování, kdo získá přístup k sociálním dávkám. Navržený právní předpis dále vyžadoval, aby vývojáři a poskytovatelé těchto vysoce rizikových systémů umělé inteligence zajistili, že jejich systémy jsou bezpečné a poskytují veřejně přístupné informace o tom, jak jejich systémy fungují. Akt o umělé inteligenci musí upřednostňovat práva fyzických osob, kterých se systémy umělé inteligence dotýkají, a zajistit, aby vývoj a používání umělé inteligence byly odpovědné a transparentní," říká Petr Šmelhaus, vedoucí právního oddělení spotřebitelské organizace dTest.

Tyto podmínky však oslabila nebezpečná mezera zavedená do procesu klasifikace vysoce rizikových způsobů použití umělé inteligence v článku 6.

V původním návrhu Evropské komise byl systém umělé inteligence považován za vysoce rizikový, pokud měl být použit k jednomu z vysoce rizikových účelů uvedených v příloze III. Aktu.

Rada a Evropský parlament však navrhují, aby vývojáři těchto systémů sami rozhodli, zda jimi vytvářený systém je vysoce rizikový.

Pokud by návrh článku 6 zůstal v posledním navrženém znění, umožnil by Akt o umělé inteligenci vývojářům umělé inteligence rozhodnout o vyjmutí vysoce rizikových systémů ze všech hmotněprávních pravidel.

Dopady Aktu o umělé inteligenci:

• Orgány členských států by čelily vážným problémům při prosazování právních předpisů, protože by neměly dostatek prostředků na dostatečnou kontrolu sebehodnocení vývojářů

• Umožnil by bezohledným vývojářům vyhnout se základním požadavkům a naopak, zodpovědní vývojáři umělé inteligence by se tím ocitli v nevýhodě

• Vedl by k roztříštěnosti jednotného trhu EU, neboť členské státy si různě vykládají, co je vysoké riziko

• Zavedl by vysokou právní nejistotu ohledně toho, které systémy jsou považovány za vysoce rizikové

118 spotřebitelských a občanských organizací, včetně dTestu, vydalo společné prohlášení k navrhovanému znění Aktu o umělé inteligenci a naléhavě žádá evropské zákonodárce, aby tyto návrhy zrušili a vrátili původní znění článku 6, které předtím Evropská komise navrhla.

Článek dTest, o.p.s. ze dne úterý 26. září 2023

Další články od dTest, o.p.s.