Európska koncepcia dôveryhodnej umelej inteligencie

Po uverejnení európskej stratégie v oblasti umelej inteligencie^[1] expertná skupina vypracovala usmernenia pre dôveryhodnú umelú inteligenciu^[2]. Uverejnila tiež koordinovaný plán v oblasti umelej inteligencie^[3] ako spoločný záväzok s členskými štátmi. Biela kniha Komisie o umelej inteligencii^[4] uverejnená v roku 2020 vytýčila víziu umelej inteligencie v Európe ako ekosystému excelentnosti a dôvery a vytvorila tak predpoklady dnešnej politickej dohody. 

SYSTÉMY UMELEJ INTELIGENCIE S MINIMÁLNYM RIZIKOM, ako napríklad AI odporúčacie systémy alebo filtre na spam, nespadajú pod žiadne špecifické regulácie. Sú považované za bezpečné, predstavujú malé alebo žiadne riziko pre občianske práva alebo bezpečnosť. Firmy však majú možnosť sa dobrovoľne zaväzovať k dodržiavaniu prídavných etických pravidiel a kódexov správania.

AI SYSTÉMY S VYSOKÁM RIZIKOM musia spĺňať striktné kritériá, ako sú rizikové manažérske systémy, kvalitné dáta, aktivity logovania, transparentná dokumentácia, jasné používateľské informácie, ľudský dohľad, a musia zabezpečiť spoľahlivosť a kybernetickú bezpečnosť. Tieto požiadavky sa vzťahujú na kritické infraštruktúry, zdravotnícke zariadenia, vzdelávacie a pracovné systémy, právne a demokratické procesy, ako aj na biometrické a emočné rozpoznávacie systémy.

NEPRIJATEĽNÉ RIZIKO – AI systémy, ktoré porušujú základné práva a sú v rozpore s hodnotami EÚ, budú zakázané. To zahŕňa sociálne hodnotenie, manipulatívne techniky, diaľkovú biometrickú identifikáciu bez výnimiek, biometrickú kategorizáciu na základe citlivých údajov, prediktívne policajné funkcie, rozpoznávanie emócií mimo zdravotných a bezpečnostných kontextov a neautorizované zbieranie biometrických údajov.

OSOBITNÉ RIZIKO – Pri transparentnosti AI systémov je dôležité, aby používatelia vedeli, že interagujú so strojom, napríklad s chatbotmi. Obsah vytvorený umelou inteligenciou, ako sú deepfake videá, musí byť jasne označený. Používanie biometrickej kategorizácie a rozpoznávania emócií si vyžaduje informovanie používateľov. Poskytovatelia by mali tiež zabezpečiť, aby bol syntetický obsah, ako audio a vizuálne materiály, označený a rozpoznateľný ako umelo vytvorený.

Spoločnosti, ktoré nebudú dodržiavať pravidlá, budú pokutované. Pokuty sa budú pohybovať:

• od 35 miliónov EUR alebo 7 % celosvetového ročného obratu (podľa toho, ktorá suma je vyššia) za porušenie zakázaných aplikácií umelej inteligencie,
• 15 miliónov EUR alebo 3 % za porušenie iných povinností a
• 7,5 milióna EUR alebo 1,5 % za poskytnutie nesprávnych informácií.

Umelá inteligencia na všeobecné použitie

Akt o umelej inteligencii zavádza špecializované pravidlá pre modely umelej inteligencie na všeobecné použitie. Pre silné AI modely s potenciálnym systémovým rizikom existujú prísnejšie požiadavky na riadenie rizík, monitorovanie incidentov, hodnotenie a testovanie. Tieto pravidlá vychádzajú z kódexov, ktoré vytvoria odborníci a zainteresované strany v spolupráci s Komisiou. Novozriadený Úrad pre umelú inteligenciu bude dohliadať na vykonávanie a presadzovanie nových pravidiel týkajúcich sa modelov umelej inteligencie na všeobecné použitie. V prípade modelov na všeobecné použitie bude ústrednú úlohu zohrávať vedecká skupina nezávislých odborníkov, ktorá bude vydávať varovania o systémových rizikách a prispievať ku klasifikácii a testovaniu modelov.