Európsky parlament schválil prísnejšie pravidlá pre umelú inteligenciu

Za nariadenie o regulácii umelej inteligencie (UI) zahlasovalo 523 poslancov, 46 bolo proti a 49 sa zdržalo hlasovania.

Cieľom nariadenia je chrániť základné práva, demokraciu, právny štát a environmentálnu udržateľnosť pred vysokorizikovou umelou inteligenciou a zároveň podporovať inovácie a zabezpečiť vedúcu úlohu EÚ v tejto oblasti.

V nariadení sa stanovujú povinnosti pre umelú inteligenciu na základe jej potenciálnych rizík a vplyvu.

Nové pravidlá zakazujú používať aplikácie UI, ktoré ohrozujú práva občanov. Týka sa to systémov biometrickej kategorizácie založených na citlivých charakteristikách, necieleného extrahovania podôb tváre z internetu alebo videozáznamov z bezpečnostných kamier na tvorbu databáz na rozpoznávanie tvárí.

Zakázané bude aj rozpoznávanie emócií na pracovisku či v škole, sociálne bodovanie či prediktívne vykonávanie policajných funkcií, ak je založené výlučne na profilovaní osoby alebo posudzovaní jej charakteristík. Nebude sa môcť používať ani UI, ktorá manipuluje ľudské správanie alebo zneužíva zraniteľnosť ľudí.

Používanie systémov biometrickej identifikácie na presadzovanie práva je zakázané s výnimkou detailne vymenovaných a úzko vymedzených situácií. Biometrická identifikácia sa môže používať len vtedy ak je takéto použitie časovo a geograficky obmedzené a bolo k nemu vydané súdne alebo správne povolenie. Môže sa to týkať pátrania po nezvestných osobách alebo predchádzania teroristickým útokom.

Povinnosti sa stanovia aj pre iné vysokorizikové systémy UI, ktoré sa používajú v kritickej infraštruktúre, vzdelávaní a odbornej príprave, ale aj pri nábore do zamestnania či v kľúčových súkromných a verejných službách ako sú zdravotníctvo a bankovníctvo. A aj v určitých systémoch presadzovania práva, pri riadení migrácie a hraníc, v súdnictve a v demokratických procesoch, napríklad na ovplyvňovanie volieb.

Pri takýchto systémoch bude povinné posúdiť a znížiť riziká, viesť záznamy o používaní, zabezpečiť ich transparentnosť ako aj ľudský dohľad.

Občania budú mať právo podávať sťažnosti na systémy UI, ako aj právo získať vysvetlenie rozhodnutí založených na vysokorizikových systémoch umelej inteligencie, ktoré ovplyvňujú ich základné práva.

Europoslanci podporili, aby umelé alebo zmanipulované obrázky, audio nahrávky alebo videá (deepfakes) boli jasne označené.

Členské štáty budú povinné zabezpečiť, aby mohli malé a stredné podniky a startupy ešte pred uvedením svojich produktov na trh vyvíjať a trénovať inovatívnu umelú inteligenciu v experimentálnych regulačných prostrediach a testovať ju v reálnych podmienkach.

Nariadenie ešte musí musí formálne schváliť aj Rada EÚ (členské štáty) a očakáva sa, že bude prijaté pred koncom volebného obdobia. Zákon nadobudne účinnosť 20 dní po zverejnení v Úradnom vestníku EÚ a začne sa uplatňovať 24 mesiacov po nadobudnutí účinnosti.