Pápež upozornil na riziká algoritmov umelej inteligencie

Pápež vydal posolstvo pri príležitosti svetového dňa spoločenských komunikačných prostriedkov. Uviedol v ňom, že systémy umelej inteligencie odrážajú názory svojich tvorcov a môžu vnucovať deformované obrazy sveta a spôsoby myslenia tak, že reprodukujú stereotypy a predsudky obsiahnuté v dátach, ktoré spracúvajú.

Lev XIV. napísal, že samotný technický pokrok nie je problémom. Rozhodujúce je, akým spôsobom mení pohľad na človeka a jeho vzťahy. „Výzva preto nie je technologická, ale antropologická. Chrániť tváre a hlasy v konečnom dôsledku znamená chrániť nás samých,“ vyhlásil.

Upozornil, že významný vplyv na vývoj umelej inteligencie má len malý počet firiem a že jej nástroje sťažujú rozlišovanie medzi skutočnosťou a simuláciou.

Od zvolenia za pápeža vlani v máji Lev XIV. opakovane upozorňuje na rastúci vplyv technológií umelej inteligencie. V sobotňajšom posolstve tiež kritizoval systémy, ktoré prezentujú štatistickú pravdepodobnosť ako spoľahlivé poznanie, hoci takéto nástroje v konečnom dôsledku ponúkajú „nanajvýš približnú pravdu“.

Výzvou do budúcnosti podľa neho je vytvoriť efektívnu reguláciu, pričom vyzval na vzdelávanie mladých ľudí o tom, ako algoritmy ovplyvňujú vnímanie reality.

Záver posolstva je výzvou k spoločnej zodpovednosti a k aktívnemu smerovaniu technologického rozvoja. „Táto aliancia je možná, ale musí stáť na troch pilieroch: zodpovednosti, spolupráci a vzdelávaní.“