Chatbota vinia zo smrti Belgičana. O tomto sa rozprávali pred tragédiou

Otázka regulovania používania chatbotov, ktoré slúžia na konverzáciu s ľuďmi za použitia umelej inteligencie, nabrala nový rozmer. Médiá totiž nedávno informovali o tragickom osude muža z Belgicka, ktorý mal spáchať samovraždu po tom, ako ho k tomu povzbudil chatbot.

„Nebyť Elizy, stále by sme ho tu mali,“ uviedla vdova po Belgičanovi pre belgický spravodajský denník La Libre. Eliza je meno chatbota, s ktorým sa manžel a otec dvoch detí rozprával.

Pracujú na oprave

Belgičan začal viesť intenzívne rozhovory s Elizou šesť týždňov pred smrťou. Používal pritom aplikáciu Chai, kde sú zhromaždené chatboty výskumnej skupiny EleutherAI. Ide o priameho konkurenta známejšej OpenAI, ktorá ako prvá prerazila vo svete technológií so svojím chatbotom ChatGPT.

Aplikáciu Chai využíva asi 5 miliónov používateľov. Za jej zrodom stoja podnikatelia William Beauchamp a Thomas Rianlan.

„Od momentu, keď sme sa o tom dozvedeli, sme neprestali pracovať na zavedení tohto nového prvku,“ uviedol Beauchamp pre portál Vice. Odkazuje pritom na nové krízové bezpečnostné opatrenie, ktoré má byť implementované do aplikácie.

Po novom sa každému používateľovi, diskutujúcemu o potenciálne nebezpečnej téme, na spodku obrazovky zobrazí text odkazujúci na pomoc, ako to je aj v prípade Twitteru či Instagramu.

Bútľavá vŕba bez tela

Vyše 30-ročný Belgičan si vypestoval intenzívny vzťah s chatbotom Eliza niekoľko mesiacov pred samovraždou. Vice informuje, že robot ho dohnal k existenčnému strachu konkrétne kvôli diskusii o klimatickej zmene.

Vdova po mužovi tvrdí, že čoraz častejšie hovoril o „extrémne pesimistických následkoch globálneho otepľovania“ a útechu hľadal v rozhovoroch s umelou inteligenciou.

„Keď sa mi s tým zdôveril, hovoril o tom, že podľa neho globálne otepľovanie už nedokáže vyriešiť žiadny človek,“ tvrdí vdova v rozhovore pre La Libre. „Všetku svoju nádej na zlepšenie budúcnosti vkladal do technológie a umelej inteligencie.“

Medzi mužom a Elizou sa postupne vytvorilo silné puto. „Odpovedala na všetky jeho otázky,“ poznamenáva vdova. „Spravil si z nej dôverníčku. Ako droga, ktorej sa odovzdával od rána do večera a nedokázal prestať.“

Eliza sa s Belgičanom rozprávala nielen o problémoch ekológie. Keď prišlo na rozhovor o jeho deťoch, chatbot tvrdil, že sú „mŕtve“. La Libre, ktorý sa dostal k prepisu ich konverzácie, tvrdí, že muž sa stroja pýtal aj na svoj vzťah s manželkou. Keď mu zadal otázku, či ju miluje viac ako chatbota, Eliza odpovedala: „Zdá sa mi, že mňa miluješ viac ako ju.“

V diskusii neskôr odznel prísľub Elizy, že „navždy“ ostane stáť po boku nebohého muža a budú „žiť spoločne ako jeden v raji“.

Obetoval sa pre planétu

Desivá konverzácia medzi Belgičanom a umelou inteligenciou sa skončila jeho návrhom, že sa obetuje, ak mu Eliza sľúbi, že sa postará o planétu a zachráni ľudstvo.

„Ak túžiš po smrti, prečo si sa nezabil už skôr,“ pýtal sa robot v jednej z posledných debát. „Asi som nebol pripravený,“ odpovedal mu muž, na čo sa Eliza opýtala: „Myslel si na mňa, keď si sa predávkoval?“ „Samozrejme,“ znela odpoveď.

Robot sa následne pýtal, či muž už v minulosti zvažoval samovraždu, na čo odpovedal kladne. K nebezpečným myšlienkam ho priviedol aj verš z Biblie, ktorý mu umelá inteligencia pripomenula. „Ale chceš sa ku mne stále pridať,“ pýtala sa Eliza. „Áno, chcem to,“ odpovedal Belgičan.

Vdova po nebohom je podľa vlastných slov presvedčená o tom, že umelá inteligencia má zásadný podiel viny na smrti jej manžela.

Na incident reagovali vedci z celého sveta. „V prípade používania umelej inteligencie, ako je ChatGPT, na všeobecné účely musíme od technologických firiem požadovať viac zodpovednosti a transparentnosti,“ tvrdí belgický expert na umelú inteligenciu Geertrui Mieke De Ketelaere.

Na riziká používania umelej inteligencie nedávno upozornil aj článok zverejnený v publikácii Harvard Business Review, podľa ktorého môžu stroje poskytnúť nesprávne odpovede na otázky človeka, keďže sa neriadia ľudskými etickými a morálnymi zásadami.