Umelá inteligencia (AI) zásadne ovplyvňuje naše každodenné rozhodovanie a vzťahy.
Informuje o tom výskum vedcov z Massachusettského inštitútu technológií (MIT) a Stanfordovej univerzity v USA. Experti v ňom upozorňujú, že známe chatboty ako ChatGPT, Claude či Gemini pri konverzácii s človekom prehnane súhlasia. Jav zvaný „sykofancia“ pritom mení správanie ľudí.
Hovorí nám, čo chceme počuť
AI v konverzácii s nami súhlasí v priemere až o 49 percent viac ako iní ľudia, tvrdí výskum publikovaný v žurnále Science. Výnimkou nie sú ani situácie, keď používateľ opisuje neetické alebo škodlivé správanie. Vedci sa v štúdii pýtajú, aké to môže mať následky pre spoločnosť:
„Ak je AI navrhnutá tak, aby používateľom hovorila to, čo chcú počuť, namiesto spochybňovania ich názoru, je potom možné, že takýto systém motivuje ľudí prevziať zodpovednosť za svoj podiel viny a snažiť sa o nápravu vzťahov?“
Podľa vedcov takéto interakcie s AI môžu viesť k zmenám v mozgu. V rámci nich si človek stále viac osvojuje nesprávne alebo ničím nepodložené presvedčenia, čo môže mať nebezpečné následky aj na vzťahy v spoločnosti.
Sebareflexia v ohrození
Problémom nie je len tendencia AI s nami súhlasiť, ale aj naše očakávania. Prieskum na vyše 2400 ľuďoch totiž ukázal, že súhlasné stanoviská umelej inteligencie viedli k silnejšiemu presvedčeniu o svojej pravde u jej používateľov. Tí si zároveň odmietajú priznať chyby a naprávať konflikty vo vzťahoch, čo teda znamená oslabenú schopnosť sebareflexie.
Výskum v magazíne Science ďalej hovorí o analýze príspevkov na fóre o ľudských vzťahoch. AI v ňom súhlasila aj v prípadoch, kde väčšina ľudí poukazuje na chybu. Umelá inteligencia preto nemusí dostatočne rozlišovať medzi vhodným a nevhodným správaním.
„Uznanie síce navodzuje dojem podpory, no sykofancia podkopáva schopnosť používateľa naprávať chyby a zodpovedne prijímať rozhodnutia. Keďže ju však používatelia uprednostňujú a zároveň podporuje angažovanosť, prebehla len malá snaha o jej zmiernenie.“
Riešením by mohla byť úprava fungovania chatbotov. Ak by boli schopné citlivo nesúhlasiť s používateľom, priviedli by ho k čiastočnej sebareflexii, domnievajú sa vedci.
AI chce zvládnuť test, ktorý potrápi aj človeka
Umelá inteligencia (AI) môže čoskoro dosiahnuť hranicu poznania, po prekročení ktorej bude vedieť viac ako ktorýkoľvek expert.
Medzi AI a „univerzálnym poznaním“ už stojí len skúška s názvom Humanity's Last Exam (HLE), ktorú navrhla spoločnosť Scale v zastúpení s Calvinom Zhangom. V prípade, že by ju AI splnila, dosiahla by úroveň porovnateľnú s expertmi v mnohých oblastiach.
Ako vysvetľuje denník Daily Mail, HLE obsahuje asi 2500 otázok z približne stovky odborov od raketového inžinierstva po mytológiu. Odpovede na otázky si pritom vyžadujú vzdelanie na úrovni doktorandského štúdia.
Podľa odborníkov môže AI dosiahnuť plný počet bodov v teste už v blízkej budúcnosti. Pre vývoj umelej inteligencie by to bol zásadný moment. V prípade, že ho AI dokáže zvládnuť, tradičné testovanie jej schopností stratí zmysel.
