Chatbot Grok vykazuje nedostatky pri fact-checkingu v časoch krízy

Vyplýva to zo štúdie organizácie Digital Forensic Research Lab (DFRLab) patriacej pod americký think-tank Atlantic Council zverejnenej v utorok. TASR o tom informuje podľa správy agentúry AFP.

Internetové platformy postupne znižujú svoju závislosť od ľudského faktora pri pravidelnom overovaní faktov (tzv. fact-checking) a čoraz častejšie využívajú chatboty poháňané umelou inteligenciou (AI) vrátane Groku od xAI. Tie sú však podľa DFRLab náchylné na dezinformácie.

„Vyšetrovanie fungovania systému Grok počas prvých dní izraelsko-iránskeho konfliktu ukázalo významné nedostatky v schopnosti chatbota poskytovať presné, spoľahlivé a konzistentné informácie v čase krízy,“ uvádzajú v štúdii. „Spoločnosť Grok preukázala, že má problémy s overovaním už potvrdených faktov, analýzou falošných vizuálov a vyhýbaním sa nepodloženým tvrdeniam,“ tvrdí DFRLab.

Organizácia analyzovala približne 130.000 príspevkov na platforme X v rôznych jazykoch a zistila, že Grok „má problémy aj s overovaním obsahu vygenerovaného umelou inteligenciou“. Po iránskych odvetných útokoch na Izrael napríklad Grok poskytol výrazne odlišné odpovede na podobné otázky o virálnom videu zničeného letiska, ktoré vygenerovala umelá inteligencia.

Štúdia uvádza, že často i v priebehu jednej minúty Grok preskakoval medzi popieraním zničenia letiska a jeho potvrdzovaním. V niektorých prípadoch dokonca uviedol, že raketu vypálili jemenskí povstalci húsíovia. V iných falošné letisko identifikoval ako letisko v Bejrúte, Gaze či Teheráne.

Výskumníci z DFRLab tvrdia, že Grok sa v minulosti dopustil chýb už pri overovaní informácií súvisiacich s konfliktom medzi Indiou a Pakistanom a nedávnymi protiimigračnými protestami v Los Angeles. Pred mesiacom Grok opätovne začali vyšetrovať za to, že i do nesúvisiacich otázok vkladal nepravdivé informácie o „genocíde bielych“ v Južnej Afrike, čo je krajne pravicová konšpiračná teória.

Muskova spoločnosť xAI vinu zvalila na liberálnu neziskovú organizáciu Media Matters, z ktorej materiálov podľa neho Grok čerpal pri generovaní odpovedí. „Hanbi sa Grok. Tvoje zdroje sú hrozné,“ napísal Musk na sociálnej sieti X.