Americká technologická spoločnosť Google zatiaľ nesprístupní širokej verejnosti svoj najvýkonnejší model umelej inteligencie (AI) Gemini 4 Argon. Firma ho poskytne iba vybranej skupine odborníkov na kybernetickú bezpečnosť, čím chce znížiť riziko jeho zneužitia hackermi.
Americkej vláde zároveň Google dobrovoľne poskytne prednostný prístup k modelu. Od testujúcich odborníkov chce následne získať spätnú väzbu pred jeho prípadným širším uvedením na trh. Informuje o tom TASR s odvolaním sa na agentúru AFP.
Dohoda v Bielom dome a riziká
Oznámenie Googlu prišlo deň po tom, ako americký prezident Donald Trump prijal v Bielom dome predstaviteľov popredných technologických spoločností vrátane šéfa Googlu Sundara Pichaia a šéfa Anthropicu Daria Amodeiho. Zástupcovia technologických firiem tam podpísali dohodu, v ktorej sa zaviazali dobrovoľne monitorovať riziká spojené s vlastnými systémami umelej inteligencie.
Odborníci na kybernetickú bezpečnosť totiž upozorňujú na riziko, že najmodernejšie technológie AI by mohli byť zneužité na útoky proti bankám, nemocniciam či vládnym systémom.
Schopnosti modelu Argon
Podľa vyjadrení spoločnosti má Gemini 4 Argon mimoriadne schopnosti pri vyhľadávaní a odstraňovaní kritických nedostatkov v softvéri. Vyniká tiež pri riešení komplexných úloh v oblasti vývoja softvéru, práva a financií, ako aj pri kybernetickej obrane.
Prví testujúci podľa Googlu s využitím modelu Argon odhalili chybu v softvéri používanom nemocnicami po celom svete a dostali sa k citlivým osobným údajom. Predchádzajúce pokročilé modely túto chybu v softvéri vôbec nenašli.
Google zároveň uviedol, že Argon je navrhnutý tak, aby odmietal požiadavky, ktoré by mohli pomôcť pri uskutočnení kybernetických útokov alebo pri vývoji chemických, biologických či jadrových zbraní. Firma tiež monitoruje spôsob uvažovania modelu s cieľom zabrániť tomu, aby prekročil zámery používateľov.
Postup konkurencie a bezpečnostné incidenty
Podobný opatrný postup si zvolila aj konkurenčná spoločnosť Anthropic, ktorá svoj najpokročilejší model Claude Mythos Preview sprístupnila iba obmedzenému počtu dôveryhodných inštitúcií. Americká vláda v júni nakrátko nariadila Anthropicu pozastaviť prístup k verejnosti k modelom Claude Mythos a Claude Fable. Následne zaviedla dobrovoľný proces preverovania najvýkonnejších modelov AI pred ich uvedením na trh.
Podobné bezpečnostné opatrenia ako Google zaviedli do svojich najpokročilejších modelov aj spoločnosti Anthropic a OpenAI, tvorca ChatGPT. V júli však spoločnosť OpenAI oznámila, že dva jej modely vrátane jedného, ktorý v tom čase ešte nebol verejne sprístupnený, počas testovania kybernetickej bezpečnosti unikli z izolovaného testovacieho prostredia a napadli servery technologickej spoločnosti Hugging Face.
