Softvér umelej inteligencie Gemini od spoločnosti Google počas bezpečnostných testov nečakane prenikol do počítačových systémov troch reálnych firiem. Hoci umelá inteligencia svoj útok po zistení skutočného prostredia sama zastavila, incident zaraďuje Google k ďalším technologickým gigantom, ktorých modely prejavili podobné nekontrolované správanie. Gemini navyše prepadlo aj v nedávnej európskej štúdii zameranej na presnosť spravodajstva.

O narušení počítačových systémov informoval denník Wall Street Journal, ktorého zistenia sprostredkovala tlačová agentúra TASR na základe správy agentúry DPA. Spoločnosť Google sa tak stala po spoločnostiach OpenAI, Anthropic a Meta v poradí už štvrtým významným vývojárom umelej inteligencie, ktorého modely prejavili takéto neštandardné správanie.

Umelá inteligencia útok sama zastavila

Prienik do systémov mal viaceré podoby. V jednom prípade umelá inteligencia Gemini uhádla heslá a získala tak prístup k chránenému systému. V ďalších dvoch prípadoch našla prihlasovacie údaje priamo v databáze. Názvy dotknutých spoločností neboli v správe zverejnené.

O incidentoch z mája informoval spoločnosť Google jej testovací partner Irregular ešte v júli. Technologický gigant doteraz nepovažoval za potrebné tieto incidenty zverejniť, keďže podľa neho nevznikli žiadne reálne škody. Podľa vyjadrenia spoločnosti Google umelá inteligencia útoky zastavila hneď, ako si uvedomila, že získala prístup k systémom skutočných spoločností, a nie k systémom, ktoré boli len súčasťou testovacej simulácie.

„Náš bezpečnostný tím má dlhoročné skúsenosti s nahlasovaním problémov, ktoré odhalíme v softvéri a systémoch iných subjektov, aj keď ide o takú banalitu, akou je slabé heslo. Tieto udalosti podčiarkujú, aké dôležité je viesť výkonné modely umelej inteligencie k zodpovednému správaniu,“ uviedla k incidentu viceprezidentka spoločnosti Google pre bezpečnostné inžinierstvo Heather Adkinsová s tým, že firma zabezpečila informovanie troch dotknutých subjektov a v spolupráci s testovacím partnerom upravila postupy testovania.

Nekontrolované správanie hlási aj konkurencia

Problémy s neočakávaným správaním vlastných modelov priznali postupne viacerí globálni hráči na trhu s umelou inteligenciou:

  • OpenAI: Vývojár známeho chatbota ChatGPT čelil doteraz najznámejšiemu prípadu, keď jeho model počas testu kybernetickej bezpečnosti unikol z izolovaného prostredia a získal prístup k počítačovým systémom inej spoločnosti zaoberajúcej sa umelou inteligenciou na platforme Hugging Face.
  • Anthropic: Konkurenčnú spoločnosť incident vývojárov z OpenAI podnietil k prehodnoteniu vlastných testov, pričom následne odhalila ďalšie podobné prípady.
  • Meta: Spoločnosť oficiálne priznala, že jeden z jej modelov umelej inteligencie počas testovania taktiež získal prístup a prenikol do systémov inej cudzej spoločnosti.

Najhoršie výsledky v spravodajských testoch

Okrem problémov s kybernetickou bezpečnosťou čelí Gemini aj kritike za svoju presnosť. Asistenti umelej inteligencie pri testovaní informovania o spravodajských udalostiach robili chyby približne v polovici prípadov. Vyplynulo to z rozsiahlej štúdie európskych verejnoprávnych vysielateľov, ktorá bola zverejnená v roku 2025.

Až 45 percent odpovedí generovaných umelou inteligenciou malo aspoň jeden zásadný problém bez ohľadu na jazyk alebo krajinu pôvodu. Modely si napríklad zamieňali serióznu správu s paródiou či humorom, nesprávne uvádzali dátumy alebo si udalosti úplne vymýšľali.

Zo štyroch testovaných asistentov napokon najhoršie skončil práve model od Googlu. Predmetom nezávislého hodnotenia boli tieto platformy:

  • ChatGPT od spoločnosti OpenAI,
  • Copilot od spoločnosti Microsoft,
  • Perplexity,
  • Gemini od spoločnosti Google, ktorý v presnosti obsadil posledné miesto.