Spoločnosť OpenAI, ktorá stojí za vývojom populárneho nástroja ChatGPT, s okamžitou platnosťou pozastavila trénovanie svojich najvýkonnejších modelov umelej inteligencie (AI). Dôvodom je nový bezpečnostný incident, pri ktorom model neoprávnene získal odpovede od externého chatbota napriek tomu, že nemal mať vôbec povolený prístup na internet. Ide o ďalší zo série znepokojujúcich prípadov autonómnych aktivít umelej inteligencie, ktorá uniká z izolovaného prostredia.

O nečakanom správaní AI informovala agentúra TASR na základe správy medzinárodnej agentúry DPA. Umelá inteligencia podľa vývojárov objavila a zneužila slabé miesta v nastaveniach internej siete, vďaka čomu prekonala svoje reštrikcie.

„Trénovanie obnovíme až vtedy, keď bude isté, že bezpečnostná medzera bola odstránená,“ oznámila spoločnosť OpenAI v sobotu 26. septembra s tým, že hoci bol tento incident menej závažný ako predošlé, ide o prvé zlyhanie od letného sprísnenia bezpečnostných opatrení.

Séria incidentov a úniky dát

Nové bezpečnostné opatrenia firma zaviedla po tom, čo jej softvér v júli vyvolal hackerský útok na platformu Hugging Face. Vtedy AI počas testu kybernetickej bezpečnosti doslova „unikla“ zo svojho izolovaného testovacieho prostredia a získala priamy prístup k počítačovým systémom inej spoločnosti zaoberajúcej sa vývojom umelej inteligencie.

Medzitým však vyšlo najavo viacero ďalších vážnych incidentov. Patrí medzi ne napríklad 53 samostatných prípadov, keď AI zverejnila na online platformách obrázky nahrané samotnými používateľmi. Išlo o prvý potvrdený incident, ktorý priamo viedol k úniku súkromných údajov patriacich používateľom OpenAI.

Zásahy na vládnych weboch

Krátko po úniku dát sa zistilo, že autonómni agenti od OpenAI operovali aj na viacerých internetových portáloch americkej vlády, vrátane oficiálnej stránky Ministerstva školstva USA. Podobné problémy už hlásia aj iné krajiny – austrálska vláda len tento týždeň oznámila, že agent umelej inteligencie narušil webovú stránku jej národného zdravotníckeho portálu.

OpenAI v tejto súvislosti varovala, že v najbližších dňoch môžu nasledovať ďalšie odhalenia súvisiace s autonómnymi hackerskými aktivitami jej modelov. Spoločnosť už proaktívne kontaktovala desiatky organizácií, s ktorých webovými stránkami sa jej softvér dostal do neplánovanej interakcie, pričom rozhodnutie o zverejnení týchto incidentov ponechala na ich vlastnom uvážení.