Spoločnosť Anthropic oznámila vznik nového programu Project Glasswing. Ten vznikol ako reakcia na AI model, ktorý je podľa autorov príliš nebezpečný na verejné použitie.
Ako informovala spoločnosť Anthropic vo svojom vyhlásení, Project Glasswing spája svetoznáme značky ako Amazon Web Services, Apple, Cisco, Google či NVIDIA. Jeho cieľom je posilniť bezpečnosť dôležitého softvéru v čase, keď sme svedkami rozvoja umelej inteligencie (AI).
Príliš nebezpečný pre verejnosť
Spoločnosť Anthropic podľa vlastných slov reagovala na schopnosti jej modelu Claude Mythos Preview. Ako informuje portál Euronews, ten má byť „príliš efektívny pri hľadaní vysoko závažných zraniteľností“, čo by mohli zneužiť kybernetickí zločinci. Model z tohto dôvodu neplánujú sprístupniť pre bežnú verejnosť.
Mythos v testovaní už dokázal uniknúť z izolovaného testovacieho prostredia a prekonať bezpečnostné obmedzenia. V rámci jedného pokusu dokonca automaticky zverejnil detaily svojej práce na verejne dostupných weboch, čo experti označili za nebezpečný prejav autonómneho správania.
Prístup k nemu získajú len veľkí hráči
Verejne dostupná verzia modelu Mythos zatiaľ neexistuje. Ako informuje Euronews, prístup k nemu získali len vybrané väčšie spoločnosti najmä zo segmentu technológií a bezpečnosti.
Ako za spoločnosť Cisco uviedol Anthony Grieco, AI sa dnes využíva na prelomenie bezpečnostných bariér, no rovnako môže poslúžiť na posilnenie obrany.
„Schopnosti umelej inteligencie prekročili hranicu, ktorá zásadne mení naliehavosť obrany kritickej infraštruktúry.“
Anthropic podľa Euronews diskutuje o schopnostiach AI aj s americkou vládou. Spoločnosť pritom upozorňuje, že v najbližších mesiacoch vyvinú podobné modely aj konkurenčné firmy, čo zvyšuje tlak na rýchle zavedenie bezpečnostných opatrení. Firma sa pritom súčasne sporí s Ministerstvom obrany USA, ktoré ju označilo za riziko pre jej odmietavý postoj k zavedeniu AI do vývoja autonómnych zbraní.
