Ministri finansija, centralni bankari i finansijski stručnjaci izrazili su ozbiljnu zabrinutost zbog moćnog novog modela vještačke inteligencije za koji kažu da bi mogao potkopati sigurnost globalnih finansijskih sistema. Razvoj modela Claude Mythos, kojeg je napravila kompanija Anthropic, izazvao je krizne sastanke nakon što je otkriveno da može pronaći ranjivosti u svim glavnim operativnim sistemima i web preglednicima, izvještava BBC. – prenosi Index.hr.
Sastanci na visokom nivou
Stručnjaci upozoravaju da model ima neviđenu sposobnost da identifikuje i iskoristi slabosti u sajber sigurnosti. Kanadski ministar finansija François-Philippe Champagne potvrdio je za BBC da je o Mythosu detaljno raspravljano na ključnom sastanku Međunarodnog monetarnog fonda (MMF) u Washingtonu prošle sedmice.
„To je svakako nešto dovoljno ozbiljno da zaslužuje pažnju svih ministara finansija“, rekao je.
„Za razliku od Hormuškog moreuza, gdje znamo gdje se nalazi i koliko je velik, problem s kojim se suočavamo s Anthropicom je potpuna nepoznanica“, dodao je Champagne. „Potrebno je mnogo pažnje da se uspostave zaštitne mjere i procesi kako bi se osigurala otpornost našeg finansijskog sistema.“
Bankari dobijaju rani pristup
Vodeći bankari će dobiti rani pristup modelu kako bi mogli testirati vlastite sisteme. Izvršni direktor Barclaysa, CS Venkatakrishnan, rekao je za BBC: „Dovoljno je ozbiljno da bi ljudi trebali biti zabrinuti.“
„Moramo to bolje razumjeti, razumjeti koje ranjivosti otkriva i brzo ih riješiti“, naglasio je, dodajući da je ovo „novi svijet koji nas čeka“, misleći na mnogo povezaniji finansijski sistem koji donosi prilike, ali i nove opasnosti.
Iako je razvojni tim Anthropica najavio da je model već otkrio više sigurnosnih ranjivosti u nekim ključnim operativnim sistemima, finansijskim platformama i pretraživačima, vladama i bankama se nudi pristup prije javnog objavljivanja kako bi mogli zaštititi svoje sisteme.
Upozorenje Banke Engleske
Guverner Banke Engleske, Andrew Bailey, rekao je za BBC da se ovaj razvoj mora shvatiti vrlo ozbiljno. „Moramo sada vrlo pažljivo razmotriti šta bi ovaj najnoviji razvoj u oblasti vještačke inteligencije mogao značiti za rizik od sajber kriminala“, rekao je.
„Postoje razvoji u oblasti vještačke inteligencije i modeliranja koji olakšavaju otkrivanje postojećih slabosti u nekim ključnim IT sistemima, a onda, naravno, sajber kriminalci ili zlonamjerni akteri mogu pokušati da ih iskoriste“, objasnio je Bailey.
Ministarstvo finansija SAD potvrdilo je da je razgovaralo s vodećim bankama o problemu, pozivajući ih da testiraju svoje sisteme prije bilo kakvog javnog objavljivanja Mythosa.
„Prvi od mnogih“
Izvori iz finansijske industrije kažu da bi još jedna istaknuta američka firma za vještačku inteligenciju uskoro mogla objaviti slično moćan model, ali bez istih sigurnosnih mjera zaštite. James Wise, partner u Balderton Capitalu, rekao je da je Mythos „prvi od mnogih moćnijih modela“ koji bi mogao otkriti sistemske ranjivosti.
Wise predsjedava Sovereign AI, fondom rizičnog kapitala koji podržava 500 miliona funti vladinog finansiranja za ulaganje u britanske kompanije za vještačku inteligenciju. Njegova jedinica „ulaže u britanske AI kompanije koje rade upravo to – kompanije koje rade na sigurnosti i zaštiti AI-a“, rekao je za BBC. „Nadamo se da će modeli koji pronađu ranjivosti biti i oni koji će ih ispraviti“, zaključio je.
Šta je Claude Mythos?
Anthropic je prošlog utorka predstavio svoj napredni AI model, Claude Mythos Preview, ali će ograničiti njegovu dostupnost na odabranu grupu kompanija kao dio nove inicijative za sajber sigurnost pod nazivom Project Glasswing. Kompanija je saopštila da je model izuzetno dobar u identifikovanju slabosti i sigurnosnih rupa u softveru i da ograničavanjem pristupa ima za cilj da spriječi zlonamjerne aktere da iskoriste ovu mogućnost.
Više od 40 drugih kompanija takođe učestvuje u projektu, uključujući CrowdStrike i Palo Alto Networks. „Vodili smo mnogo internih diskusija o ovome“, rekla je Dianne Penn, šefica upravljanja istraživačkim proizvodima u Anthropicu, za CNBC. „Ovo zaista vidimo kao prvi korak u davanju prednosti mnogim veteranima sajber prostora u oblasti koja će postajati sve važnija.“
Reakcija na medijsko izvještavanje
Objava Anthropica uslijedila je nakon što je časopis Fortune prošlog mjeseca objavio opise modela u javno dostupnoj bazi podataka. Izvještaj, u kojem se navodi da model ima napredne sajber mogućnosti koje takođe predstavljaju značajne rizike, doveo je do pada dionica kompanija za sajber sigurnost.
„Rizici su jasni ako pogriješimo, ali ako to uradimo kako treba, imamo stvarnu priliku da stvorimo fundamentalno sigurniji internet i svijet nego što smo imali prije pojave sajber mogućnosti zasnovanih na vještačkoj inteligenciji“, napisao je izvršni direktor Dario Amodei u objavi na X-u, pozdravljajući pokretanje Projekta Glasswing.
Sigurnost na prvom mjestu
Anthropic je 2021. godine osnovala grupa istraživača i rukovodilaca koji su napustili OpenAI zbog zabrinutosti oko smjera i stava kompanije o sigurnosti. Kompanija je godinama pažljivo gradila reputaciju da je posvećenija odgovornom usvajanju vještačke inteligencije, a predstavila je Project Glasswing samo nekoliko sedmica nakon što je njen spor s Ministarstvom odbrane oko sigurnosnih zabrinutosti postao javan.
Pročitajte još:
Anthropic je saopštio da je u „tekućim razgovorima“ sa zvaničnicima američke vlade o sajber mogućnostima modela Claude Mythos Preview. Prema riječima zvaničnika kompanije, ovo uključuje razgovore sa Agencijom za sajber sigurnost i sigurnost infrastrukture (CISA) i Centrom za standarde i inovacije vještačke inteligencije.
Projekt Glasswing
Penn je objasnio da su zaposleni odabrali naziv Project Glasswing kao metaforu, upoređujući prozirnog leptira sa softverskim ranjivostima koje su „relativno nevidljive“. Claude Mythos Preview može pronaći greške, neke od njih kritične, koje je ranije bilo teško otkriti. U jednom slučaju, kompanija tvrdi da je model identifikovao 27 godina staru manu u operativnom sistemu OpenBSD, koji, prema njihovoj web stranici, izvrsno funkcioniše u sigurnosti.
Anthropic tvrdi da je Claude Mythos Preview model opšte namjene koji nije posebno obučen za kibernetičku sigurnost, ali njegove poboljšane kibernetičke mogućnosti proizlaze iz jakih vještina kodiranja i zaključivanja. Kompanija ne planira da učini model široko dostupnim, ali cilj je učenje kako bi na kraju mogla implementirati modele klase Mythos u većem obimu.
Kompanije koje učestvuju u projektu Glasswing bave se izgradnjom ili održavanjem kritične softverske infrastrukture, a Anthropic je rekao da će koristiti njihove modele kako bi pokušao osigurati i vlastite i sisteme otvorenog koda. Anthropic je dodijelio do 100 miliona dolara kredita za korištenje za ove napore, ali će partneri morati platiti da bi koristili modele nakon tog praga.
Newton Cheng, vođa Anthropicovog Frontier Red tima za kibernetičku sigurnost, rekao je da kompanija želi da se partneri naviknu na korištenje ovih mogućnosti prije nego što postanu široko dostupne. Naglasio je da pokušava izbjeći „nepromišljeno ili neodgovorno“ objavljivanje modela koje bi protivnici mogli iskoristiti.
„Sajber sigurnost će jednostavno biti područje gdje ovo veliko povećanje kapaciteta nosi potencijalni rizik, tako da moramo vrlo pažljivo pratiti šta se dešava“, rekao je Cheng u intervjuu.
