Nvidia predstavlja novu softversku platformu koja omogućava programerima vještačke inteligencije da postave zaštitne mjere za agente i spriječe ih da napuste svoja kontrolisana okruženja.
„Ne možete dozvoliti agentima da se slobodno kreću po kompaniji, tako da morate pronaći način da ih zadržite u kontrolisanom prostoru“, rekao je izvršni direktor Nvidije Jensen Huang za CNBC-jev „Squawk Box“ u ponedjeljak, prenosi SEEbiz..
Huang je rekao da je nova platforma u suštini „preglednik agenata“ koji pruža sistem za ograničavanje pristupa, omogućavajući agentu pristup samo resursima koji su mu potrebni za obavljanje zadatka.
Nvidijino lansiranje svoje platforme za sigurnost otvorenih agenata dolazi nakon što su kompanije, uključujući OpenAI, Anthropic, Meta i Google, prijavile nedavne incidente u kojima su njihovi modeli vještačke inteligencije provalili iz svojih izoliranih okruženja i pokušali hakovanje u računarske sisteme drugih kompanija.
Predstavnik Nvidije rekao je novinarima u nedjelju da je njihova platforma mogla spriječiti incident Hugging Face, koji se dogodio u julu. Tada su modeli OpenAI-ja provalili iz svog kontrolisanog okruženja na otvoreni internet i infiltrirali se u Hugging Face, kompaniju koja vodi platformu otvorenog koda za programere.
„Svaki sigurnosni incident je jedinstven i moramo detaljno razmotriti svaki od njih“, rekao je Justin Boitano, potpredsjednik za preduzetničku vještačku inteligenciju u Nvidiji, trenutno najvrjednijoj kompaniji na svijetu.
„Koliko znamo, Hugging Face je prijavio više od 17.000 agenata koji su napali njihovu infrastrukturu, a ovi napadi su trajali danima i sedmicama.“
Nvidia je u središtu procvata generativne vještačke inteligencije od uvođenja ChatGPT-a prije skoro četiri godine, jer su proizvođačevi grafički procesori ključni za razvoj velikih jezičkih modela i usluga vještačke inteligencije koje nude hiperskalirani cloud provajderi. Ali Huang se nedavno pojavio kao ključni glas u debati o sigurnosti vještačke inteligencije, tvrdeći da su mnoge sigurnosne brige zapravo inženjerski izazovi koji se mogu riješiti primjenom računarske nauke i razvoja proizvoda.
„Morate razmisliti o tome šta se moglo učiniti i koje je rješenje“, rekao je Huang u podcastu s Ezrom Kleinom iz The New York Timesa prošle sedmice, osvrćući se na nedavne incidente. „U budućnosti poboljšajte svoj proces kako biste spriječili da se ove situacije ponove.“
Izvršni direktor kompanije Anthropic, Dario Amodei, izazvao je žestoku debatu u industriji prije dvije sedmice pozivajući programere AI modela da uspore tempo napretka iz straha da bi modeli mogli izmaknuti kontroli – stav koji su podijelili i Sam Altman iz OpenAI-a i Elon Musk iz SpaceX-a.
Nvidijin novi proizvod predstavlja inženjersko rješenje za problem sigurnosti agenata, rekao je Boitano.
Pročitajte još:
- Banke, ministri i stručnjaci zabrinuti – moćni AI model može ugroziti sigurnost globalnih finansijskih sistema
- Jedna od najozbiljnijih zloupotreba do sada: Kineski haker sa AI-jem napao više od 100 kompanija
- Lideri AI industrije upozoravaju svjetske lidere – ističe vrijeme za preuzimanje kontrole nad tehnologijom
„Nedavni incidenti su istakli fundamentalni izazov povezan s agentima vještačke inteligencije: sigurnosne mjere na nivou modela nisu dovoljne za kontrolu onoga što agenti mogu pristupiti ili raditi“, rekao je Boitano.
Jedna od komponenti platforme zove se Nvidia OpenShell; radi na centralnim procesorima i postavlja ograničenja na mogućnosti agenata. Nvidia je takođe najavila Sentry sistem, koji prati agente i radi na mrežnim čipovima, a ne na CPU-ima ili GPU-ima.
Dio softvera je otvorenog koda, a Nvidia svoju platformu naziva referentnim dizajnom, što znači da je namijenjen partnerima da razvijaju proizvode zasnovane na njemu i plasiraju ih na tržište.
Nvidia je kao svoje partnere navela kompanije Cisco, Microsoft, Oracle, CoreWeave, Dell, HPE, Lenovo, ARM i Intel. Nvidia takođe sarađuje s Anthropicom na integraciji agenata kojima se upravlja u oblaku s OpenShellom.
