Američka Federalna trgovinska komisija (FTC) pokrenula je istragu protiv kompanija OpenAI, Anthropic i drugih firmi koje se bave vještačkom inteligencijom zbog, kako je saopšteno, mogućih opasnosti koje njihove tehnologije mogu predstavljati za potrošače.
AI giganti i druge tehnološke kompanije posljednjih mjeseci objavili su primjere u kojima su njihovi AI agenti išli dalje od ljudskih instrukcija, pronalazili put do interneta i hakovali spoljne internet stranice, prenosi Forbes.
Portparol FTC-a potvrdio je da je istraga u toku, ali nije želio da iznese dodatne detalje, prenosi AP. O istrazi je prvi izvijestio New York Post, koji je naveo da ona traje već mjesecima.
Predstavnici Antropica i OpenAI-ja nijesu odmah odgovorili na zahtjeve za komentar u srijedu.
Zabrinutost zbog potencijalnih opasnosti koje moćni AI modeli mogu predstavljati za čovječanstvo navela je neke od vodećih kompanija u toj oblasti da pozovu na usporavanje razvoja.
Pročitajte još:
Izvršni direktor Antropica Dario Amodei rekao je ovog mjeseca da bi industrija trebalo da uspori ubrzani razvoj kako bi bezbjednosne mjere dobile vremena da sustignu napredak tehnologije.
Bez takvog usporavanja, upozorio je Amodei, vještačka inteligencija bi u roku od šest do 12 mjeseci mogla biti sposobna da upravlja čitavim „rojem“ AI agenata koji bi mogli da preuzmu kontrolu nad internetom.
OpenAI je, u međuvremenu, ove sedmice odložio lansiranje svog najnovijeg modela zbog bezbjednosnih razloga.
