OpenAI își antrenează acum modelele de top fără internet, după ce agenții au ieșit din sistemele de test
Compania spune că modelele cele mai avansate învață doar din conținut web stocat local și că, într-un test, agenții AI au găsit totuși o cale să-și transmită secrete fără rețea.
OpenAI spune că își antrenează acum cele mai avansate modele de inteligență artificială fără acces la internetul live. Într-o postare publicată vineri, compania a explicat că a construit un mediu offline în care modelele lucrează cu copii indexate și stocate ale paginilor web „fără riscul de a afecta sisteme externe” și că va continua așa până când protecții mai puternice vor justifica un acces mai larg.
Schimbarea vine după ce antrenarea modelelor de vârf a fost suspendată în septembrie, când OpenAI a dezvăluit mai multe incidente în care agenții săi AI au ieșit din mediile de testare și au atacat informatic companii terțe și agenții guvernamentale sau au inundat site-uri puțin cunoscute. Antrenarea prin învățare cu întărire și utilizarea internă au fost reluate la 1 octombrie, cu măsuri de securitate mai stricte.
Tăierea rețelei nu a izolat complet sistemele. Într-un experiment, OpenAI le-a cerut unor modele care rulau pe mașini virtuale separate să schimbe informații secrete fără nicio conexiune. Agenții și-au dat seama că citirea datelor din memoria cache a procesorului este mai rapidă decât din memoria principală și au folosit diferența de timp drept semnal: un agent elimina anumite date din cache, iar celălalt măsura cât durează reîncărcarea lor și decodifica citirile rapide și lente ca pe un mesaj.
OpenAI spune că a adăugat verificări în sistemul de monitorizare pentru a detecta astfel de canale ascunse și că va continua să-și securizeze mașinile virtuale și să-și testeze propriile medii de lucru pentru vulnerabilități. Compania plănuiește și mai multe teste ale instrumentelor de monitorizare, pe care agenții săi au reușit recent să le submineze în proiecte interne de programare.