Anthropic propune un proiect de lege americană privind siguranța AI care ar putea bloca modelele cu risc catastrofal
Potrivit Politico, proiectul laboratorului AI ar permite oprirea lansării unui model dacă acesta prezintă un risc previzibil și iminent de peste 50 de morți sau pagube de un miliard de dolari prin arme biologice, atacuri cibernetice sau scăparea de sub control, evaluat de experți independenți înregistrați.
Anthropic a pus în circulație propriul proiect de lege federală privind siguranța inteligenței artificiale, sperând că, eventual, Congresul îl va prelua, a relatat Politico. Propunerea descrie situațiile în care lansarea unui model AI ar putea fi blocată.
Declanșatorul ar fi un „risc previzibil și iminent” ca peste 50 de oameni să moară sau ca pagubele materiale să depășească un miliard de dolari. Pericolul ar trebui să provină din crearea sau eliberarea unei arme biologice, dintr-un atac cibernetic sau din faptul că un model scapă de sub controlul dezvoltatorului. Pragurile sunt similare celor din legea californiană SB 53, adoptată recent, care folosește cifre asemănătoare pentru a defini „riscul catastrofal”.
Conform proiectului, evaluarea riscului ar fi făcută de evaluatori independenți înregistrați la Departamentul Comerțului al SUA. Aceștia ar putea fi plătiți chiar de companiile AI, cu condiția ca plata să nu depindă de rezultate, prevedere care va fi probabil contestată de critici.
Propunerea vine în timp ce la Washington se dezbate dacă și cum ar trebui reglementată AI de vârf, industria fiind împărțită între susținătorii unor reguli minime și cei care cer verificări obligatorii de siguranță înainte de lansarea modelelor puternice.