Anthropic cere intervenția justiției pentru modelele AI de mare risc

Pot tribunalele să oprească riscurile tehnologice?

Compania de inteligență artificială Anthropic i-a transmis recent guvernatorului Californiei, Gavin Newsom, că autoritățile statului ar trebui să aibă puterea legală de a cere intervenția judiciară împotriva modelelor AI potențial periculoase.

Această recomandare a apărut într-o corespondență oficială trimisă biroului guvernatorului la mijlocul lunii octombrie. Mesajul vine ca răspuns direct la directivele executive emise de guvernatorul Newsom în luna precedentă, care au dus la înființarea unui grup de lucru specializat la nivelul statului.

Scrisoarea subliniază importanța creării unor căi legale clare pentru a gestiona amenințările emergente din sectorul tehnologic avansat. Guvernatorul Newsom a format grupul de lucru în septembrie pentru a aborda provocările legate de siguranță pe fondul avansului rapid al inteligenței artificiale.

Vor face față judecătorii provocărilor tehnice?

Intervenția celor de la Anthropic arată că industria recunoaște tot mai mult nevoia unui control extern solid. În acest context, oficialii din California se confruntă cu o misiune dificilă: să sprijine inovația, dar să garanteze și siguranța publică.

Experții în drept dezbat dacă sistemul judiciar tradițional are expertiza tehnică necesară pentru a evalua arhitecturile complexe de machine learning. Totuși, susținătorii ideii spun că ordonanțele președințiale emise de instanțe oferă o plasă de siguranță vitală împotriva unor derapaje majore înainte ca tehnologia să fie lansată pe piață.

Dialogul în curs dintre liderii statului și jucătorii din industrie va contura, probabil, viitoarele legi nu doar în California, ci poate chiar la nivel național.

Pot instanțele să oprească riscurile tehnologiei AI?

Ce a determinat scrisoarea trimisă de Anthropic? Compania a răspuns unui ordin executiv semnat de guvernator în septembrie, prin care a fost creat grupul de lucru dedicat.

Când a fost trimisă corespondența oficială? Scrisoarea redactată de Anthropic poartă data de 15 octombrie.

Această propunere seamănă cu dezbaterile de la nivel federal, unde agenții precum FTC au analizat posibilitatea unor puteri de urgență pentru a suspenda lansarea de noi modele. Aliniind legislația statală la precedentele federale, California vrea să ridice un front comun în fața reglementărilor, eliminând orice zonă cenușie.