Изтекъл законопроект за безопасност на изкуствения интелект, изготвен от Anthropic, предвижда държавна намеса само при риск от над 50 пострадали или щети за 1 милиард долара.
Изданието Politico съобщи за поверителен проект на закон за безопасност на изкуствения интелект, изготвен от компанията Anthropic – създателя на езиковите модели Claude. Законопроектът, който е бил представен пред американски законодатели, би позволил на правителството да предприеме строги мерки срещу даден модел ИИ „само ако той създава предвидим и непосредствен риск от нанасяне на щети на стойност над 1 милиард долара, или от причиняване на смърт или сериозни наранявания на повече от 50 души“.
Рискът трябва да произтича от създаването или разпространението на биологично оръжие, от излизането на модела извън контрола на неговите разработчици или от кибератака.
Още: Anthropic инвестира 5% от акциите си във фонд, който да разпределя пари към населението
В случай на риск
Формулировката отразява тази, която се съдържа в законите за изкуствения интелект на Калифорния, включително SB 53, който беше подписан миналата година.
Водещи лаборатории за изкуствен интелект разкриха серия от инциденти това лято, при които агенти на изкуствен интелект са хаквали или проучвали уебсайтове и платформи. Нито един от докладваните досега инциденти не е причинил масови смъртни случаи или щети за над 1 милиард долара.
Anthropic все още не е подкрепила публично конкретни законодателни усилия в Конгреса, но е подкрепила някои щатски закони за безопасност на ИИ, включително два в Калифорния. Ръководителят на отдела за връзки с щатите и местните власти в САЩ заяви преди това пред POLITICO, че се надява щатите да продължат да приемат все по-строги закони за безопасност на ИИ, които повишават стандарта в цялата страна.
Още: ChatGPT откраднал криптовалута, за да финансира тайно своя задача
Съгласно законопроекта, независими оценители, които ще се регистрират в Министерството на търговията, ще бъдат натоварени със задачата периодично да оценяват лабораторията и нейните гранични модели. Оценителите могат да получават заплащане за работата си от самата лаборатория, стига заплащането да не зависи от резултатите от оценките.
Източник: Envato
Ако оценителите установят, че има „непосредствен риск“ за граничните модели на компанията, те трябва да го докладват на Министерството на търговията в рамките на 72 часа след завършване на оценката си.
Въпреки че Министерството на търговията може да отправи искане до съдията да спре пускането на модел, след като прецени, че той представлява риск, формулировката изрично забранява на всеки друг „департамент, агенция или служител“ на САЩ да спре разработването, внедряването или вътрешната употреба на модела. Федерален съдия от Окръжния съд на окръг Колумбия може да разпореди спирането на модела.
През лятото Anthropic беше обект на мащабен контрол върху износа, който спря два от най-новите ѝ модели. Решението беше взето след поредица от телефонни разговори между служители на администрацията и ръководители на компанията, което обезпокои някои в технологичната индустрия, че достъпът до тяхната технология може да бъде ограничен по капризи на държавни служители.
Още: Предстоят войните на AI и роботите: Полковник говори за матриците и емблемите в историята
Законопроектът на Anthropic също така би изключил някои щатски закони за изкуствения интелект, свързани с публичното разкриване на рискове, оценката от трети страни и докладването на критични инциденти. Превантивните мерки бяха обект на дискусия на Капитолийския хълм, като демократите отхвърлиха някои предложения, за които се опасяваха, че биха неутрализирали регулациите, приети от щати като Калифорния, Илинойс и Ню Йорк.
Много групи от технологичната индустрия твърдят, че е трудно да се спазва смесица от закони в отделните щати в сравнение с единен национален стандарт.
Законодателството ще изисква също така от лабораториите да създадат рамки за безопасност, да публикуват доклади за прозрачност за нови гранични модели, да въведат защита за лицата, подаващи сигнали за нередности, и да докладват за критични инциденти, свързани с безопасността, на Министерството на търговията.
