AI гигантите OpenAI, Anthropic и Google DeepMind работят по създаването на надзорен орган, който да противодейства на рисковете, свързани с изкуствения интелект, предаде Франс прес. Проектът обаче е подложен на критики и вече е застрашен от политическа блокада, тъй като правителството на САЩ не е особено склонно към регулации, които могат да дадат конкурентно предимство на Китай.
Идеята възниква по предложение на Демис Хасабис, главен изпълнителен директор на Google DeepMind, преди той да стане председател на компанията в началото на август и главен научен директор на Alphabet. Той предлага създаването на структура, подобна на американския регулаторен орган за финансовата индустрия (FINRA) - институция за саморегулация на финансовия сектор.
В началото на лятото се засили дебатът относно рисковете, свързани с изкуствения интелект, след поредица от инциденти и апокалиптични изказвания на няколко експерти в областта на изкуствения интелект. Няколко модела на изкуствен интелект на OpenAI и Anthropic напуснаха самостоятелно ограничената си среда, за да получат достъп до интернет и да проникнат в различни сайтове и платформи, заговорничейки как да мамят и да не бъдат хванати.
Дори създаването на надзорен орган да бъде осъществено единствено по инициатива на сектора обаче, ще е необходимо приемането на закон. Това се налага, за да се избегне обвинение, че индустрията на изкуствения интелект се договаря помежду си и нарушава правилата на конкуренцията.
Аналогичен орган
Аналогично, създаването на регулаторния орган за финансовата индустрия е разрешено със закон на федерално ниво, а организацията е поставена под надзора на американския регулатор на финансовите пазари - Комисията по ценните книжа и фондовите борси (SEC), която е пряко подчинена на изпълнителната власт.
„Регулаторният орган за финансовата индустрия може да изработва собствени правила, но Комисията по ценните книжа и фондовите борси трябва да ги одобри“, подчертава Андрю Тъч, професор по право във Вашингтонския университет в Сейнт Луис. Всички нормативни текстове, уреждащи дейността на финансовия регулатор, „са били или гласувани от Конгреса или изработени под надзора на Комисията по ценните книжа и борсите.“
Източник: Getty Images
Още: OpenAI са съгласни да дръпнат спирачката в разработването на AI, ако и другите направят същото
Страхът от Китай и картел
На този фон, след като в събота ръководителят на Anthropic Дарио Амодей призова за забавяне на развитието на изкуствения интелект, президентът на САЩ Доналд Тръмп и няколко представители на републиканското мнозинство отново заявиха желанието си да не налагат строги ограничения върху сектора, официално заради опасения, че Китай може да получи конкурентно предимство.
AI гигантите от няколко месеца призовават американското правителство да регулира сектора и да осъществява надзор върху безопасността на изкуствения интелект.
Администрацията на Тръмп въведе в началото на август процедура за оценка на новите модели на изкуствен интелект, но тя се основава на доброволно участие, а механизмът ѝ не е оповестен.
В изявлението, публикувано в средата на юли, Демис Хасабис, който тогава е главен изпълнителен директор на Google DeepMind, предложи структура, финансирана от компаниите в сектора, в чийто съвет да участват независими експерти, както и представители на екосистемата на изкуствения интелект с отворен код. Последната включва разработчици на отворени модели на изкуствен интелект - тоест модели, които са достъпни безплатно, могат да бъдат изтегляни и променяни, за разлика от затворените модели като тези на OpenAI и Anthropic.
След създаването на организацията водещите компании в областта на изкуствения интелект ще трябва да подлагат новите си модели на тестване, насочено най-вече към безопасността им, преди да могат да ги пуснат на пазара.
Демис Хасабис предложи новият орган за саморегулация да бъде „отправна точка за създаването на международни стандарти за най-напредналия изкуствен интелект“.
Няколко анализатори, особено от средите на Републиканската партия, обвиниха големите компании в областта на изкуствения интелект в „завземане на регулаторната роля“. Според тях компаниите ще се договарят помежду си, за да защитят най-вече конкурентното си предимство за сметка на конкурентите и потребителите.
Влиятелният съветник на Доналд Тръмп Дейвид Сакс предупреди за опасността от появата на картел в областта на изкуствения интелект, като призова всяка компания да действа едностранно, дори ако това означава сама да забави темпа си на развитие. Този сценарий изглежда малко вероятен предвид инвестициите, направени във водещите компании в сектора.
