Коалиция от групи за онлайн безопасност и защита на потребителите съди 5 от водещите световни компании за изкуствен интелект, за да спрат по-нататъшното развитие на продуктите им, твърдейки, че технологичните гиганти не могат да предотвратят възможните "катастрофални" заплахи за света.
Делото във Висшия съд на Сан Франциско идва малко след междинните избори в САЩ, тъй като демократите, които си върнаха контрола над Конгреса, подчертават необходимостта от регулиране на технологията.
В заявлението, за което първо съобщи Асошиейтед прес, се иска съдът да спре Anthropic, Google, Meta, OpenAI и SpaceXSI от разработването или внедряването на нови модели с изкуствен интелект, като се посочват документирани примери за кибератаки и други вредни действия, както и тревожните признания на самите компании, че тяхната технология има потенциала някой ден да унищожи човечеството.
Още: Китай бърза да натрупа чипове от Nvidia преди САЩ да "затръшнат вратата" след скандала с Хуанг
Заплахата
„Никоя друга индустрия няма право да третира разработване на своите продукти – още по-малко такива, които биха могли да ни убият всички, като неизбежно“, се казва в жалбата, подадена от Фонда за незаменимо образование, Public Citizen, Heat Initiative и Алианса за сигурен изкуствен интелект. „Ищците завеждат този иск, за да спрат ответниците да продължат да водят света към бедствие.“
В индустрията на изкуствения интелект има съмнения, че технологията може да излезе от човешки контрол. Неотдавнашни инциденти с AI агенти, хакващи правителствени уебсайтове и компании, включително случаят с ChatGPT на OpenAI, който хакна друга компания през юли, засилиха тези опасения.
Източник: Getty Images
Президентът Доналд Тръмп, поддръжник на бързото развитие на изкуствения интелект, за да се осигури преднина на САЩ пред чуждестранни конкуренти като Китай, досега беше против компаниите да се контролират по въпросите на безопасността, въпреки че изрази готовност зазасилване на предпазните мерки. Конгресът също така се въздържа от регулиране на технологията, но това може да се промени с поемането на контрола от демократите.
Междувременно някои изпълнителни директори на големи компании за изкуствен интелект се изказаха в подкрепа на забавянето на развитието на технологията, за да се даде шанс на мерките за безопасност да наваксат. Те също така не се въздържаха да признаят рисковете. Дарио Амодей от Anthropic например миналата година заяви, че смята, че има 1 към 4 шанс бъдещето на изкуствения интелект да се развие „наистина, наистина зле“, в сравнение с 3 към 4 шанс да се развие добре. Илън Мъск, изпълнителният директор на SpaceX, каза пред Fox News през 2023 г., че изкуственият интелект може да доведе до „унищожение на цивилизацията“.
Всички организации с нестопанска цел, които са ищци по делото, твърдят, че компаниите, посочени в иска, са нарушили закона за нелоялна конкуренция на Калифорния, като са застрашили общественото здраве и са се намесвали в използването на собственост, като например компютърни системи. Те също така твърдят, че AI гигантите са били принудени да отклонят ресурси от друга планирана дейност.
Ищците предупреждават, че целите на AI компаниите биха могли да доведат до трайна загуба на контрол върху технологията и да увеличат екзистенциалните рискове за човечеството.
"Изсмукват 23% от тока ни": Първи протест в страната с най-големите центрове за данни в Европа
