Компанията за изкуствен интелект "Антропик" настоя да се направи глобална пауза в разработването на най-мощните системи за изкуствен интелект (ИИ). Причината - най-новите модели започват да дават признаци, че могат да излязат извън човешкия контрол. Базираната в Сан Франциско компания, която създава семейството облачни модели с ИИ, заяви в доклад, че световно забавяне в развитието на най-модерния ИИ ще бъде нещо много добро за света. Едновременно с това предупреди, че това трябва да се направи от всички - не само една компания да спре, защото тогава конкурентите й просто ще продължат.
"Смятаме, че за света би било добре да има възможност да забави или временно да спре развитието на авангардния ИИ, за да позволи на обществените структури и изследванията за съгласуване да се приспособят към напредъка на технологията", се казва в доклада, цитиран от Франс прес.
Рискът от ИИ е по-сериозен отколкото от ядрен удар
Още: Не бързайте да инвестирате в ИИ: Ботовете халюцинират и понякога е по-добре без тях
"Антропик" сравнява проблема с използването на ядреното оръжие, с тази разлика, че изкуственият интелект ще бъде още по-труден за овладяване, тъй като напредъкът на ИИ е много по-лесно да се скрие от ракетен силоз, а изкушението да се продължи тайно да се разработва ще бъде огромно.
Проблемът е, че изкуственият интелект е способен да се самообучава и самоусъвършенства т.е сам да става по-умен, без особена човешка помощ. "Данните сочат, че ролята на човека се стеснява на всеки етап от процеса на развитие на изкуствения интелект", заявиха от компанията.
За да се постигне реална пауза, ще е необходимо множество големи компании за ИИ в различни страни – най-вече в САЩ и Китай – да се съгласят да спрат едновременно, съгласно правила, които всеки би могъл да провери, заявиха от "Антропик".
Отпор от конкурентите и Белия дом. Но доколко далновидно е това?
Още: Най-бързо в историята: Чатботът, който достигна 1 милиард потребители на месец
Идеята може да не се хареса на хора като Илон Мъск, тъй като дългоочакваното дебютиране на борсата на неговата компания "СпейсЕкс" се очаква да го превърне в първия трилионер в света.
Компанията среща съпротива и от други в бранша, както и от служители в Белия дом, които твърдят, че тя прекалява с лошите сценарии и преувеличава рисковете.
Въпреки това Белият дом признава мощността на модела Mythos на "Антропик", който не е достъпен за широката общественост поради своите възможности в областта на киберсигурността и понастоящем се използва само от ограничен брой проверени организации.
"Без глобален механизъм за координация компаниите и правителствата ще трябва да вземат трудни решения относно безопасността, докато са подложени на конкурентен и геополитически натиск", заявиха от "Антропик".
Още: Ще изчезнат ли много професии заради изкуствения интелект: Проф. Керемидчиев с отговор
Предложението ще се сблъска с тежък отпор от Вашингтон и Силициевата долина, доколкото представители на правителството на САЩ и ръководители в технологичния сектор многократно са твърдели, че всяко забавяне в развитието на изкуствения интелект рискува да даде на Китай решаващо стратегическо предимство.
