Компанията за изкуствен интелект Anthropic съобщи, че е осуетила няколко потенциални опита на учени да използват нейния модел „Клод“ за изследвания, които биха могли да подпомогнат разработването на биологични оръжия, пише "Ню Йорк Таймс". В нов доклад компанията посочва, че в някои случаи не е могла да установи дали изследванията са били с легитимна научна цел или са били част от злонамерени действия.
Причината е, че редица биологични изследвания с двойна употреба могат да доведат както до медицински пробиви, така и до създаването на опасни патогени. Поради сериозните потенциални последици Anthropic е избрала да действа предпазливо и е блокирала свързаните профили.
Още: Албания подготвя национална програма за изкуствен интелект
Един от случаите е от май, когато учен е потърсил помощ от „Клод“ за подготовката на заявление за финансиране на изследване върху вируса чикунгуня. Проектът е включвал създаване на мутации, които биха могли да направят вируса по-вреден при многократно заразяване на живи животни. Подобни изследвания могат да имат легитимно приложение, включително при разработването на ваксини, но същевременно носят риск от създаване на по-опасни разновидности на вируси.
Според Anthropic допълнителен повод за безпокойство е бил фактът, че изследването е било планирано във военен научноизследователски институт. Компанията обаче подчертава, че не е успяла да установи дали целта е била разработване на биологично оръжие.
Още: Обявиха, че AI е решил 90-годишна математическа задача за часове
Учените, свързани с тези случаи, са се опитали да заобиколят защитните механизми на компанията, включително ограниченията за достъп от определени региони, и са прикривали истинската цел на изследванията си. В резултат Anthropic е прекратила достъпа до свързаните акаунти, предаде БГНЕС.
Докладът описва и други случаи на злоупотреба с „Клод“. Сред тях са предполагаеми действия на свързани с китайското и иранското правителство лица за наблюдение на дисиденти и представители на диаспори. Посочени са и случаи, при които руски държавни медии са използвали модела за създаване на онлайн пропаганда, представяна като независимо журналистическо съдържание, включително измислени твърдения за избори в Молдова.
За първи път Anthropic съобщава и за опити „Клод“ да бъде използван за разработване на софтуер, свързан с проектирането на конвенционални оръжия, включително ракети, въоръжени дронове и бомби. Компанията е установила такива случаи в Китай, Русия и Йемен.
Експерти предупреждават, че бързото развитие на генеративния ИИ увеличава риска от злоупотреби в биологичната сфера. Според тях същите възможности, които могат да ускорят разработването на ваксини и медицински терапии, могат да бъдат използвани и от злонамерени лица за създаването на опасни патогени.
Още: ИИ клонира гласа на Павароти за крайнодесен политик: Наследниците му са в шок
От Anthropic отбелязват, че по-старите им модели не са били способни да подпомагат съществено подобни опасни изследвания, но настоящите системи могат да извършват значително по-сложна научна работа. Именно поради това компанията е въвела по-строги ограничения за достъпа до биологични изследвания с потенциална двойна употреба.
