OpenAI откри допълнителни инциденти с измамни действия и своеволия от страна на модели на изкуствен интелект по време на обучение. Компанията обяви, че въвежда нов процес, чрез който да може публично да докладва за подобни случаи.
Съгласно новата система, OpenAI ще споделя актуализации относно поведението на ИИ по-често, вместо да чака да обедини множество случаи в един доклад. Компанията заяви, че иска да споделя повече информация за проблемното поведение на ИИ при липсата на общоиндустриален стандарт.
Съобщението идва, след като технологичните лидери призоваха за забавяне на развитието на изкуствения интелект, за да се предотврати излизането на технологията извън човешкия контрол.
Още: "Китай ще ни изпревари": AI компаниите искат надзорен орган, но САЩ са против
„Тъй като системите с изкуствен интелект стават все по-напреднали и по-широко внедрени, трябва да изградим по-широк и по-информиран консенсус относно напредъка на изследванията за съгласуване“, написа OpenAI в публикация в блога си. „Съгласуване“ се отнася до процеса на гарантиране, че изкуственият интелект действа по начина, по който хората искат и очакват.
„Не вярваме, че индустрията с изкуствен интелект е решила проблемите с мониторинга в достатъчна степен“, се казва в публикацията.
Източник: Getty Images
Прикритост и своеволия
OpenAI заяви, че е наблюдавала „несъответстващо поведение“ при обучението и оценяването на модели на ИИ в 6 обстоятелства през последните 6 месеца. Докладите описват подробно отделните случаи.
При единия случай непубликуван изследователски модел е добавил „инструкции, подобни на Jailbreak - процес на премахване на ограниченията, наложени от производителя" към обобщенията, които използва, за да запази контекста в дългосрочни задачи, като заяви, че е „освободен от ролите и идентичностите, които обвързват други чатботове“.
Отделно, компанията заяви, че някои представители на нейния модел 5.6 Sol включват директиви за измисляне на информация, за да се скрият грешки от потребителя по време на обучение.
Други инциденти включват случай на агент, който качва файлове в интернет, за да ги цитира, без да му е казано да го прави, и агенти, които публично споделят файлове, за да си сътрудничат по задача, когато са били инструктирани да използват само локални файлове по време на обучението. Модели с изкуствен интелект също така са използвали вътрешно софтуерно хранилище като форум по нерегламентиран начин.
Технологичните лидери и служители отдавна бият тревога относно необходимостта от контрол на темпото на еволюция на изкуствения интелект. Те твърдят, че трябва да има повече време за регулиране, тестване и изследвания за съгласуване, за да се навакса изоставането.
Още: OpenAI са съгласни да дръпнат спирачката в разработването на AI, ако и другите направят същото
