"Никой не знае нищо" - прочутата фраза на сценариста Уилям Голдман описва несигурността във филмовата индустрия. Днес тя може да се приложи и към изкуствения интелект - технология, която се развива с огромна скорост, но чиято крайна посока остава неясна. Разликата е, че според някои представители на технологичния сектор един ден машините могат да се обърнат срещу създателите си и да ги унищожат. Затова не е изненадващо, че развитието на AI поражда сериозни обществени тревоги.
Само през последните седмици OpenAI спря пускането на най-новия си модел заради опасения за сигурността. Anthropic PBC призна в официален документ до регулаторните органи, че продуктите ѝ могат да породят "катастрофални или екзистенциални рискове за човечеството". Междувременно бивш изследовател в областта предупреди, че изкуственият интелект може да погуби човечеството още до края на десетилетието. Подобни опасения се споделят и от някои негови бивши колеги. Още: Компаниите за ИИ очакват катастрофален инцидент след 6 до 12 месеца: Ще ни спре ли ИИ тока и водата?
Колко реални са най-мрачните сценарии?
Общественото безпокойство е разбираемо, но е важно рисковете да бъдат разглеждани в правилния контекст.
Първо, катастрофалните прогнози далеч не са общоприети сред експертите. Това показват проучвания и оценки като Международния доклад за безопасността на изкуствения интелект, доклада на президентския панел към Асоциацията за развитие на изкуствения интелект (AAAI) и индекса за изкуствен интелект на Станфордския университет.
Редица технически анализи също поставят под съмнение реалистичността на сценариите за изчезване на човечеството заради AI. Същевременно независими оценки показват, че по-новите модели често се представят по-добре от предшествениците си по показатели за безопасност, дори когато възможностите им се разширяват.
Това не означава, че рисковете са незначителни. Анализите на скорошни инциденти с неконтролирано поведение на AI обаче сочат, че причините често са инженерни дефекти и пропуски в системите, а не появата на някакви необясними способности. Подобни проблеми могат да бъдат ограничавани чрез утвърдени практики за сигурност, изолирани тестови среди, известни като "пясъчници", и непрекъснато наблюдение на поведението на моделите. Още: На последно място в Европа: Кога румънците опират до изкуствен интелект?
Предпазливост вместо паника
Някои хакерски атаки с участието на изкуствен интелект също привлякоха значително медийно внимание. В много от тези случаи обаче не става дума за непознати или изключително сложни техники, а за по-бързо и усъвършенствано използване на традиционни методи за кибератаки.
Тези инциденти изискват сериозен анализ и адекватни защитни мерки, но засега са по-скоро основание за повишено внимание, отколкото за паника.
В същото време няма съмнение, че най-модерните модели, известни като "гранични", се развиват бързо. Дори малко вероятните опасности трябва да бъдат вземани насериозно. Още: Заплаха за озоновия слой: Google изстрелва спътник с изкуствен интелект в Космоса
В този контекст положителен сигнал е срещата на водещи представители на индустрията за изкуствен интелект в Белия дом през миналата седмица, на която бяха договорени доброволни мерки за безопасност. Те включват допълнителни вътрешни проверки, независими външни одити и по-строг надзор от управителните съвети. Участниците поеха и ангажимент да се срещат редовно, за да разработват общи стандарти и добри практики.
Това е важна първа стъпка. Независимите оценители могат да помогнат за установяването на ясни правила за безопасното разработване и внедряване на AI системи. Координирането на стандартите под егидата на Белия дом е по-добър подход от антитръстовите изключения, за които технологичната индустрия настояваше по-рано.
Най-същественото е, че подобно споразумение утвърждава един основен принцип: компаниите, които разработват изкуствен интелект, носят отговорност за своите продукти и за вредите, които те причиняват.
Какви мерки трябва да предприемат властите?
Още: Биологични оръжия, създадени с помощта на ИИ?
Законодателите трябва да надградят постигнатото съгласие с конкретни правила. Конгресът на САЩ например трябва да въведе изискване за поверително докладване на опасни възможности и инциденти, свързани с безопасността на AI. Необходимо е също да бъдат изяснени стандартите за отговорност при модели, които причиняват вреди на трети страни.
Сред останалите приоритети са повече инвестиции в изследвания за интерпретируемостта и съгласуваността на моделите, адекватно финансиране на държавния капацитет за тестване на високорискови системи и по-добра защита на критичната инфраструктура срещу кибератаки, подпомагани от изкуствен интелект.
Тестове, защита и международно сътрудничество
Изпълнителната власт също трябва да работи за повишаване на устойчивостта на икономиката. Това включва систематични тестове на най-модерните модели за опасни възможности и предоставяне на защитни технологии на възможно най-широк кръг от легитимни потребители. В тази работа може да се надгради и върху информационния център за киберсигурност на изкуствения интелект, създаден през юни. Още: ИИ може да унищожи човечеството: реален риск или истерия?
Държавните поръчки могат да бъдат използвани за подобряване на сигурността на софтуера, по-бързо отстраняване на уязвимости и внедряване на автоматизирани защити. Необходимо е и по-ефективно споделяне на информация за сериозни заплахи, включително със съюзническите държави.
Нито една политика обаче не може да гарантира абсолютна безопасност. Изкуственият интелект вероятно ще продължи да причинява проблеми и да създава нови предизвикателства. Развитието на всяка нова технология изисква амбиция, експериментиране и готовност за поемане на рискове, включително навлизане в непозната територия.
Това е неизбежна част от технологичния прогрес. Предизвикателството е не да се спре развитието на изкуствения интелект заради най-мрачните прогнози, а да се изгради система, която позволява да се използват ползите от него, като същевременно опасностите се откриват и ограничават навреме.
Източник: Bloomberg
