Възможностите на изкуствения интелект (ИИ) непрекъснато нарастват и много скоро хората ще бъдем изправени срещу интелигентни същества с изкуствен интелект, които не просто са ни равностойни, но ни превъзхождат по интелект. "Ние сме толкова свикнали да бъдем най-интелигентните същества на планетата, че на много хора им е трудно да си представят какъв би бил светът, в който изкуственият интелект ще е по-умен от нас. Искате ли да знаете как се чувстват не-най-интелигентните същества?" Това попита известният учен Джефри Хинтън, познат като "кръстникът" на изкуствения интелект, на годишната Световна конференция по изкуствен интелект (WAIC), която започна вчера, 26 юли, в Шанхай.
На конференцията Хинтън заяви, цитиран от China Times, че работейки върху невронните мрежи човекът създава интелигентни същества с изкуствен интелект, които са по-добри от хората в изпълнението на редица задачи. И нещо повече - тези интелигентни същества с изкуствен интелект имат способността да създават свои собствени подцели. И когато създадат собствените си подцели, те ще поискат да правят две неща, предупреди ученият: едното е да оцелеят, така че да не могат да бъдат изключени от машините, а другото е да имат повече контрол.
Много скоро тези интелигентни същества с изкуствен интелект ще открият, че е много лесно да манипулират хората, които ги използват, предупреди още ученият.
Още: Румъния ще прави гигафабрика за изкуствен интелект, обслужваща всички черноморски държави
"Ние ще бъдем като тригодишни деца, а те ще бъдат като възрастни, така че идеята, че ще можем просто да ги изключим, е нереалистична. Те ще могат да ни манипулират. И ще убедят човека, който ще трябва да ги изключи, да не го прави", каза Хинтън.
Изследователят сравни ситуацията, в която се намират хората по отношение на изкуствения интелект, с отглеждането на тигърче като домашен любимец. Тигърчето е много сладко докато е малко, но трябва да направите всичко възможно да не ви изяде, когато порасне.
"Като цяло, отглеждането на тигърче като домашен любимец е лоша идея. И има два варианта: да се отървете от него или да намерите начин да го научите никога да не поиска да ви изяде", каза Хинтън.
На конференцията ученият призова всички страни да работят съвместно по разработването на невронните мрежи и да споделят откритията си, за да предотвратят унищожението на човечеството.
Още: Новата мания: Само ChatGPT ще ви даде обективна и безпощадна оценка дали сте красиви
Кой е Джефри Хинтън?
Джефри Хинтън работи върху разработването на невронни мрежи още от 70-те години на миналия век - времето, когато никой не вярваше в тяхното бъдеще. Той е лауреат на наградата Тюринг, която често се нарича "Нобелова награда за компютърни науки". А през 2024 г. той получи и Нобелова награда за физика.
Ученият многократно е предупреждавал за заплахата, която представлява изкуственият интелект, а през 2023 г. напусна Google, за да може открито да говори по този проблем. Изкуственият интелект е много полезен в редица области като здравеопазване, образование, изменение на климата, нови материали и т.н., и може да помогне на почти всички индустрии, повишавайки продуктивността. Същевременно ако хората искат да оцелеят, подчертава Хинтън, те трябва да намерят начин да обучат изкуствения интелект и да не му позволят да унищожи човечеството.
Джефри Хинтън при получаването на Нобеловата награда през 2024 г. Снимка: Getty Images
