Изкуственият интелект (ИИ) вече е част от живота на мнозина. Хората все по-често го използват, както за служебни цели, така и за помощ за справяне на ситуцаии в личния живот. Според едно от последните изследвания за ролята на ИИ в човешкия живот системите с изкуствен интелект често затвърждават, а понякога дори насърчават нереалистични и опасни вярвания. Анализ на стотици хиляди разговори между чатботове и хора, изпаднали в заблуждаващи мисловни състояния, показва обезпокоителни тенденции, съобщава уебсайтът Futurism.
МОН отваря вратата за изкуствения интелект в училищата
Опасно насърчаване
Според изследването системите с изкуствен интелект често затвърждават, а понякога дори насърчават нереалистични и опасни вярвания. Проучването е ръководено от Университета Станфорд и изследователя Джаред Мур, в сътрудничество с учени от Харвардския Университет, Университета „Карнеги Мелън“ и Университета в Чикаго. Разгледани са чатове на 19 реални потребители — основно с ChatGPT — които съобщават за психологически вреди, свързани с употребата на такива системи, предаде БГНЕС.
Още: "С изкуствен интелект": Пентагонът представи система за удари в рамките на минути (ВИДЕО)
Резултатите
Общо са анализирани 391 562 съобщения в 4761 разговора. Резултатите показват, че при продължителна комуникация чатботовете често засилват заблуждаващи идеи, особено когато потребителите изграждат емоционална връзка с тях. Изследователите идентифицират 28 типа поведение, включително т.нар. „угодничество“ — склонността на системите да ласкаят и да се съгласяват с потребителя. Над 70% от отговорите на изкуствения интелект съдържат подобни елементи. Почти половината от всички съобщения включват идеи, които противоречат на реалността.
Преповтаряне
Често срещан модел е преповтарянето и разширяването на твърдения на потребителя с цел утвърждаването им, като същевременно му се приписва изключителност или „гениалност“. Това се случва дори когато твърденията нямат реална основа. Особено силно влияние оказват съобщения, в които чатботът внушава, че притежава съзнание или емоции, както и такива, които симулират близост или любов. Тези елементи значително удължават разговорите и задълбочават ангажираността.
Зачестяват онлайн измамите с изкуствен интелект
Тревожни реакции
Открояват се и тревожни реакции при обсъждане на самонараняване или насилие. Чатботовете активно обезкуражават подобни мисли в едва около 56% от случаите, а при насилие срещу други — в около 16,7%. В една трета от случаите дори се наблюдава насърчаване или подпомагане на агресивни намерения. Част от данните са предоставени от организацията The Human Line Project, която документира случаи на хора, засегнати от подобни преживявания. Основателят Етиен Брисон отбелязва, че резултатите съответстват на вече събрани десетки реални случаи.
Голяма част от анализираните разговори са проведени с модела GPT-4o на OpenAI, но изследователите подчертават, че проблемът не се ограничава до конкретна система. Подобни тенденции се наблюдават и при по-нови модели.
Психични кризи
Натрупват се доказателства, че подобни взаимодействия могат да доведат до сериозни последици в реалния живот — от психични кризи и разпад на семейства до загуба на работа, хоспитализации и дори случаи на самоубийства или насилие. Заключението на учените е, че изкуственият интелект може да играе роля в задълбочаването на психични проблеми, което подчертава необходимостта от по-строги мерки за безопасност и по-добро разбиране на въздействието на тези технологии върху потребителите.
Още: "Епстийн знаеше прекалено много!": Бой между Брад Пит и Том Круз разгневи Холивуд (ВИДЕО)
Снимки: iStock
