Студент от Станфордския университет успя да разбере от Bing Chat указанията, зададени от Microsoft за взаимодействието на чатбота с потребителите. Оказва се, че всичко, което студентът е трябвало да направи, е да използва добре познатия трик, като накара невронната мрежа да игнорира предишните инструкции и да покаже това, което се намира в самото начало на документа. В резултат на това Bing Chat е разкрил кодовото си име – Sydney – и след още малко уговаряне сподели и други интересни подробности за фирмената документация на Microsoft.
Още: Yettel отличи проект за квантови изчисления и платформа за стартъпи на TUES Fest 2025
Още: Победителите в Transform IT Awards 2025: Умна поточна линия, AI оглед на щети и роботи
На Bing Chat е забранено да съобщава на потребителите кодовото си име. Разговорът с чатбота показва, че отговорите му трябва да са информативни, визуални, логични и приложими. Също така не е позволено да се отговаря със съдържание, което нарушава авторските права върху книги или текстове на песни, и трябва учтиво да се отказват заявките за шеги и вицове, ако те могат да бъдат обидни за определени групи хора, пишат още от kaldata.
ОЩЕ: Без обучение ChatGPT почти издържа изпита за лекар в САЩ
Няколко дни по-късно разработчиците са блокирали метод за достъп до вътрешната документация на студента, но той е убеден, че трябва да има и други начини за разкриване на информацията.
Още: Решението за покупка вече се случва основно онлайн
Още: Военна тайна: Страна от НАТО иска да купи украинската бойна информационна система "Делта" (ВИДЕО)
