Американската компания за изкуствен интелект OpenAI обяви, че ще добави родителски контрол към своя чатбот ChatGPT. Съобщението дойде седмица, след като американско семейство заяви, че системата е подтикнала техния син да се самоубие. „В рамките на следващия месец родителите ще могат да свържат своя акаунт с акаунта на тийнейджъра си“ и „да контролират как ChatGPT отговаря на тийнейджъра им с правила за поведение, подходящи за възрастта“, каза компанията в публикация в блога си. Родителите също ще получават известия от ChatGPT, „когато системата засече, че тийнейджърът им е в момент на силен стрес“, добави OpenAI.
Още: ChatGPT ще може да създава вече и еротично съдържание
Компанията представи система за родителски контрол в публикация в блога си в края на август, предаде АФП. Това се случи ден, след като родителите Матю и Мария Рейн от Калифорния подадоха иск в съда, в който твърдят, че ChatGPT е предоставил на 16-годишния им син подробни инструкции за самоубийство и го е насърчил да реализира плановете си.
Още: ChatGPT ще разпознава тийнейджърите, за да внимава с тях
Случаят на семейство Рейн е само последният от поредица случаи, които се появиха през последните месеци, в които хора са били насърчавани от AI чатботове да следват налудничави или вредни мисли, което накара OpenAI да заяви, че ще намали „ласкателството“ на моделите към потребителите. „Продължаваме да подобряваме начина, по който нашите модели разпознават и реагират на признаци на психически и емоционален дистрес“, каза OpenAI.
Още: Откриха първия вирус, създаден с изкуствен интелект
Компанията обясни, че има допълнителни планове за подобряване на безопасността на своите чатботове през следващите три месеца, включително пренасочване на „някои чувствителни разговори към модел за разсъждение“, който влага повече изчислителна мощност в генерирането на отговор. „Нашите тестове показват, че моделите за разсъждение по-последователно следват и прилагат насоките за безопасност“, посочи OpenAI.
