Компанията Anthropic въведе забрана за своите потребителите да се отнасят с ненужна жестокост към системата Claude AI, на фона на нарастващия философски дебат относно това дали изкуственият интелект може да бъде съзнателен.
Базираната в Сан Франциско лаборатория за изкуствен интелект актуализира политиката си за ползване, за да включи „забрана за продължително и ненужно обидно или жестоко отношение спрямо нашите модели“.
„Способността на Claude да прекрати тези взаимодействия ще остане основният механизъм за прилагане“, се посочва в новите правила.
Още: AI агент "измисли" убийство и подаде сигнал в полицията
Актуализираната политика не цитира изрично така нареченото „моделно благосъстояние“ – идеята, че системите с изкуствен интелект може да заслужават видове защита, обикновено запазени за живите същества, но Anthropic и нейните ръководители открито са обсъждали тази концепция.
Съзнателни или не
Още миналата година компанията заяви, че дава на Claude възможността да прекратява разговори в редки, екстремни случаи на „устойчиво вредни или злонамерени взаимодействия с потребителите“.
След това, през февруари, главният изпълнителен директор Дарио Амодей заяви пред The New York Times, че не е сигурен дали моделите с изкуствен интелект могат да бъдат съзнателни.
„Не знаем дали моделите са в съзнание... Но сме отворени към идеята, че може да е така“, каза Амодей.
Още: Компаниите за ИИ очакват катастрофален инцидент след 6 до 12 месеца: Ще ни спре ли ИИ тока и водата?
Източник: Getty Images
Въпросът дали изкуственият интелект е съзнателен може да е грешен, смята Джаксън Стейкман, генерален мениджър на Sparq - доставчик на услуги за изкуствен интелект, базиран в Атланта.
„Съзнанието е капан. Не можем да го докажем взаимно. Ако го обсъждаме за изкуствения интелект, ще се въртим в кръг“, каза Стейкман пред AFP. „Огледалото е по-добра метафора. Тези системи отразяват това, което влагаме, в голям мащаб. Това е достатъчна причина за промяна на политиката в Anthropic", добави той.
Мнозина отхвърлиха идеята за машинно съзнание категорично, включително папа Лъв XIV и ръководителят на отдела за изкуствен интелект на Microsoft Мустафа Сюлейман.
Още: OpenAI предизвиква "математокалипсис": AI даде решение на над 370 нерешени досега задачи
„ИИ не са съзнателни. Те не чувстват, не преживяват и не страдат“, написа Сюлейман в есе миналия месец. „Предоставянето на права и морална защита на технологично образувание, което изглежда е на път да бъде далеч по-способно и интелигентно от нас, е рецепта за бедствие“, пише той.
В проповед, произнесена на италиански език в четвъртък в базиликата „Свети Петър“ във Ватикана, папата предположи, че машините нямат душа, заявявайки, че те просто „събират данни“ бързо.
„Умът не трябва просто да събира данни - както алгоритъмът сега прави по-бързо от нас“, каза папата. Той трябва „да си припомня преживявания, които съдържат дълбини на смисъл, които само човешката душа може да разпознае, и да се свърже по-дълбоко с добротата на тези преживявания“, каза папата.
