Разговорите ни с ChatGPT може да бъдат прочетени от реални хора. OpenAI е наела стотици външни сътрудници, които да преглеждат реални разговори с изкуствения интелект и да оценяват отговорите му. Тези оценители могат да виждат пълната история на чатовете, включително разговори, съдържащи чувствителна лична информация. Компанията твърди, че се опитва автоматично да премахва личните данни, преди чатовете да бъдат предоставени за преглед, както и че оценителите не виждат имената на потребителите.
ОЩЕ: С родителски контрол и нови мерки за сигурност: OpenAI пусна ChatGPT за тийнейджъри
Въпреки това OpenAI признава, че филтрите могат да пропуснат необичайни идентификатори и други лични детайли.
Вътрешно проектът е известен като проектът "Лили" (Project Lily). Сътрудниците се наемат чрез компании като Mercor и Crossing Hurdles, а част от работата им е да обучават модела да бъде по-малко подмазващ, по-малко склонен към приписване на човешки черти и като цяло – по-малко странен.
Важно е да се отбележи, че проектът не оценява фактическата точност на разговорите, а единствено сигнализира за очевидни грешки. Това подсказва, че вероятно съществува поне още един екип, който извършва отделни проверки. Освен това този процес е независим от ръчните проверки за безопасност, целящи да установят дали някой не възнамерява да навреди на друг човек.
