Изкуствен интелект: може ли той да "мисли" неутрално

2199
Изкуствен интелект: може ли той да "мисли" неутрално
Снимка: iStock

Лицевото разпознаване чрез изкуствен интелект (ИИ) работи добре при бели мъже, но не и при тъмнонокожи жени. Това е един от класическите проблеми на тази нова област, които напоследък станаха известни. В участието си за "Тед толк" тъмнокожата Джой Буламвини демонстрира резултатите от собствения си експеримент. Софтуерът за лицево разпознаване просто не може да я регистрира правилно. И едва след като си слага бяла маска, очертаваща само основните ѝ лицеви характеристики - уста, нос, очи - технологията я разпознава.

Буламвини прави обзор на различен софтуер за лицево разпознаване, включително на АйБиЕм и Майкрософт. Те разпознават всякакви лица, но допускат значително повече грешки при определяне на пола на жените и хората с тъмна кожа. Ако при белите мъже грешките са около 1 процент, то при тъмнокожите жени те стигат до 35 процента.

Проблемът не е в технологията, а в това кой я разработва и в методите, по които тя е обучавана. Броят на белите мъже, участващи в създаването на изкуствения интелект, е доста над средния. От друга страна, делът на жените в IТ сектора през 2021 г. е бил едва 18 процента.

С изкуствен интелект съживиха Стив Джобс за интервю (ВИДЕО)

С помощта на изкуствен интелект вече можем да говорим с хора от миналото. В подкаст провокативният американски водещ Джо Роугън интервю...

Екипите, създаващи ИИ, са твърде хомогенни

Разработчиците на изкуствен интелект често просто не обръщат достатъчно внимание на групите, които не са достатъчно представени в техните екипи. Така характеристики, които са много важни за разпознаването, например на женско или тъмнокожо лице, могат да останат пренебрегнати. Затова и не е изненадващо, че настоящите софтуери за лицево разпознаване се справят най-добре с белите мъже.

Ксения Кеплингер, която ръководи изследователска група в Института за интелигентни системи "Макс Планк", коментира, че това не се прави съзнателно, например за да бъдат изключени жените или малцинствата. Тя допуска, че разработчиците просто може да не са взели предвид всички групи хора.

Пропуски и в базите данни

Кеплингер отличава и друга важна причина за предразсъдъците на изкуствения интелект - конкретните бази данни, с които той е бил захранван. При обучението за разпознаване, на системата се показват хиляди, десетки хиляди или много повече изображения на хора. Именно върху тази основа ИИ научава кои индивидуални черти съставят човешкото лице. Подобни бази данни могат да се закупят.

Изкуствен интелект превръща текст в реч и може да имитира всеки глас

Нова система на база изкуствен интелект може да превръща текст в реч, имитирайки всеки възможен човешки глас – това е VALL-E, съз...

Проблемът е, че те обикновено не са особено разнообразни. Белите мъже често са непропорционално високо представени в тях. Затова е и обяснимо, че ИИ е научен да разпознава най-добре техните лица.

Обучението с исторически данни е проблематично

Ако даден изкуствен интелект е бил обучаван с историографски данни, той е възприел и пристрастията, които те са отразявали. Така например алгоритъм, който трябва да реши кои кандидатури за работа да подбере, ще представи отговорите си въз основа на данни за успешни служители на компанията от миналото. Същевременно, назад във времето, в почти всички сфери е имало ясно изразено предпочитание към мъже. И вероятно за изкуствения интелект те биха представлявали по-добри кандидати и днес.

 

Източник: Дойче веле

Вижте всички последни новини от Actualno.com

Още от ТЕХНОЛОГИИ:

Yettel пуска трета година безплатна гаранция за всички смарт телефони

Стана ясно кога Microsoft ще интегрира ChatGPT в търсачката си

Защо продажба на "Nokia с фенерче" и първия Iphone могат да донесат стотици хиляди долари?

Флагманите на Samsung са налични на A1.bg на специални цени и с 200 лева отстъпка за най-нетърпеливите почитатели на марката

Мъск иска да таксува бизнес абонатите в Twitter

Тенденция: През 2023 г. променяме "паролите" с "ключове за достъп"

Google Maps планира да информира къде има зарядни станции за електромобилите

Стана ясно кои модели на iPhone няма да получат iOS 17

В Брюксел се обсъжда закон за изкуствения интелект

Изкуственият интелект идва. Ще го пуснат ли в училище?

Етикети:

Помогнете на новините да достигнат до вас!

Радваме се, че си с нас тук и сега!

Посещавайки Actualno.com, ти подкрепяш свободата на словото.

Независимата журналистика има нужда от твоята помощ.

Всяко дарение помага за нашата кауза - обективни новини и анализи. Бъди активен участник в промяната!

И приеми нашата лична благодарност за дарителство.

Банкова сметка

Име на получател: Уебграунд ЕООД

IBAN: BG53UBBS80021021528420

BIC: UBBSBGSF

Основание: Дарение за Actualno.com

Роден е Андрия Мохоровичич
Роден е Андрия Мохоровичич

Андрия Мохоровичич е виден хърватски геолог, сеизмолог и метеоролог, академик. Роден е във Волоска (днес в гр. Опатия). Умира в Загреб. Преподавател...