Нейросеть уличили в расизме [ Редагувати ]

Сотрудники Массачусетского технологического институтаи Стэнфордского университета выяснили, что программы, работающие на основе искусственного интеллекта распознают светлокожих людей лучше, чем темнокожих.

Сотрудник МТИ Джой Буоламвини собрала коллекцию из 1200 фотографий разных людей, где в большинстве были представлены женщины с темной кожей. Затем она обратилась к шкале Фитцпатрика, согласно которой существует 6 фототипов кожи (где I - самый светлый, VI - самый темный). Все собранные материалы специалист использовала для анализа трех коммерческих программ.

По результатам исследования выяснилось, что во время идентификации женщин с более темной кожей одна программа допускала 20,8% ошибок при определении лиц с IV типом кожи, 34,5% - с V типом и 34,7% - с VI типом.

Более 46% ошибок при распознавании женщин с самой темной кожей. Кроме того, оказалось, что фототип влияет и на точность определения пола: чем он темнее, тем чаще нейросеть делает неверные выводы. Ошибки же при идентификации мужчин со светлой кожей не превышали 0,8%.

Ранее искусственный интеллект превзошел человека в чтении.