«Закодированная предвзятость»: Как алгоритмы становятся расистами и сексистами
Документальный фильм «Закодированная предвзятость» (Coded Bias, 2020) режиссёра Шалини Кантэйя исследует проблему алгоритмической дискриминации в системах искусственного интеллекта. В центре сюжета — история исследовательницы Массачусетского технологического института Джой Буоламвини, которая обнаружила, что алгоритмы распознавания лиц неверно идентифицируют темнокожих женщин. Фильм показывает, как предвзятость, заложенная в коде, влияет на реальные жизни людей: от ошибочных арестов до отказа в кредитах и жилье. Картина поднимает важные вопросы о прозрачности технологий, ответственности разработчиков и необходимости регулирования ИИ.
Фильм начинается с личной истории Джой Буоламвини, которая в 2015 году, будучи студенткой MIT, работала над проектом по распознаванию лиц. Она заметила, что система не распознаёт её лицо, пока она не надевает белую маску. Это подтолкнуло её к исследованию: она протестировала три коммерческих алгоритма (от Microsoft, IBM и Face++) на наборе из 1270 фотографий, включающих людей разного пола и расы. Результаты показали, что алгоритмы ошибались в 35% случаев для темнокожих женщин, тогда как для светлокожих мужчин ошибка была менее 1%. Джой опубликовала свои выводы, что вызвало волну критики и привело к временному улучшению алгоритмов со стороны компаний.
Далее фильм расширяет фокус, показывая, как алгоритмическая предвзятость проявляется в разных сферах. Например, система COMPAS, используемая в судах США для оценки риска рецидива, оказалась предвзятой против афроамериканцев. Журналистское расследование ProPublica в 2016 году показало, что COMPAS ошибочно оценивает чернокожих подсудимых как более склонных к повторным преступлениям, чем белых, при одинаковых данных. В фильме приводятся случаи, когда людей арестовывали по ошибке из-за ложного распознавания лиц полицией, как в случае с Робертом Уильямсом, которого ошибочно опознали по фотографии в базе данных.
Фильм также затрагивает тему гендерной предвзятости: алгоритмы Amazon по найму сотрудников дискриминировали женщин, а голосовые помощники (например, Siri и Alexa) часто отвечают на сексуальные домогательства уклончиво, что укрепляет стереотипы. Эксперты в фильме, включая профессора права и этики, объясняют, что предвзятость возникает из-за нерепрезентативных данных и отсутствия разнообразия среди разработчиков.
Кульминацией фильма становится движение за регулирование ИИ. Джой Буоламвини выступает перед Конгрессом США, требуя принятия законов, таких как Algorithmic Accountability Act. Она также запускает проект «Алгоритмическая справедливость» (Algorithmic Justice League), чтобы привлечь внимание к проблеме. Фильм заканчивается оптимистичной нотой: благодаря усилиям активистов и журналистов, компании начинают пересматривать свои алгоритмы, а города (например, Сан-Франциско) запрещают использование распознавания лиц полицией. Однако авторы подчёркивают, что борьба только начинается, и зрителям предлагается задуматься о своей роли в формировании будущего технологий.
КОММЕНТАРИИ