Поскольку искусственный интеллект (ИИ) создан человеком, не стоит удивляться, что и ему присуща предвзятость.
В 2020 году компания Microsoft уволила десятки сотрудников отдела новостей и заменила их искусственным интеллектом. К сожалению, компания не приняла во внимание проблемы с предвзятостью алгоритмов и то, что они зачастую неспособны различать людей с отличным от белого цветом кожи. Вскоре после дебюта программы в компании Microsoft алгоритм просмотра и отбора новостей опубликовал на платформе MSN статью о Джейд Тирвелл из группы Little Mix и ее размышления о расизме… сопроводив пост фотографией другой женщины. Вместо фотографии Тирвелл алгоритм разместил фотографию ее коллеги Ли-Энн Пиннок.
Неспособность ИИ распознавать лица людей, не относящихся к белой расе, вызывает большую озабоченность. Специализирующаяся в области компьютерных наук исследовательница Джой Буоламвини из Лаборатории медиа Массачусетского технологического института сделала поразительное открытие, что программное обеспечение ИИ для распознавания лиц не может с точностью распознавать лица как женщин, так и людей с темной кожей. В 2021 году об этом был снят документальный фильм Coded Bias.
Почему алгоритмам присущ расизм?
В своей книге "Искусственный (не)интеллект: как компьютеры неверно воспринимают мир" (Artificial Unintelligence: How Computers Misunderstand the World) профессор Мередит Бруссард, преподаватель курса по журналистике данных, объясняет, что термин "машинное обучение" вводит в заблуждение. Когда специалисты в области компьютерных наук говорят, что приложения ИИ "обучаются", они не имеют в виду обучение в том смысле, в каком его понимает человек. ИИ использует специальные большие наборы данных, на базе которых программа усваивает различные статистические закономерности. По сути, ИИ учится лучше и быстрее решать проблемы благодаря тому, что на основе тех данных, которые использовались для обучения программы, она может предсказать, что произойдет. Однако ИИ в результате упускает множество нюансов человеческого интеллекта и общения — например, не сможет понять сарказм или метафоры.
Кроме того, ИИ создается людьми, а людям свойственна предвзятость. Поэтому, если данные отражают человеческую предвзятость, ИИ выдаст предвзятый результат. Например, когда Amazon использовал ИИ для просмотра резюме кандидатов на работу, быстро обнаружилось, что алгоритм отклоняет резюме, поданные женщинами.
Алгоритм обучался на резюме успешных сотрудников, а Кремниевая долина не славится гендерным разнообразием. Это привело к тому, что ИИ начал отклонять резюме, включающие слова в женском роде, а также те, в которых использовалось слово "женщины" и содержащие названия некоторых женских колледжей. В результате компании Amazon пришлось отказаться от использования приложения вскоре после того, как оно начало работать. Хотя позже инструмент и усовершенствовали с целью сделать его более гендерно нейтральным, невозможно быть уверенным, что он снова не станет проявлять дискриминационные подходы, поэтому его больше не используют.
Как использовать ИИ, принимая во внимание его предвзятость?
Хотя важно учитывать предвзятость алгоритма, не стоит полностью отказываться от использования ИИ. Для ответственного использования ИИ важно понимать, что его алгоритмы отражают предвзятое человеческое восприятие и что во многих случаях нам по-прежнему необходимо вмешательство человека. В случае с алгоритмом, опубликовавшим фотографию не той чернокожей женщины, ошибки можно было бы избежать, если бы редактор-человек просто проверил пост.
Сотрудникам отделов новостей, которые хотят использовать приложения ИИ в некоторых аспектах новостного цикла, следует понимать, что в алгоритме заложена предвзятость. И маловероятно, что ИИ сможет когда-либо в будущем заменить журналистов — так ответили на опрос руководители местных новостных организаций, которые участвовали в исследовании Associated Press, посвященном использованию ИИ в местных редакциях.
Вот несколько способов, которые помогут учесть предвзятость алгоритма при использовании ИИ в редакциях СМИ:
- Удостоверьтесь, что имена написаны правильно.
- Доверьте проверку фактов человеку.
- Перед публикацией убедитесь, что на фотографиях изображены те люди, о которых идет речь.
- Регулярно проверяйте приложения ИИ на предмет предвзятости
ИИ лучше работает не сам по себе, а как помощник. Хотя потенциал использования алгоритмов в редакциях находится в стадии разработки, мы можем начать с того, чтобы разобраться, как эти алгоритмы работают и как при поддержке технологий повысить качество журналистики.
Фото Resource Database™ с сайта Unsplash.