Система распознавания лиц не узнала трансгендеров
Новые исследования показали, что технология распознавания лиц не в состоянии узнавать трансгендеров. Это вызвало у них обеспокоенность по поводу дискриминации, ведь подобное программное обеспечение становится все более распространенным.
Ученые американского Университета Колорадо в Боулдере протестировали системы распознавания лиц от технологических гигантов IBM, Amazon, Microsoft и Clarifai на фотографиях трансгендерных мужчин. Выяснилось, что в 38% случаев они были неверно идентифицированы как женщины. При этом женщины и мужчины, определившиеся со своим полом с рождения, были правильно идентифицированы в 98,3 и 97,6% случаев соответственно.
Программное обеспечение также в 100% случаев не распознавало людей, которые не считают себя ни мужчинами, ни женщинами. «Результаты исследования показывают, что даже самые современные технологии рассматривают пол только в двух категориях. Хотя существует много разных типов людей, эти системы имеют крайне ограниченное представление о том, как выглядит тот или иной пол», — заявил ведущий автор доклада Морган Клаус Шойерман.
Система распознавания лиц остается весьма спорным изобретением, но она все чаще используется полицией и иммиграционными службами. По прогнозам исследовательской группы MarketsandMarkets, в ближайшие 15 лет рынок этих технологий удвоится.
Программное обеспечение, которое не определяет трансгендеров, может оказаться дискриминационным. Оно делает таких людей невидимыми для технологии, все чаще используемой в повседневной жизни. Неправильная идентификация создаст неудобства, например, в аэропорту, где трансгендеры часто подвергаются унизительным личным досмотрам или преследованиям, если их идентификационные данные не соответствуют полу. При этом Администрация транспортной безопасности (TSA) сейчас внедряет систему распознавания лиц в аэропортах на всей территории Соединенных Штатов, отмечает издание Reuters.
«Очень важно, чтобы нас услышали. Программное обеспечение для распознавания лиц крадет самоидентификацию трансгендеров. Опыт преднамеренного неправильного определения пола крайне вреден. Мы призываем разработчиков технологий привлекать транс-сообщества для консультаций, чтобы понять, как нас идентифицировать», — заявил представитель ЛГБТ-группы Stonewall.
Исследование также показало, что программное обеспечение, анализируя лица, опирается на устаревшие гендерные стереотипы. Так, мужчина с длинными волосами, определяется как женщина.
«Когда вы идете по улице, вы можете посмотреть на кого-то и предположить, что вы знаете, какой у него пол. Но это действительно странная идея из 1990-х годов. Мир уже стал другим. Наше видение природы и наше культурное понимание того, что такое пол, эволюционировали. При этом алгоритмы, определяющие наше технологическое будущее, этого не сделали. Это большая проблема», — сказал один из авторов исследования, доцент кафедры информатики Джед Брубейкер.
