Идентификация личности по биометрии

Исследователи из Университета Майами пытаются улучшить то, как программное обеспечение распознавания лиц «видит» расу и этническую принадлежность. В прошлом месяце город Сан-Франциско запретил использование программного обеспечения для распознавания лиц полицией и другими учреждениями.

На этой неделе федеральные законодатели ставят под сомнение ФБР и его использование спорной программы. А в Нью-Йорке ожидается, что некоторые районы государственных школ начнут экспериментировать с использованием распознавания лиц для выявления потенциальных угроз.

По всей стране существует множество серьезных вопросов о том, как и когда следует использовать технологию, а также о том, перевешивают ли положительные стороны - выявление подозреваемого или предотвращение террористической атаки - ущемление прав на неприкосновенность частной жизни.

«Мы осознали, что эти технологии будут использоваться так или иначе, поэтому почему бы не попытаться улучшить их и придерживаться более высоких стандартов, если они все равно будут внедрены», - сказал Николас Петерсен, доцент кафедры социологии в Университете Майами, колледж искусств и наук.

Петерсен вместе с коллегой Марисой Омори, доцентом социологии в Колледже искусств и наук, объединили информатику с социологией и правом в исследовательском проекте U-Link, который поможет определить, как физические характеристики и программное обеспечение распознавания лиц влияют на результаты уголовного правосудия.

Разработка и исследование

Команда разрабатывает модель машинного обучения, которая может проверить, приводит ли тон кожи и другие черты лица подозреваемых к уголовной ответственности к неравным результатам наказания в системе уголовного правосудия округа Майами-Дейд. Как отмечают исследователи, алгоритмы распознавания лиц обычно основаны на данных с белых лиц, что увеличивает вероятность того, что более темные лица будут помечены как «подозрительные».

«Недавние исследования показали, что более темные и более женские лица хуже работают с программным обеспечением для распознавания лиц», - говорит Рахул Дасс, аспирант кафедры информатики, которая работает над проектом. «Кроме того, если наборы эталонных данных, которые используют программное обеспечение для распознавания лиц для обучения, содержат непредставленные демографические данные, то эти расовые группы будут неизменно подвергаться частому нацеливанию».

Исследователи в настоящее время обучают студентов-оценщиков классифицировать черты лица по образцу ареста обвиняемых, который использовался в исследовании Американского союза гражданских свобод во Флориде, проведенном в прошлом году как Петерсеном, так и Омори. Исследование показало, что чернокожие, особенно чернокожие латиноамериканцы, пере представлены по отношению к их доле населения на каждом этапе - от ареста и предварительного заключения до вынесения приговора и заключения под стражу - в системе уголовного правосудия.

Комментарии

Ахзин Бахрейни, аспирант на кафедре социологии, создал опрос, который поможет обучить ИИ. Затем данные обрабатываются с помощью технологии машинного обучения, чтобы помочь компьютеру мыслить по-другому. «То, что мы делаем, - это роман», - сказал Бахрейн. «С точки зрения машинного обучения, ничто не учитывало особенности лица. Многое из этого было сфокусировано на цвете кожи в прошлом».

Петерсен указывает на то, что машинное обучение так же хорошо, как и данные, вводимые в него. «Многие считают само собой разумеющимся, что эти алгоритмы выдадут правильный ответ. Мы хотим убедиться, что в нашей модели машинного обучения будет достаточно информации о каждой этнической группе, чтобы мы не столкнулись с ошибкой», - сказал он. «С одной стороны, мы знаем, что это программное обеспечение может быть очень полезным.

Реальность такова, что есть люди, которые делают действительно ужасные вещи. Если машины могут помочь привести к аресту или помочь предотвратить угрожающую ситуацию, это может быть важно», - сказал он. «С другой стороны, это вызывает озабоченность по поводу конфиденциальности, а также прав и свобод личности».