Еще в июле Google выпустил видео, подтверждающее, что новая серия Pixel 4 будет оснащена более безопасной функцией разблокировки с помощью лица. Чтобы проверить и улучшить эту более продвинутую систему разблокировки, сотрудники Google посетили крупные города с сильно замаскированным смартфоном Pixel 4. В обмен на подарочную карту Amazon или Starbucks за $5 сотрудники компании собирали селфи и видео случайных людей. Но эта, казалось бы, безобидная программа на самом деле имела расовый оттенок, сообщает New York Daily News.
По-видимому, у современной технологии распознавания лиц возникли проблемы при идентификации пользователей с темной кожей. Чтобы убедиться, что не будет проблем с системой разблокировки с помощью лица, которая дебютирует на линейке Pixel 4, Google тестирует систему на бездомных в Атланте, Лос-Анджелесе и университетских городках США. Данная информация взята из источников Daily News, которые работали над проектом.
Как уже упоминалось, тем, кто собирал данные, было поручено сосредоточиться на бездомных, студентах колледжа и людях с темной кожей.
Сотрудники, нанятые Google, сообщили, что компания использовала вводящие в заблуждение методы для получения изображений людей. Один из них сообшил, что им сказали не говорить (людям), что это видео, даже если на экране будет написано, что видео снято. На тот случай, если человек посмотрел на экран после выполнения задания и спросил: «О, ты снимал видео?», им дали указание говорить: «Нет, не совсем».
«Мы регулярно проводим исследования на добровольных началах. Для недавних исследований, включающих сбор образцов лица для машинного обучения, есть две цели. Во-первых, мы хотим встроить справедливость в функцию разблокировки лица Pixel 4. Очень важно, чтобы у нас была разнообразная выборка, которая является важной частью создания инклюзивного продукта», — сообщает Google.
Сотрудников учили быстро выполнить задание и уходить, если у кого-то возникли какие-либо подозрения. Им также сказали, что они должны больше выбирать бездомных, потому что они реже обращаются к журналистам. А студенты причем? Им всегда нужны деньги и они не откажутся участвовать в программе за подарочную карту на $5. Другой сотрудник сказал: «Я думаю, они (Google) хотели, чтобы мы охотились на слабых».
В форме соглашения, которую подписывали эти люди, отмечалось, что Google может сохранять изображение их лица и любую другую информацию «столько времени, сколько необходимо для достижения целей, что, как ожидается, составит около пяти лет».