Google запретил в фотопоиске слово «горилла», чтобы не огорчать афроамериканцев

16.01.2018, ВТ, 11:29, Мск

Компания Google убрала из лексикона Google Photos слово «горилла», поскольку механизм распознавания изображений подписывал им фото афроамериканцев с очень темным цветом кожи. Этот факт был установлен два года назад, и с тех пор Google так и не смогла научить систему отличать приматов от представителей негроидной расы.

«Забытое» слово
Искусственный интеллект Google Photos больше не сможет распознавать на фотографиях горилл, а также шимпанзе и мартышек. При этом изображения всех остальных животных, включая бабуинов, гиббонов и орангутанов, система распознает по-прежнему. Дело в том, что компания Google исключила из словарного запаса Google Photos слова «горилла», «шимпанзе» и «мартышка». К такому выводу пришел журнал Wired, который протестировал более 40 тыс. изображений в этом сервисе.

Компания подтвердила догадку издания. Как пояснила Google, ей пришлось пойти на такой шаг потому, что механизм распознавания изображений путал горилл и представителей негроидной расы. В результате фотографии, на которых были запечатлены люди с очень темным цветом кожи, получали в системе автоматический тег «горилла». Компания акцентирует внимание на том, что механизм автоматического присваивания тегов находится на ранней стадии развития и не отличается совершенством.

По наблюдениям пользователей, возможности распознавать горилл лишилось также приложение для камеры Google Lens, однако Google Assistant и система распознавания объектов для бизнеса Google Cloud Vision по-прежнему идентифицируют всех приматов корректно.

Скандал в 2015 году
О том, что механизм распознавания изображений Google Photos путает горилл и афроамериканцев, стало известно в июле 2015 г. Афроамериканец Джеки Алсине (Jacky Alciné) отметил в соцсети Twitter, что фотография, где был изображен сам Джеки с чрезвычайно темнокожей подругой, получила автоматический тег «гориллы». «Google Photos, ты облажался по полной. Моя подруга не горилла», — написал Алсине.


Фото, на которых Джеки Алсине и его подруга распознаны как гориллы

Вскоре с Джеки вышел на связь Йонатан Зунгер (Yonatan Zunger), старший специалист Google по социальной инженерии. Он поблагодарил Алсине в Twitter за то, что тот помог обнаружить ошибку. По словам Зунгера, проблема заключалась в затемненности лиц на фотографии и некорректной обработке контрастов при данном тоне кожи и освещении. Зунгер отметил, что у системы также были трудности с тем, чтобы отличать собак от людей различной расовой принадлежности.

Сам сервис был запущен незадолго до этого, в мае 2015 г. После скандала и шквала обвинений в расизме Google пообещала найти решение. Два года компания пыталась научить искусственный интеллект отличать горилл от афроамериканцев, однако потерпела поражение, и в результате вынуждена была просто исключить слово «горилла» из лексикона Google Photos. В результате в настоящий момент тег «горилла» не присваивается даже тем изображением, на которых присутствуют соответствующие животные.

Источник