По мнению исследователей, проблема с распознаванием темнокожих людей заключается в том, что автономная система вождения в основном обучается на изображениях светлокожих людей.
Источник картинки: canva.com
Разработчики системы автономного вождения утверждают, что их программное обеспечение может одинаково хорошо идентифицировать всех людей. Однако команда исследователей из Королевского колледжа в Лондоне доказала, что такие машины хуже распознают детей и темнокожих людей, следует из публикации arXiv.org.
Исследователи протестировали восемь систем обнаружения пешеходов, построенных на нейронных сетях. В ходе теста было использовано более 8000 изображений пешеходов. Оказывается, система обнаружения пешеходов на 20% лучше распознает взрослых, чем детей. Кроме того, программное обеспечение распознает светлокожих людей на 7,5% точнее, чем темнокожих пешеходов. По мнению учёных, проблема с идентификацией темнокожих людей заключается в том, что автономная система вождения в основном обучается на изображениях светлокожих людей.
Один из авторов исследования считает, что влияние несправедливых систем искусственного интеллекта хорошо задокументировано. Как минимум, потому что алгоритмы искусственного интеллекта предпочитают кандидатов-мужчин при приеме на работу, или же потому, что алгоритмы распознавания лиц менее точны при идентификации чернокожих женщин, чем белых. Из-за этого представителям этнических меньшинств может быть отказано в важных услугах, а теперь ещё добавилась угроза от беспилотных автомобилей.
Ученые также обнаружили, что в условиях недостаточного освещения и низкой контрастности точность распознавания темнокожих людей значительно снижается. Это может привести к опасным ситуациям при использовании систем обнаружения пешеходов на основе искусственного интеллекта в ночное время. Автопроизводитель не раскрыл подробной информации о программном обеспечении, используемом для идентификации пешеходов. Однако исследователи утверждают, что эти алгоритмы обычно основаны на одной и той же системе с открытым исходным кодом, протестированной в ходе исследования.