Беспилотные автомобили с трудом могут распознать детей на дороге

Разработчики систем автономного вождения утверждают, что их программное обеспечение одинаково хорошо распознает взрослых светлокожих людей, детей и темнокожих пешеходов. Однако исследование ученых из Королевского колледжа в Лондоне показало, что это не совсем так.

Исследователи проверили восемь систем обнаружения пешеходов, построенных на базе нейросетей. В ходе тестирования использовалось более 8 тыс. изображений пешеходов. Оказалось, что системы обнаружения пешеходов на 20% лучше распознают взрослых людей, чем детей. Кроме того, программное обеспечение на 7,5% точнее определяет светлокожих людей, чем темнокожих пешеходов. По мнению исследователей, проблема распознавания темнокожих людей заключается в том, что системы автономного вождения преимущественно обучаются на изображениях людей со светлой кожей.

Хотя влияние несправедливых систем искусственного интеллекта хорошо задокументировано, начиная с того, что ИИ-алгоритмы при приеме на работу предпочитают кандидатов-мужчин и заканчивая тем, что алгоритмы распознавания лиц менее точно определяют темнокожих женщин, чем белых мужчин, опасность, которую могут представлять беспилотные автомобили, очень велика. Раньше представителям меньшинств могли отказать в жизненно важных услугах, а теперь они могут столкнуться с серьезными травмами, – считает доктор Цзе Чжан (Jie Zhang), один из авторов исследования.

Ученые также установили, что точность распознавания темнокожих людей сильно снижается в условиях недостаточной освещенности и низкой контрастности. Это может приводить к возникновению опасных ситуаций при использовании систем обнаружения пешеходов на основе ИИ в темное время суток. Автопроизводители не раскрывают подробностей о программном обеспечении, используемом для распознавания пешеходов. Однако исследователи утверждают, что эти алгоритмы, как правило, построены на основе тех же систем с открытым исходным кодом, которые были проверены в ходе исследования.

Источник: comnews.ru

Фото: w.forfun.com