Насколько безопасна безопасность автономных автомобилей

«Какого уровня безопасности будет достаточно?» Этот занудный вопрос возникает в любом обсуждении беспилотных транспортных средств. Многие автопроизводители отложили свои планы по освоению рынка беспилотного транспорта в долгий ящик, а вместе с ними и усилия по решению вопросов безопасности. Впрочем, в наши дни системы ADAS и их технологии становятся более популярными на рынке беспилотного транспорта, а значит автопроизводителям вновь придется задуматься о допустимом уровне безопасности транспортных средств. Американская автомобильная ассоциация (ААА) заявила, что индустрия настолько далека от безопасности использования ADAS, что OEM-производители тоже должны отложить все в сторону и направить все усилия в сторону этих систем.

Выпущенный ранее отчет AAA (American Automobile Association) не совсем одобряет активные функции ADAS (такие как удержание полосы движения и автоматическое аварийное торможение), хотя многие автопроизводители напирают на то, что эти функции могут «спасать жизни людей».

После тестирования ряда автомобилей с ADAS как в условиях реального мира, так и на закрытой площадке, ААА выпустила тревожный отчет, в котором говорится о больших отличиях в производительности разных транспортных средств с ADAS. Также в этом документе ААА пишет, что нынешним системам ADAS не хватает «согласованности действий», а их работа «далека от стопроцентной надежности». В отчете также упоминается «опасный сценарий», описывающий ситуацию, в которой «системы ADAS могут отключаться практически незаметно, мгновенно возвращая управление водителю».

Также в отчете говорится, что «ААА советует производителям расширить спектр проводимых испытаний систем ADAS и отложить выпуск функций этих систем, пока они не будут доработаны. Результатом требуемых доработок должно стать повышение стабильности работы систем и безопасности вождения»

ААА выделяет две основные проблемы: плохую работу систем контроля полосы движения и нехватку предупреждений для водителей.

По данным исследований, проведенных AAA, «почти 73% ошибок на дорогах общего пользования связаны со случаями выезда с полосы движения или неправильным расположением внутри полосы», из-за чего транспортные средства с системами ADAS слишком близко приближаются к другим транспортным средствам или защитным ограждениям.

Распределение типов ошибок всех протестированных транспортных средств (Источник: ААА)

ААА отметила, что дорожные происшествия могут иметь различную специфику, но перечень их категорий выглядит следующим образом:

• Резкое отключение (иногда во время критических ситуаций)
• Ошибки при включении
• Ошибочное отключение по причине предполагаемого бездействия водителя
• «Пинг-понг» между линиями разметки внутри полосы.
• Чрезмерное приближение к другим транспортным средствам или ограждениям в потоке движения
• Выезд из полосы в различных ситуациях: при повороте, при смене типа дорожного покрытия, при подъезде к спуску/подъему эстакады

ААА также сочла опасными отключения систем ADAS. Автомобили с возможностью передавать управление человеку зачастую пользуются этой функцией в те моменты, когда водители отвлекаются от дороги (или слишком сильно привыкают к использованию ADAS).

Грег Беннон, директор отдела автомобильных технологий и связей с промышленностью в своем заявлении отметил, что «ААА неоднократно обнаруживала, что системы ADAS действуют непоследовательно, особенно в сценариях из реальной жизни». Также он отметил, что «производителям следует работать над надежностью своих разработок, в том числе совершенствовать системы контроля полосы движения, а также поработать над системами экстренного оповещения».

Словом, черта уже проведена. EE Times связалась с Филом Мэгни, основателем VSI Labs, и он дал следующий комментарий:

«Существует два вида беспилотного транспорта – требующий человеческого контроля и не требующий. Считается, что все транспортные средства с уровнем автономности ниже третьего считаются требующими человеческого контроля, а значит водитель несет полную ответственность за эксплуатацию этого транспортного средства. Иначе говоря, водитель такого транспортного средства обязан внимательно следить за происходящим и вмешиваться, когда это необходимо»

Если система ADAS в вашем автомобиле допустит ошибку и, например, врежется в припаркованный у обочины автомобиль, то вина будет на вас. Водитель, внимательно следящий за ситуацией на дороге мог бы компенсировать неоптимальные решения системы ADAS.

Честно это или нет, но если система ADAS (не такая уж и продвинутая, как может оказаться) примет припаркованный автомобиль за мусорный бак и врежется в него, то ее разработчик не понесет никакой ответственности.

Что насчет бенчмарков

Не исключено, что все эти системы ADAS с их разными показателями производительности в будущем будут доработаны OEM-производителями. Несмотря на то, что ведется большая работа по стандартизации (и это хорошо), функции систем ADAS, не соответствующие определенным требованиям к качеству могут вводить покупателей в заблуждение. Дело в том, что люди могут не понимать чего им ожидать от функций ADAS (вне зависимости от названия этих функций)

Существует ли эталонный бенчмарк, который смогут использовать все компании для того, чтобы их разработки соответствовали высоким требованиям к системам ADAS?

Мэгни утверждает, что пока таких систем оценки не существует. «Ни у одного из проверяющих органов нет бенчмарка для оценивания систем автоматической езды. Впрочем, у этих органов есть достаточно хорошие протоколы для тестирования функционала систем ADAS, но функциональность беспилотного транспорта в этих протоколах не учитывается.»

Также Мэгни сказал, что он удивлен тем фактом, что больше в этой сфере ничего не было сделано и добавил: «Полагаю, дело в том, что в вопросах безопасности нет консенсуса».

Мнения некоторых экспертов отличаются. Так, например, Колин Барнден, главный аналитик компании Semicast Research, сказал EE Times, что эталонное тестирование должно «играть роль программы оценки новых автомобилей, более известной как NCAP».

NCAP – это «основная правительственная программа информирования потребителей для оценки показателей безопасности транспортных средств», как утверждает Национальный департамент транспорта США по безопасности дорожного движения.

Известно, что NHTSA (американское национальное управление безопасностью движения на трассах) избегало введения каких-либо нормативных актов или проведения противоречивых дискуссий, из-за которых могло бы показаться, что оно слишком строго к автомобильной промышленности. Центр Автомобильной Безопасности (группа по защите прав потребителей, базирующаяся в Вашингтоне, округ Колумбия), обвиняет NHTSA в том, что управление потратило десять лет впустую и не смогло модернизировать NCAP. Группа утверждает, что NHTSA отодвинула на второй план свой лучший инструмент защиты потребителей.

В конце июня Джейсон Левайн, исполнительный директор Центра автомобильной безопасности написал в своем блоге на Medium следующее:

«98% всех новых автомобилей получают от управления 4 или 5 звезд – прямо как тренер, который дает маленьким футболистам дольки апельсина вне зависимости от того, с каким счетом они играют. Вместо того, чтобы ужаснуться из-за того, что в NCAP отсутствуют полезные сравнительные данные о ДТП, управление решило, что для того чтобы защитить людей хватит одних только пресс-релизов».

Барнден также отметил, что «настоящая суть проблемы заключается в том, что протоколы тестирования недостаточно строги». Автопроизводители могут доводить свои разработки до минимального соответствия требуемым показателям, и их конечные продукты все равно будут получать максимальные оценки.

По мнению Барндена, «дело не в том, что потребители не должны доверять ADAS, а в том, что они не должны верить в то, что управление серьезно относится к безопасности дорожного движения».

Барнден объяснил, что в то время как NTSB (национальный совет по транспортной безопасности) в течение трех последних лет работает над рекомендациями, связанными с транспортной автоматизацией, NHTSA по-прежнему не делает ничего значимого для решения этих проблем.

Также Барнден считает, что по сравнению с США «Европа является мировым лидером в разработке протоколов тестирования систем ADAS и на много лет опережает США.» Он считает, что Euro NCAP и Thatcham Research являются «органами, находящимися в авангарде этой отрасли».

И NCAP мог бы делать то же самое.

«Если NCAP [американский] действительно не дает четких спецификаций, то управление могло бы просто перенять протоколы Euro NCAP. В качестве примера можно взять AEB Vulnerable Road User (VRU) Test Protocol v3.0.3 (тестовый протокол срабатывания системы экстренного торможения при обнаружении уязвимых участников дорожного движения – пешеходов, велосипедистов и т.д.), действующий с июня 2020 года и являющийся самым строгим протоколом тестирования систем экстренного торможения на сегодняшний день. Он мог бы стать прекрасным началом большой работы», – сказал Барнден.

Технологические проблемы

Итак, какие автомобили использовались в тестах, проведенных ААА? Исходя из набора определенных критериев, в пул тестируемых автомобилей вошли BMW X7 2019 года с системой «Active Driving Assistant Professional», Cadillac CT6 2019 года с «Super Cruise», Ford Edge 2019 года с «Ford Co-Pilot36», Kia Telluride 2020 года с «Highway Driving Assist» и Subaru Outback 2020 года с «EyeSight».

Взглянув на результаты тестов, Мэгни дал следующий комментарий: «По моему мнению, автономные системы 2 уровня в этом исследовании проявили себя слабо. Меня удивили ошибки систем контроля полосы».

Также он рассказал о работе VSI Labs: «Мы занимаемся тестированием систем удержания полосы в течение многих лет, и производительность этих систем, показанная в тестах ААА, напоминает мне о нашем первом приложении, в котором мы использовали OpenCV. Современные системы слежения за полосой работают на основе ИИ, и их результаты заметно выросли по сравнению с более ранними разработками. Система слежения за полосой в автомобилях Tesla – это хороший пример, потому что они обучали (и переобучали) нейросети, следящие за дорогой, на миллионах миль пользовательских данных».

Итак, как объяснить один из выводов AAA – что автомобили с ADAS в двух из трех случаев сталкивались с автоманекеном при приближении к нему?

Мэгни считает, что в этом нет ничего удивительного и утверждает, что «с этим конкретным случаем системам контроля полосы справиться действительно сложно». Он пояснил, что для этих систем полоса либо занята, либо свободна. «В этом конкретном случае с частичным перекрытием полосы запутаться могут даже передовые системы вроде тех, что используются в Tesla».

Мэгни объяснил что именно вводит эти системы в заблуждение: «Датчики не обладают достаточной уверенностью в положении или габаритах объекта (иначе говоря, его границах), чтобы принять решение о позитивном действии (то есть, торможении). Если бы эти системы тормозили слишком часто, аварий бы происходило не меньше».

Может быть, дело в том, что макет автомобиля был припаркован на обочине дороги и не двигался?

«Статичность объекта – еще одна причина такого поведения. Системы экстренного торможения часто отфильтровывают радары по той же причине», – отметил Мэгни. Далее, «Системы, основанные на ИИ, в настоящий момент недостаточно обучены на данных о подобных пограничных случаях».

Мэгни также добавил следующее: «Надеюсь, что описанный тестовый случай больше не считается пограничным. Обнадеживает, что согласно стандарту целевой функциональности SOTIF такая ситуация относится к категории небезопасных условий».

Что насчет человеческого фактора

Благодаря внедрению систем ADAS, в случае аварии OEM-производители могут обвинять водителей в том, что они не были полностью сосредоточены на управлении автомобилем.

Но разве автопроизводители не должны учитывать человеческий фактор? Рядовому водителю не всегда очевидна логика действий системы ADAS. Более того, не всегда ясно в какой момент система ADAS собирается вернуть управление человеку.

Барнден заметил в отчете ААА одну большую проблему.

«В отчете ААА даже не упоминаются мониторинг водителя и человеческий фактор», — отметил он. «Именно об этом ведутся дискуссии в области безопасности, а не об ADAS».

В самом деле, проблемы передачи управления от систем ADAS к водителю не должны даже обсуждаться без учета систем мониторинга водителя, основанных на компьютерном зрении.

Барнден сформулировал практическую дилемму, выделяющую проблему существующих систем помощи водителю.

• Системы ADAS излишне активны, когда водитель сконцентрирован и полностью вовлечен в процесс вождения.
• Системы ADAS слишком пассивны в двухсекундных экстренных ситуациях, особенно если водитель отвлечен, утомлен или не в состоянии справиться с задачей.

«Решение заключается в подстраивании реакции систем помощи водителю в режиме реального времени с помощью постоянного мониторинга уровня вовлеченности водителя и степени его концентрации», — отметил Барнден. «К концу этого десятилетия почти в каждом новом легком транспортном средстве будет использоваться система мониторинга водителя. Именно она станет основной системой безопасности, помогающей водителю сохранять вовлеченность в управление транспортным средством и предупреждающей о его отвлечении, усталости или ухудшении его состояния».

По мнению Барндена, «такой подход сделает ADAS вторичной системой безопасности, исправляющей незначительные ошибки управления и вмешивающейся только тогда, когда это действительно необходимо».

Отвлекающие феакторы и помехи, выявленные в исследовании ААА, почти полностью исчезнут, когда увеличится сложность систем мониторинга состояния водителя и распространится использование их использование, заключил он.

А тем временем, у покупателя автомобиля, оборудованного системой ADAS, есть все основания остерегаться не только в шоуруме, но и за рулем.

Подписывайтесь на каналы:
@TeslaHackers — сообщество российских Tesla-хакеров, прокат и обучение дрифту на Tesla
@AutomotiveRu — новости автоиндустрии, железо и психология вождения

О компании ИТЭЛМА

Мы большая компания-разработчик automotive компонентов. В компании трудится около 2500 сотрудников, в том числе 650 инженеров.

Мы, пожалуй, самый сильный в России центр компетенций по разработке автомобильной электроники. Сейчас активно растем и открыли много вакансий (порядка 30, в том числе в регионах), таких как инженер-программист, инженер-конструктор, ведущий инженер-разработчик (DSP-программист) и др.

У нас много интересных задач от автопроизводителей и концернов, двигающих индустрию. Если хотите расти, как специалист, и учиться у лучших, будем рады видеть вас в нашей команде. Также мы готовы делиться экспертизой, самым важным что происходит в automotive. Задавайте нам любые вопросы, ответим, пообсуждаем.

Читать еще полезные статьи:

• Бесплатные онлайн-курсы по Automotive, Aerospace, робототехнике и инженерии (50+)
• [Прогноз] Транспорт будущего (краткосрочный, среднесрочный, долгосрочный горизонты)
• Лучшие материалы по взлому автомобилей с DEF CON 2018-2019 года
• [Прогноз] Motornet — сеть обмена данными для роботизированного транспорта
• Компании потратили 16 миллиардов долларов на беспилотные автомобили, чтобы захватить рынок в 8 триллионов
• Камеры или лазеры
• Автономные автомобили на open source
• McKinsey: переосмысляем софт и архитектуру электроники в automotive
• Очередная война операционок уже идет под капотом автомобилей
• Программный код в автомобиле
• В современном автомобиле строк кода больше чем…

• Automotive
• итэлма
• компоненты для автопроизводителей
• электроника для автотранспорта
• ADAS
• connectivity

https://habr.com/ru/companies/itelma/articles/515764/