Ученые смогли обмануть беспилотный автомобиль, «подправив» дорожные знаки

Путем небольшой модификации дорожных знаков можно обмануть беспилотный автомобиль и заставить его систему машинного обучения неправильно классифицировать знаки и принимать неверные решения, что поставит под угрозу безопасность пассажиров. К такому выводу пришла группа американских ученых по итогам проведенного исследования .

Идея исследования заключалась в том, что атакующий может подменить изображения на дорожных знаках с помощью специально отпечатанных плакатов либо добавить небольшие стикеры на легитимные дорожные знаки. Используя первый сценарий, злоумышленник сможет обмануть не только системы беспилотного авто, но и людей, в том время как второй метод атаки будет эффективен только в случае беспилотного автомобиля.

В ходе эксперимента ученые использовали несколько дорожных знаков с различными типами надписей, стикеров и граффити. По словам исследователей, в 100% случаев, автомобили распознавали знак «Стоп» с надписями LoveHate как знак «Ограничение скорости 45», второй и третий знаки также распознавались как «Ограничение скорости 45», но только в 67% случаев. Что касается четвертого знака, его система машинного обучения классифицировала как знак «Стоп» вместо «Правый поворот» в 100% случаев.

Ранее южнокорейские ученые разработали ряд методов атак, позволивших им обмануть датчики LIDAR (Light Detection and Ranging), используемые в беспилотных автомобилях.

Источник