Новый проект Калифорнийского университета разрабатывает систему искусственного интеллекта для автономного вождения

По сообщениям зарубежных СМИ,НовыйпроектКалифорнийскогоуниверситетаразрабатываетсистемуискусственногоинтеллектадляавтономноговождения группа под руководством профессора Амита Роя-Чоудхури из Калифорнийского университета в Риверсайде получила грант в размере почти 1 млн долларов США от Агентства перспективных исследовательских проектов Министерства обороны США (DARPA) на изучение состязательных систем компьютерного зрения. , атаковать. Этот проект является частью проекта Total Machine Vision Disruption в DARPA AI Explorations, и результаты исследования будут широко использоваться в области автономных транспортных средств, наблюдения и национальной обороны. В состав команды входят исследователи Шрикант Кришнамурти, Ченгю Сонг и Салман Асиф из Калифорнийского университета в Риверсайде и PARC, научно-исследовательской компании Xerox.

Дальновидная технология, автономное вождение , автоматическое вождение, компьютерное зрение

< p>(Источник изображения: Калифорнийский университет, Риверсайд)

Когда люди видят объект, они также замечают всю сцену, окружающую объект. Эта более широкая визуальная среда облегчает обнаружение и интерпретацию нарушений. Водитель-человек замечает наклейку, прикрепленную к знаку остановки, знает, что наклейка не меняет значения знака, и все равно останавливает машину. Однако беспилотные автомобили, использующие глубокие нейронные сети для распознавания объектов, могут не распознавать знаки остановки из-за наклеек и испытывать трудности при перемещении по перекресткам.

Независимо от того, насколько хорошо обученный компьютерный алгоритм определяет целевые изменения, интерференция изображений всегда увеличивает вероятность того, что компьютер примет неправильное решение или рекомендацию. Уязвимость глубоких нейронных сетей к обработке изображений делает их мишенью для хакеров, стремящихся вмешаться в решения и действия, основанные на визуальном ИИ.

Рой-Чоудхури сказал: «Если объект появится в неподходящем месте, сработает защитный механизм. Даже если часть изображения будет нарушена, например, наклейка на знаке остановки, мы можем сделай это. Это». Другой пример: когда люди видят лошадь или лодку, они также хотят видеть вокруг себя определенные объекты, например сарай или озеро. Если одно из этих изображений нарушено, например лошадь, стоящая в автосалоне, или лодка, плывущая в облаках, люди смогут распознать ошибку. Команда Роя-Чоудхури надеется реализовать эту возможность на компьютерах.

Для этого исследователям сначала необходимо определить возможные типы атак. Программа DARPA будет сосредоточена на использовании информации о визуальной среде для создания состязательных атак и лучшего понимания уязвимостей систем машинного зрения. Рой-Чоудхури сказал: «Мы будем вмешиваться в систему изображений, чтобы компьютер давал неправильные ответы, что может помочь разработать меры защиты от атак».

Источник: Gasgoo

Автор: Ло Шань