Исследователи АГУ соединяют безопасность и искусственный интеллект

Аннелиза Крафт | 1 августа 2023 г. | Особенности, Фултонские школы

Стремительные достижения в области искусственного интеллекта (ИИ) доказывают, что эта технология является незаменимым активом. В области национальной безопасности эксперты намечают курс по влиянию ИИ на нашу стратегию коллективной обороны.

Пауло Шакарян находится в авангарде этой важной работы, используя свой опыт в области символического ИИ и нейросимволических систем, которые представляют собой передовые формы технологий ИИ, для удовлетворения сложных потребностей организаций национальной безопасности.

Шакарян, доцент кафедры информатики Школы вычислительной техники и дополненного интеллекта Инженерной школы имени Айры А. Фултон при Университете штата Аризона, был приглашен принять участие в серии семинаров AI Forward, проводимых Министерством обороны США. Агентство исследовательских проектов или DARPA.

Мероприятие включает в себя два семинара: виртуальную встречу, которая состоялась ранее этим летом, и личное мероприятие в Бостоне с 31 июля по 2 августа.

Шакарян входит в число 100 участников, работающих над продвижением инициативы DARPA по изучению новых направлений исследований ИИ, влияющих на широкий спектр задач, связанных с обороной, включая автономные системы, разведывательные платформы, военное планирование, анализ больших данных и компьютерное зрение.

На семинаре в Бостоне к Шакаряну присоединится Накул Гопалан, доцент кафедры информатики, который также был выбран для участия в мероприятии, чтобы изучить, как его исследования в области коммуникации человека и робота могут помочь в достижении целей DARPA.

Помимо участия в AI Forward, Шакарян готовится выпустить новую книгу в сентябре 2023 года. Книга под названием «Нейро-символическое мышление и обучение» расскажет о последних пяти годах исследований в области нейросимволического ИИ и поможет читателям. понять последние достижения в этой области.

Готовясь к семинарам, Шакариан и Гопалан воспользовались моментом, чтобы поделиться своим исследовательским опытом и мыслями о нынешней ситуации в области ИИ.

Расскажите о своих областях исследований. На каких темах вы сосредоточены?

Пауло Шакарян: Мое основное внимание уделяется символическому искусственному интеллекту и нейросимволическим системам. Чтобы понять их, важно поговорить о том, как выглядит ИИ сегодня, прежде всего как нейронные сети глубокого обучения, которые за последнее десятилетие стали замечательной революцией в технологиях. Если посмотреть на проблемы, непосредственно относящиеся к Министерству обороны США (DoD), эти технологии искусственного интеллекта показали себя не очень хорошо. Существует несколько проблем, в том числе модели черного ящика и их объяснимость, системы, которые по своей сути не являются модульными, поскольку они обучаются сквозным образом, а также введение ограничений, помогающих избежать столкновений и помех, когда несколько самолетов находятся в одном и том же воздушном пространстве. В нейронных сетях нет встроенного способа обеспечения соблюдения ограничений. Символический ИИ существует дольше, чем нейронные сети, но он не управляется данными, в то время как нейронные сети способны изучать символы и повторять их. Традиционно возможности символического ИИ не были продемонстрированы даже близко к способности к обучению нейронной сети, но все проблемы, которые я упомянул, являются недостатками глубокого обучения, которые может решить символический ИИ. Когда вы начинаете разбираться в сценариях использования, к которым предъявляются серьезные требования безопасности, например, в оборонной, аэрокосмической и автономном вождении, возникает желание использовать большой объем данных, принимая во внимание ограничения безопасности, модульность и объяснимость. При изучении нейросимволического ИИ используется множество данных с учетом других параметров.

Накуул Гопалан: Я занимаюсь изучением языка, планированием и обучением людей-пользователей роботизированным приложениям. Я пытаюсь использовать демонстрации, которые предоставляют люди, для обучения систем ИИ символическим идеям, таким как цвета, формы, объекты и глаголы, а затем сопоставлять язык с этими символическими концепциями. В связи с этим я также разрабатываю нейросимволические подходы к обучению системам искусственного интеллекта. Кроме того, я работаю в области обучения роботов, что предполагает внедрение политик обучения, которые помогают роботам научиться решать конкретные задачи. Задачи могут варьироваться от установки и крепления болтов в крыльях самолета до понимания того, как смоделировать такой объект, как микроволновая печь, чтобы робот мог разогревать еду. Разработка инструментов в этих крупных проблемных областях машинного обучения и искусственного интеллекта может позволить роботам решать проблемы с пользователями-людьми.