ASU 연구진은 보안과 AI를 연결합니다.

작성자: Anneise Krafft | 2023년 8월 1일 | 특징, 풀턴 학교

인공지능(AI) 분야의 급속한 발전은 이 기술이 없어서는 안 될 자산임을 입증하고 있습니다. 국가 안보 분야에서 전문가들은 AI가 우리의 집단 국방 전략에 미치는 영향에 대한 경로를 계획하고 있습니다.

Paulo Shakarian은 국가 보안 기관의 정교한 요구 사항을 충족하기 위해 AI 기술의 고급 형태인 기호 AI 및 신경 기호 시스템에 대한 전문 지식을 사용하여 이 중요한 작업의 최전선에 있습니다.

애리조나 주립대학교 Ira A. Fulton 공과대학의 일부인 컴퓨팅 및 증강 지능 학교의 컴퓨터 과학 부교수인 Shakarian은 US Defense Advanced가 주최하는 일련의 워크숍인 AI Forward에 초대되었습니다. 연구 프로젝트 기관(DARPA).

이 행사에는 올여름 초에 열린 가상 회의와 7월 31일부터 8월 2일까지 보스턴에서 열리는 오프라인 행사라는 두 가지 워크숍이 포함됩니다.

Shakarian은 자율 시스템, 정보 플랫폼, 군사 계획, 빅 데이터 분석 및 컴퓨터 비전을 포함하여 광범위한 국방 관련 작업에 영향을 미치는 AI 연구의 새로운 방향을 탐색하기 위한 DARPA의 이니셔티브를 발전시키기 위해 노력하는 100명의 참석자 중 하나입니다.

보스턴 워크숍에서 Shakarian은 컴퓨터 과학 조교수인 Nakul Gopalan과 합류할 예정이며, 그는 인간-로봇 통신에 대한 그의 연구가 DARPA의 목표 달성에 어떻게 도움이 될 수 있는지 탐구하기 위해 행사에 참석하도록 선정되었습니다.

샤카리안은 AI Forward 참여 외에도 2023년 9월 새 책 출간을 준비하고 있습니다. "신경 기호 추론 및 학습"이라는 제목의 이 책은 신경 기호 AI에 대한 지난 5년간의 연구를 탐구하고 독자들에게 도움이 될 것입니다. 해당 분야의 최근 발전을 이해합니다.

Shakarian과 Gopalan은 워크숍을 준비하면서 AI의 현재 환경에 대한 연구 전문 지식과 생각을 공유하는 시간을 가졌습니다.

연구 분야를 설명해주세요. 어떤 주제에 중점을 두나요?

파울로 샤카리안: 나의 주요 초점은 상징적 AI와 신경 상징 시스템입니다. 이를 이해하려면 오늘날 AI가 어떤 모습인지, 주로 지난 10년 동안 놀라운 기술 혁명을 일으킨 딥 러닝 신경망으로서 이야기하는 것이 중요합니다. 특히 미국 국방부(DoD)와 관련된 문제를 살펴보면 이러한 AI 기술은 제대로 작동하지 않았습니다. 블랙박스 모델과 그 설명 가능성, 시스템이 처음부터 끝까지 훈련되었기 때문에 본질적으로 모듈식이 아닌 것, 여러 항공기가 동일한 영공을 공유할 때 충돌과 간섭을 방지하는 데 도움이 되는 제약 조건 적용 등 몇 가지 과제가 있습니다. 신경망을 사용하면 시스템에 제약 조건을 적용할 수 있는 고유한 방법이 없습니다. 기호형 AI는 신경망보다 오래 전부터 사용되어 왔지만 데이터 기반이 아닌 반면 신경망은 기호를 학습하고 이를 반복할 수 있습니다. 전통적으로 상징적 AI의 능력은 신경망의 학습 능력 근처에서는 입증된 적이 없지만, 제가 언급한 모든 문제는 상징적 AI가 해결할 수 있는 딥러닝의 단점입니다. 국방, 항공우주, 자율 주행과 같이 중요한 안전 요구 사항이 있는 이러한 사용 사례를 시작하면 안전 제약, 모듈성 및 설명 가능성을 고려하면서 많은 데이터를 활용하려는 욕구가 있습니다. 신경기호적 AI에 대한 연구는 이러한 다른 매개변수를 염두에 두고 많은 데이터를 사용합니다.

나쿨 고팔란: 저는 로봇 응용 분야에 대한 인간 사용자의 언어 기초, 계획 및 학습 분야에 중점을 두고 있습니다. 나는 인간이 제공하는 데모를 사용하여 AI 시스템에 색상, 모양, 개체 및 동사와 같은 상징적 아이디어를 가르치고 언어를 이러한 상징적 개념에 매핑하려고 시도합니다. 그런 점에서 저는 AI 시스템 교육에 대한 신경 상징적 접근 방식도 개발합니다. 또한 저는 로봇이 특정 작업을 해결하는 방법을 발견할 수 있도록 학습 정책을 구현하는 로봇 학습 분야에서 일하고 있습니다. 작업의 범위는 비행기 날개에 볼트를 삽입하고 조이는 것부터 로봇이 음식을 가열할 수 있도록 전자레인지와 같은 물체를 모델링하는 방법을 이해하는 것까지 다양합니다. 기계 학습 및 인공 지능의 이러한 큰 문제 영역에서 도구를 개발하면 로봇이 인간 사용자의 문제를 해결할 수 있습니다.