【 청년일보 】 컴퓨터 성능이 발전함에 따라 인공지능은 비약적으로 성장하였다. 단순히 정형 데이터에서 종속 변수를 예측하는 수준을 뛰어넘어, 이미지를 분류하거나 생성하고 때로는 복잡한 게임의 전략을 찾아내 인간을 이기는 인공지능이 되었다. 

이렇게 놀라운 발전을 이뤄낸 기술에는 항상 취약점이 있기 마련이다. 인공지능에 대한 연구가 활발히 이루어지던 시점부터 인공지능의 보안에 대한 염려는 항상 제기되어왔다.

컴퓨터 보안 분야에서 기계의 취약점을 찾아내고 공격을 방지하는 방법을 연구하듯이, 기계 학습 알고리즘에 대한 공격과 방어를 연구하는 분야를 적대적 기계 학습(adversarial machine learning)이라고 한다. 인공지능을 공격하는 방식 중 가장 대표적인 방법인 회피 공격(evasion attack)은 입력값을 조작하여 인공지능이 잘못된 판단을 내리도록 만드는 공격이다. 

일례로 자율 주행 자동차가 스티커가 붙은 정지 표지판을 최고 속도 45 표지판으로 인식하였다. 이는 입력값에 약간의 노이즈만 더해도 인공지능이 오판단을 일으키고, 더 나아가 사람의 생명을 위협할 수 있다는 것을 보여준다. 이외에도 얼굴 인식 인공지능을 속일 수 있는 특수 안경, 사람 눈에는 올바른 이미지이지만 인공지능은 다르게 인식하는 노이즈 기법 등 회피 공격은 인공지능이 잘못된 의사결정을 내리도록 만든다.

프로그래밍의 발전이 여러 프로그램, 웹페이지에 보안 취약점을 남긴 것처럼 앞으로의 인공지능의 발전에도 취약점이 필연적으로 따라올 것이다. 앞으로의 인공지능 개발자들은 최신 인공지능 기술 개발보다 기존 인공지능 기술을 견고하게 만드는 AI 보안 기술에 좀 더 주목을 해야 할 것이다.
 

【 청년서포터즈 6기 홍진영 】