【 청년일보 】 오랫동안 사랑받아 온 톰 크루즈가 주연인 영화, ‘미션 임파서블’이 8편인 ‘데드 레코닝 Part 2’를 마지막으로 올해 그 시리즈를 마무리 지었다.
이 영화는 모든 경우의 수를 계산하여 인간의 운명까지도 마음대로 다룰 수 있는 막강한 인공지능 ‘엔티티’가 인류를 멸망시키기 위해 전 세계의 핵폭탄을 해킹하려고 하고, 이를 막아서는 에단(톰 크루즈)과의 대립을 다룬다. 이때 엔티티는 전 세계의 디지털 세상을 장악한 뒤, 가짜 영상과 기사를 통해 사람들을 혼란에 빠트린다. 심지어 에단의 장비마저 해킹하여 가짜 정보를 제공해 팀을 교란하기도 한다.
이처럼 영화나 드라마 속에서 가짜 정보를 통해 여론을 조작하고, 사람들을 속이는 행위를 종종 볼 수 있었으나, 사람이 아닌 인공지능이 스스로 정보를 조작하고 퍼뜨려 인류를 혼란에 빠뜨리는 내용은 굉장히 드물었다. 하지만 빠르게 인공지능이 발전하여 그림을 그리고, 영상을 만드는 현재에 이르러서는 이러한 내용이 아주 허무맹랑한 이야기로 치부되지 않기에, 자연스럽게 영화에 녹여낼 수 있었던 것 같다. 그런데 여기서 인공지능을 활용한 가짜 정보가 놀랍게도 영화가 아닌 현실에서도 혼란을 일으키고 있다.
최근 인터넷에서 발견된 한 사진이 화제가 되었는데, 바로 이스라엘 전투기가 이란에 의해 격추당한 모습을 담고 있는 사진이다. 하지만 사진 속 전투기는 일반적인 전투기의 크기보다 훨씬 크고, 부자연스러운 것을 볼 수 있는데, 이유는 인공지능으로 만든 가짜 사진이기 때문이다. 이는 이란 정부 측에서 자신들의 군사력을 부풀려 자랑할 목적, 즉 사람들을 속이기 위해 인공지능으로 사진을 만들어 유포한 것으로 추측된다.
전쟁에서뿐만 아니라 인공지능으로 만든 가짜 미디어의 진위를 구분하기 어렵다는 특성을 이용한 범죄도 급증하고 있는데, 특히 피싱 범죄에 많이 악용되고 있다.
한때 딥페이크 기술을 이용하여 다른 사람의 얼굴을 성인물에 합성하는 범죄가 언론의 주목을 받았는데, 이 딥페이크 기술 또한 인공지능을 활용한 방법이다. 예전 피싱 범죄는 문자나 전화 등으로 이루어졌으나, 최근에는 앞서 말한 딥페이크 기술을 이용하여 다른 사람의 얼굴로 자연스럽게 영상 통화를 하는 등 사람들을 더 정밀하게 속인다고 한다.
피해자들은 유명인으로 둔갑한 피의자와 영상통화까지 하여 신뢰도가 올라간 상태에서 피의자가 추천하는 코인 등에 돈을 넣었다가 먹튀 당하는 등 금전적 손해를 입었다고 말한다.
그뿐만 아니라 최근에는 인공지능으로 다른 사람의 목소리도 따라 할 수 있어 보이스피싱의 위험성도 전보다 커지고 있다. 아주 짧은 음성 데이터만 있어도 그 사람의 목소리를 구현하는 음성 합성 기술을 악용하는 보이스피싱이 최근 들어 여러 건 발생하고 있으며, 가족의 목소리 등을 이용하여 기존 보이스피싱보다 피해자에게 더 큰 혼란을 안겨주기 때문에 분별력이 떨어져 피해를 보기 쉬워지므로 주의가 필요하다.
그래도 지금까진 주의를 기울이면 인공지능을 활용한 가짜 미디어와 이를 이용한 범죄를 구분할 수 있었지만, 인공지능이 더 발전하여 전문적인 기술 없이는 구분하기 어려운, 즉 구분이 불가능한 가짜 정보를 만들어 유포하게 된다면 그 결과는 더 심각해질 것이다. 구분할 수 없는 정보들이 무분별하게 퍼져나가 온라인 속 정보는 신뢰를 잃고 사람들은 혼란에 빠질 것이며, 이로 인한 피해가 크게 증가할 것이다. 마치 ‘미션 임파서블’에서 인공지능 ‘엔티티’가 가짜 정보로 사회적 혼란을 가져왔던 것처럼 말이다.
그렇다면 과연 어떤 방법으로 인공지능이 생성한 가짜 정보와 이를 악용한 범죄로부터 우리를 지켜낼 수 있는지 알아보자.
놀랍게도 최근에는 인공지능을 이용한 범죄를 예방하기 위해 또 다른 인공지능을 사용하고 있다. 인공지능을 이용한 보이스피싱을 방지하기 위해 이동통신사에서 제공하는 인공지능이 상대방이 사람인지 인공지능인지 분별하여 사기인지 구별하기도 하며, 더 나아가 인공지능이 잠재적 피해자로 위장하여 보이스피싱범을 속이기도 한다.
예를 들어 영국의 한 이동통신사에서는 전형적인 영국 할머니의 목소리와 말투를 구사하는 인공지능을 개발하여 범죄를 예방하고 있는데, 보이스피싱범의 전화가 오면 할머니 목소리로 횡설수설하며 최대한 시간을 끌어 실제 사람들이 범죄에 노출되는 것을 막는 것이다.
범죄 외에도 가짜 정보로 인한 혼란을 예방하기 위해 많은 노력이 계속되고 있는데, 인공지능 생성물에 워터마크를 삽입하여 이것이 가짜임을 밝히는 방법을 사용하기도 한다. 대표적으로 삼성 갤럭시의 인공지능을 활용한 사진 편집을 진행할 경우, 사진에는 ‘AI로 생성한 콘텐츠’라는 워터마크가 삽입되고, SK텔레콤의 인공지능 ‘에이닷’이 생성한 사진의 경우에도 워터마크가 삽입되어 일반인이 쉽게 인공지능 생성물이란 것을 인지할 수 있다.
하지만 이는 워터마크만 따로 지워버리면 분별하기 어려워진다는 단점을 가지고 있다.
그래서 최근에는 ‘인지 불가능 워터마크’라는 기술이 주목받고 있다. ‘인지 불가능 워터마크’란 위에서 말한 워터마크와는 달리 사람이 인지할 수 없는 패턴을 생성물에 삽입하여 워터마크를 넣는 방법이다.
이는 기존 워터마크와 달리 사용자가 인지할 수 없으니, 콘텐츠의 품질은 유지할 수 있으면서도 특정한 기술로 인공지능 생성물임을 구분할 수 있어 앞에서 우려한 혼란을 막을 수 있다. 또한 출처 식별이 가능하여 어디서 만들어졌는지 추적이 가능하므로, 인공지능 생성물로 범죄를 저질렀을 경우 원출처를 추적해 처벌할 수도 있다.
하지만 반대로 단점도 가지고 있는데, 이미지의 경우 캡처를 해버리면 아예 다른 사진으로 저장되기 때문에 인지 불가능 워터마크를 제거할 수 있으며, 추적이 가능하다는 점에서 개인정보 보호에 관한 논란을 가져올 수 있다. 또한 아직까진 인지 불가능 워터마크에 대한 국제적인 표준이 없고, 이를 정확하게 판별할 검출 시스템도 미비하므로 당장 시행 가능한 해결책이라고 보기는 어렵다.
그럼에도 인공지능의 발전과 함께 인공지능 생성물에 대한 논란이 계속되고 있는 지금, 딥페이크 기술이나 음성 합성 기술을 이용한 범죄를 차단하고, 정보의 진위를 판별하여 신뢰성을 높여주는 인지 불가능 워터마크 기술은 인공지능 생성물이 가져올 혼란을 막을 수 있는 대응책 중 하나이다. 이러한 필요성을 인지하여 많은 연구가 수행되고 있으며, 구글과 메타 등 대기업에서도 개발 중이고, EU나 미국 등에서도 워터마크 삽입에 대한 기준을 논의하고 있다.
최근 사람들은 마치 인공지능처럼 인터넷 속 정보를 토대로 학습하여 생각하고 판단한다. 하지만 우리가 인공지능과 다른 점이 있다면, 주어진 정보를 그대로 학습하는 것이 아닌 각자의 기준에 맞춰 정보를 가려서 학습했다는 것이다. 이를 통해 지금까지는 인터넷에 잘못된 정보가 있어도 스스로 잘못된 정보를 검열하여 받아들일 수 있었다.
하지만 지금처럼 인공지능으로 인해 잘못된 정보가 우후죽순 생겨나고 있는 상황에서는 무엇이 참이고 거짓인지 판별하기 어려워질뿐더러, 가짜 정보 때문에 잘못된 판단을 할 수도 있다. 또한 인공지능을 이용하여 사람을 속이려고 한다면 예전보다 훨씬 쉽게 사람을 속일 수 있기 때문에 이로 인한 피해도 더 늘어날 수 있다.
이를 방지하기 위해서라도 인공지능으로 생성된 정보는 구분이 가능해야 하며, 악용을 예방하는 기술과 제도 및 정책이 빠르게 마련되어야 할 시점이 다가온 것 같다.
【 청년서포터즈 8기 박성영 】
