【청년일보】 국내 정보기술 당국이 AI 생성물에 표식(워터마크)를 넣도록 하는 방침을 세운 것으로 파악됐다.

25일 연합뉴스 보도에 따르면 과학기술정보통신부(과기부)는 AI가 생성한 콘텐츠를 워터마크 처리로 구별하도록 하는 방향을 정하고 기술적인 방식에 대해 업계와 구체적인 검토를 진행 중이다.

딥페이크 기술을 악용한 인권 침해나 가짜 뉴스 확산 등 생성형 AI 기술이 초래할 수 있는 부작용을 최소화하고 AI 생성에 사용된 원본 콘텐츠 저작권을 보호한다는 목적이다. 

이는 오픈 AI 등 미국의 주요 AI 기업 7곳이 지난달 미국 정부와 워터마크 사용을 공식화한 것과 같은 맥락이다.

다만, AI 생성물에 워터마크를 어떤 식으로 표시할지 기술적인 부분은 과기부와 업계가 협의를 진행 중이다.

영상이나 이미지 속 또는 텍스트의 시작·끝 지점에 'AI 생성물'이라고 가시적으로 표기하는 방법이 우선 꼽히지만, 콘텐츠 제작자가 AI 생성물 워터마크를 의도적으로 달지 않았을 경우엔 걸러내기 쉽지 않다는 한계가 있다.

이에 맨눈으로 인식되는 워터마크 대신 기계가 AI 생성물임을 자동으로 알아차리는 '비시각적 워터마크'를 넣는 방안이 국내외에서 연구되고 있다.

AI 학습용 데이터 묶음(데이터 세트)에 워터마크 처리를 하면 거대언어모델(LLM) 등을 거쳤을 때 AI가 만든 콘텐츠임을 기계적으로 식별하는 기술이다.

한편, 정부는 국회 계류 중인 '인공지능기본법안'이 통과되기 전이라도 AI 부작용을 막을 수 있는 기술적인 보완 대책을 내달 안으로 내놓겠다는 방침을 밝혔다.

박윤규 과기부 차관은 최근 기자간담회에서 "가짜뉴스 등 AI 부작용이나 의도적인 AI 오남용 시도에 대한 기술적인 대책을 만들어야 한다는 생각을 갖고 있다"고 말했다.

【청년일보=이창현 기자】