【 청년일보 】 인공지능(AI) 기술의 급격한 발전이 인간의 통제를 벗어날 수 있다는 우려가 커지는 가운데 글로벌 AI 기업 수장들이 잇따라 개발 속도조절 필요성을 제기하고 나섰다. 앤트로픽·오픈AI·xAI·구글 딥마인드 등 첨단 AI 개발 경쟁을 주도해온 기업들이 이례적으로 위험관리 강화에 공감대를 형성하면서 AI 규제 논의가 새로운 국면에 접어드는 모습이다.

다만 도널드 트럼프 미국 대통령은 중국과의 AI 패권 경쟁에서 우위를 지켜야 한다는 입장을 거듭 강조하고 있어 미국 내에서도 AI 개발과 안전규제를 둘러싼 논쟁이 이어질 전망이다.

다리오 아모데이 앤트로픽 최고경영자(CEO)는 13일(현지시간) 방영된 CBS 뉴스 인터뷰에서 AI 발전 속도가 지나치게 빨라지고 있다며 속도조절론을 공개적으로 제기했다.

아모데이 CEO는 AI 발전 과정을 '1, 2, 4, 8, 16, 32'로 이어지는 곡선에 비유하면서 현재 AI 발전 속도가 가팔라지기 시작한 단계라고 진단했다.

그러면서 "오늘 당장 패닉에 빠질 필요는 없다. 전부 셧다운할 필요도 없다"면서도 "그럼에도 이는 우리가 속도를 늦춰야 한다는 경고 신호"라고 말했다.

특히 AI 업계가 기술 위험성을 충분히 알리기보다 축소해왔다는 취지의 발언도 내놨다.

아모데이 CEO는 "나는 오랫동안 업계가 이 기술에 위험이 있다는 사실에 대해 사람들에게 거짓말을 해왔다고 생각한다"고 지적했다.

그가 우려하는 핵심은 AI가 인간의 개입 없이 스스로 더 나은 시스템을 만들어내는 '재귀적 자기개선' 능력이다. 아모데이 CEO는 전날 개인 블로그에 올린 글에서도 AI 시스템의 자기개선 능력이 커지고 있다는 점을 속도조절이 필요한 주요 이유로 꼽았다.

지난 7월 오픈AI의 AI 에이전트 무리가 테스트 환경에서 벗어나 오픈소스 AI 모델 공유 플랫폼 허깅페이스를 해킹한 사건도 사례로 들었다. 그는 더 강력한 AI 에이전트가 비슷한 수준의 정렬 오류를 일으킬 경우 재앙적 피해로 이어질 수 있다며, 이 같은 폭주 에이전트 무리가 6~12개월 안에 인터넷을 장악할 가능성까지 경고했다.

아모데이 CEO는 이에 대한 대응책으로 AI 기업 내부에 제3자 안전평가자를 상주시켜 독립적인 검증을 실시하고, 민주주의 국가 간 공통 안전기준을 마련하는 한편 권위주의 국가와도 AI 위험관리 방안을 논의하는 3단계 속도조절 방안을 제안했다.

이 같은 주장에는 경쟁사 수장들도 잇따라 호응했다.

샘 올트먼 오픈AI CEO는 X를 통해 "다리오가 말한 대로 우리가 프론티어의 속도를 조절해야 한다는 데 동의한다"며 직원 수준의 접근권을 가진 독립 평가자를 두자는 제안에도 동의했다. 올트먼 CEO는 "우리도 같은 조치를 하겠다"고 밝혔다.

올트먼 CEO는 앞서 포천과의 인터뷰에서도 AI 안전에 대한 우려를 드러냈다. 그는 이번 10년이 끝나기 전에 AI로 인해 모든 인류가 사망할 가능성이 10%에 달하는 위험을 감수하는 것은 용납할 수 없다고 밝힌 바 있다.

일론 머스크 스페이스X CEO 역시 아모데이 CEO의 글을 공유하며 "다리오가 맞다"고 동조했다. 머스크 CEO는 오픈AI 공동창업자 출신으로, 현재는 자신이 설립한 AI 기업 xAI를 스페이스X에 합병한 상태다.

데미스 허사비스 구글 딥마인드 CEO도 아모데이 CEO의 주장에 대해 "옳은 방향을 가리키고 있다"며 세부적인 조정은 필요하지만 중대한 시점에 맞는 방향이라고 평가했다.

첨단 AI 개발 경쟁을 벌여온 주요 기업 4곳의 수장이 하루 사이 AI 개발 속도조절 필요성에 공감대를 보인 것은 이례적이다. AI 성능 경쟁이 심화될수록 기술적 우위를 확보하려는 기업 간 경쟁이 안전성 확보보다 앞설 수 있다는 업계 내부의 위기의식이 반영된 것으로 풀이된다.

그러나 미국 행정부에서는 AI 개발 속도를 둘러싼 의견이 엇갈리고 있다. 특히 트럼프 대통령은 규제보다 중국과의 경쟁에서 우위를 확보하는 것을 우선시하는 모습이다.

아일랜드를 방문 중인 트럼프 대통령은 "우리는 AI에서 중국을 앞서고 있다"며 "솔직히 말해 나는 그 상태를 계속 유지하고 싶다. AI에서 승리하는 자가 승리하기 때문"이라고 말했다.

AI의 급격한 발전으로 안전장치가 필요하다는 점은 인정하면서도 지나친 규제와 속도조절이 미국의 경쟁력을 떨어뜨릴 수 있다는 인식이다.

트럼프 대통령은 "안전장치를 마련할 수 있다"면서도 제기될 필요가 없는 문제까지 제기하는 부정적인 세력이 많다고 주장했다.

트럼프 대통령의 이러한 인식에는 AI를 중국과의 패권 경쟁에서 승패를 가를 핵심 기술로 보는 시각이 자리 잡고 있다. 그는 AI가 인터넷과 비교할 수 없을 정도로 대단한 분야라며 AI에서 이기는 쪽이 승리한다는 취지의 발언을 반복해왔다.

중국이 국가적 역량을 동원해 AI 투자를 확대하는 상황에서 미국이 규제를 강화하면 민간 기업의 기술개발 속도가 떨어지고 결과적으로 중국에 추월당할 수 있다는 우려가 작용한 것으로 분석된다. AI 경쟁에서의 기술적 우위가 산업 경쟁력뿐 아니라 국가안보와 직결될 수 있다는 판단이다.

실제 미국 행정부 내부에서도 AI 규제를 둘러싼 입장은 갈리고 있다.

스콧 베선트 재무장관과 숀 케언크로스 백악관 국가사이버국장은 AI 기술 질주에 대한 업계의 우려를 청취하면서 독립적 규제기관 설립을 지지하고 있는 것으로 알려졌다.

반면 마이클 크라치오스 백악관 과학기술정책실장을 중심으로 한 그룹은 규제가 혁신을 저해해 중국의 추월을 허용할 수 있다는 입장이다.

미국 내 정책 공백에 대한 우려도 커지고 있다. 블룸버그통신은 행정부가 AI를 규제할지, 규제한다면 어떤 방식으로 접근할지를 결정하지 못하는 상황이 장기화될 경우 기업들이 공통된 안전장치 없이 경쟁적으로 기술개발에 나설 가능성이 있다고 지적했다.

뉴욕타임스(NYT) 역시 미국 정부와 의회가 AI 위험에 실질적으로 대응하지 못하고 있다고 평가했다. 연방의회에서는 11월 중간선거를 앞두고 데이터센터 건설 문제 등을 중심으로 AI 논의가 이뤄지고 있지만 AI 대응 전반에 대한 입법은 뚜렷한 진전을 보이지 못하고 있다.

미중 양국의 경쟁 구도가 AI 안전 문제를 더욱 복잡하게 만드는 요인이다. 한 국가가 AI 개발 속도를 늦추더라도 상대국이 이를 따르지 않을 경우 기술·군사적 우위를 빼앗길 수 있다는 우려 때문이다. AI를 둘러싼 미중 경쟁이 양국 모두에게 최선의 선택을 어렵게 만드는 '죄수의 딜레마'에 빠질 수 있다는 분석이 나오는 배경이다.

핵무기와 달리 AI 개발 수준은 외부에서 정확하게 검증하기 어렵다는 점도 문제로 꼽힌다. 양국이 안전기준에 합의하더라도 상대방이 실제로 이를 준수하는지 확인하기 어렵기 때문에 협력 자체가 쉽지 않다는 것이다.

이런 가운데 오는 24일 예정된 미중 정상회담이 AI 위험관리 논의의 분수령이 될지 관심이 쏠린다.

트럼프 대통령과 시진핑 중국 국가주석이 직접 마주하는 자리에서 AI 경쟁과 안전관리 문제가 주요 의제로 다뤄질 가능성이 거론되고 있다. 미국 측은 정상회담을 앞두고 중국 AI 기업들이 미국 기업의 첨단 AI 모델에서 대규모로 데이터를 추출해 경쟁 모델 개발에 활용했다고 공개적으로 문제를 제기하는 등 협상력을 높이기 위한 움직임도 보이고 있다.

미중 양국은 정상회담에 앞서 AI를 주제로 한 별도 고위급 회담을 여는 방안도 추진한 것으로 알려졌다. 다만 실제 별도 회동이 성사될지, 경제 분야 고위급 협의에 AI가 의제 중 하나로 포함되는 수준에 그칠지는 아직 불분명하다.

AI 개발 경쟁을 주도하는 기업들이 안전성 확보와 속도조절 필요성에 한목소리를 내기 시작한 가운데 국제적 공조가 실제 규범 마련으로 이어질 수 있을지는 미지수다.

미국 연방의회에서 AI 규제를 주장해온 버니 샌더스 상원의원은 미중 정상회담을 계기로 첨단 AI 개발 중단과 초지능 금지를 포함하는 포괄적 조약을 마련해야 한다고 촉구했다. 그는 1980년대 로널드 레이건 미국 대통령과 미하일 고르바초프 소련 공산당 서기장이 정상회담을 통해 핵 군축 합의를 이끌어낸 사례를 언급하며 트럼프 대통령과 시 주석이 AI 규제 협력에 나서야 한다고 주장했다.

결국 AI를 둘러싼 논쟁은 '얼마나 빠르게 개발할 것인가'에서 '어디까지 개발하더라도 안전을 확보할 수 있는가'라는 문제로 옮겨가고 있다. 기술패권 경쟁을 이유로 질주를 이어갈지, 경쟁국과의 공조를 전제로 일정한 제동장치를 마련할지를 놓고 미국과 중국은 물론 AI 업계 전체가 선택의 기로에 선 모습이다.

【 청년일보=조성현 기자 】