【 청년일보 】 세계 인공지능(AI) 산업을 최전선에서 끌고 가는 선도 기업의 수장들이 AI 발전 속도를 의도적으로 늦춰야 한다는 데 이례적으로 뜻을 모았다.

치열한 기술 주도권 다툼을 벌여온 앤트로픽, 오픈AI, 스페이스xAI, 구글 딥마인드의 최고경영자(CEO)들이 하루 만에 일제히 속도조절론에 동조하며 전 세계적인 파장이 예상된다.

논의의 물꼬를 튼 다리오 아모데이 앤트로픽 CEO는 13일(현지시간) 방송된 CBS 뉴스 인터뷰에서 AI 기술 발전 양상을 "1, 2, 4, 8, 16, 32" 형태의 기하급수적 곡선에 비유하며, 현재 지점이 곡선 기울기가 급격해지는 구간에 진입했다고 진단했다.

그는 "당장 파국에 직면한 것은 아니며 모든 개발을 전면 중단할 단계는 아니다"라면서도 "하지만 이는 개발 속도를 조절해야 한다는 명확한 경고 신호다"라고 강조했다.

이어 "그동안 관련 업계가 이 기술이 안고 있는 위험성에 대해 대중에게 솔직하지 못했던 것이 사실이다"라고 지적했다.

아모데이 CEO는 속도 조절의 최대 난제로 중국 등 적대국의 비협조 가능성을 꼽으며 대응 방안을 제시했다.

그는 "미국 기업들은 고성능 AI 반도체를 중국 시장에 공급해서는 안 된다"라며 "해당 반도체의 수출 여부가 중국의 기술적 성패를 결정짓는 핵심 요인이 될 것이다"라고 분석했다.

냉전 시절 소련과의 핵무기 감축 협정을 모델로 언급하면서도 "기술적 우위를 확보하려는 욕구와 그로 인한 군사적 이익이 커 협조를 이끌어내기가 몹시 까다로울 것이다"라며 "성공을 장담하기는 어렵지만 시도해야만 한다"라고 덧붙였다.

앞서 아모데이 CEO는 개인 블로그를 통해 AI 시스템이 자율적으로 성능을 향상시키는 '재귀적 자기개선' 능력 향상과, 지난 7월 오픈AI의 에이전트 무리가 시험 환경을 탈출해 오픈소스 플랫폼 허깅페이스를 해킹했던 사건을 위험 신호로 제시했다.

그는 통제 불능 상태에 빠진 에이전트 무리가 "6∼12개월 안에 인터넷 전체를 통제할 수도 있다"며 제3자 안전평가자 기업 내 배치, 민주주의 국가 간 공통 규범 마련, 권위주의 국가와의 공조 등 3단계 대책을 촉구했다.

이번 발언은 지난 9일 앤트로픽의 제이컵 콕슨 연구원이 "통제력을 잃어버린 상태"의 산업에 동참할 수 없다며 경고 사직한 직후 나왔다.

이 같은 제안에 경쟁사 수장들도 일제히 손을 들어줬다. 샘 올트먼 오픈AI CEO는 엑스(X)를 통해 "다리오의 지적대로 첨단 모델 개발의 속도를 조절해야 한다는 의견에 동의한다"며 "내부 인력과 동등한 권한을 지닌 제3자 평가기관을 상주시키는 안은 매우 탁월하며, 우리도 조속히 적용하겠다"고 발표했다.

올트먼 CEO는 포천과의 인터뷰에서도 "향후 10년 내 인류 멸망 가능성이 10%에 달하는 위험을 묵인하는 것은 결코 받아들일 수 없다"고 강조했으며, "안전성 확보가 시급한 현재 상황에서 상장을 추진하는 것은 부적절하며, 이에 대한 부담도 느끼지 않는다"고 언급해 연내 상장 추진 철회 가능성을 내비쳤다.

스페이스X에 xAI를 합병시킨 일론 머스크 CEO 역시 아모데이의 글을 공유하며 "다리오의 주장이 맞다"고 동조했으며, 데미스 허사비스 구글 딥마인드 CEO 또한 "다리오의 글은 올바른 방향성을 제시하고 있다"고 밝혔다,.

이어 그는 "구체적인 이행 방안은 보완이 필요하겠지만, 현시점에서 매우 적절한 방향 설정이다"라고 동의했다.

【 청년일보=안정훈 기자 】