【 청년일보 】 인공지능(AI) 반도체 경쟁의 무게중심이 개별 칩의 연산 성능에서 데이터센터 전체 시스템의 연결성과 확장성으로 이동하고 있다. 수천 개의 GPU와 고대역폭메모리(HBM)가 연결되는 초대형 AI 클러스터가 등장하면서 칩 내부의 성능만으로는 해결하기 어려운 데이터 이동 병목이 새로운 과제로 부상하면서다.

 

이에 SK하이닉스가 글로벌 연구진과 함께 차세대 광 인터커넥트 기술인 CPO(Co-Packaged Optics)를 AI 인프라의 핵심 연결 기술로 제시하고, 칩을 넘어 랙(Rack)과 포드(Pod) 단위까지 확장하는 기술 로드맵을 내놨다. 메모리 기업의 역할을 단일 부품 공급에서 AI 시스템 설계의 한 축으로 확대하려는 전략적 방향성이 담겼다는 평가다.

 

SK하이닉스는 홍승훈 AI Infra 팀장과 버지니아대학교(UVA) 전기컴퓨터공학과 이규상 교수가 공동 교신 저자로 참여한 CPO 관련 논문 'Co-packaged optics for high-performance computing and artificial intelligence'를 국제 학술지 '네이처 일렉트로닉스(Nature Electronics)'에 게재했다고 20일 밝혔다.

 

이번 연구에는 일리노이대학교 어바나-샴페인(UIUC), 난양공과대학교(NTU), 매사추세츠공과대학교(MIT), 연세대학교 연구진도 참여했다.

 

논문의 핵심은 AI 및 고성능 컴퓨팅(HPC) 시스템의 성능을 제한하는 새로운 병목을 '데이터 이동'에서 찾고, 이를 해결하기 위한 광 인터커넥트 기술의 발전 방향을 시스템 관점에서 제시했다는 데 있다.

 

기존 AI 반도체 시장에서는 HBM이 연산 칩과 메모리 사이의 데이터 병목을 해소하며 AI 가속기의 성능 향상을 이끌었다. 하지만 AI 모델이 대형화하고 수천 개의 GPU와 HBM을 하나의 클러스터로 연결하는 방식으로 인프라가 확장되면서 병목 지점도 칩과 패키지 바깥으로 이동하고 있다.

 

실제로 논문은 연산 성능이 2년마다 약 3배 증가하는 반면 대역폭은 약 1.4배 증가하는 데 그치면서 '대역폭 장벽(Bandwidth Wall)'이 심화되고 있다고 지적한다. 특히 패키지 밖에서 칩과 칩, 서버와 서버, 랙과 랙을 연결하는 과정에서 기존 구리 기반 전기 배선의 한계가 두드러진다는 설명이다.

 

구리 배선은 짧은 거리에서는 비용과 구현 측면에서 경쟁력이 있지만, 전송 속도와 거리가 증가할수록 신호 감쇠를 보완하기 위한 회로가 필요해진다. 이는 전력 소비 증가와 데이터 전송 지연으로 이어진다.

 

이규상 교수는 "연산칩 성능이 향상되어도 칩 사이의 데이터 이동 능력이 이를 따라가지 못하면 시스템 전체 성능은 올라가지 않는다"며 "물리적 한계를 안고 있는 구리 배선 대신 빛으로 데이터를 옮기는 것이 가장 유력한 확장 경로"라고 설명했다.

 

 

◆ CPO, 칩에서 랙·포드로 연결 범위 확장

 

연구진이 제시한 CPO는 이러한 데이터 이동 한계를 극복하기 위한 핵심 기술이다. CPO는 광 송수신기(TRx)를 프로세서와 같은 패키지 안에 집적해 고속 데이터 신호의 이동 과정에서 전기 배선이 차지하는 거리를 줄이고, 이후 구간을 광 신호로 연결하는 방식이다.

 

홍승훈 팀장은 CPO에 대해 "칩과 칩이 긴 전기 배선 대신 빛으로 데이터를 주고받을 수 있도록 광 송수신기를 프로세서와 한 패키지 안에 넣는 기술"이라고 설명했다.

 

CPO가 적용되면 고속 전기 신호가 이동해야 하는 거리를 최소화하면서 광 연결을 통해 더 먼 거리까지 데이터를 전송할 수 있다. 이에 따라 높은 대역폭 밀도와 에너지 효율을 확보하는 동시에 전자기 간섭에 강한 신호 무결성을 유지할 수 있다는 게 연구진의 설명이다.

 

특히 이번 논문이 주목받는 지점은 CPO를 단순히 칩 내부 또는 개별 패키지 수준의 기술로 한정하지 않았다는 것이다.

 

AI 데이터센터의 물리적 구성 단위인 랙과 여러 랙을 묶은 포드까지 연결 범위를 확장해 시스템 전체의 데이터 이동 효율을 높이는 방향을 제시했다.

 

랙은 서버와 AI 가속기 등 각종 하드웨어를 장착하는 기본적인 물리적 단위이며, 포드는 여러 랙을 묶어 네트워크와 전력, 냉각 등을 통합 관리하는 상위 시스템 단위다.

 

AI 클러스터 규모가 커질수록 개별 칩의 성능뿐 아니라 이들 구성요소 사이에서 얼마나 빠르고 효율적으로 데이터를 이동시키느냐가 전체 시스템 성능을 좌우하는 만큼, 광 인터커넥트의 역할도 시스템 차원에서 확대될 가능성이 커지고 있다.

 

연구진은 차세대 AI 인프라를 위한 기술적 목표로 노드당 100Tb/s 이상의 대역폭, 1pJ/bit 미만의 에너지 소비, 10ns 미만의 칩 간 지연시간 등을 제시했다.

 

 

◆ 2D에서 2.5D·3D로…CPO 상용화 위한 기술 로드맵

 

논문은 CPO의 발전 방향을 패키징 기술의 진화와 함께 제시했다. 현재의 2차원(2D) 패키징에서 2.5D 인터포저를 거쳐 3D 이종 집적으로 발전하는 과정에서 광 인터커넥트를 어떻게 시스템에 통합할 것인지가 핵심이다.

 

이는 광소자 자체의 성능뿐 아니라 메모리, 프로세서, 패키징, 냉각, 전력, 제조 수율 등 다양한 요소를 하나의 시스템 관점에서 최적화해야 한다는 의미다.

 

이규상 교수는 "학계는 성능의 한계를 넓히는 데 강점이 있지만, 산업계는 대규모 시스템에 적용할 때 필요한 수율, 원가, 냉각, 공급망 등의 구체적인 조건을 알고 있다"며 "두 관점이 만났기에 AI 인프라 전체를 조망하는 현실적인 로드맵을 제시할 수 있었다"고 말했다.

 

CPO가 실험실 수준의 기술을 넘어 실제 AI 데이터센터에 적용되기 위해서는 저전력 광소자 집적, 일관성 프로토콜, 신뢰성 등 해결해야 할 과제도 남아 있다.

 

이에 따라 연구진은 특정 광소자의 성능 개선에 그치지 않고 메모리 소자와 컨트롤러, 광소자, 패키지를 하나의 시스템으로 공동 설계하는 '코디자인(Co-design)'이 중요하다고 강조했다.

 

 

◆ 최종 목표는 '메모리까지 광 연결'…HBM 이후의 시스템 전략

 

이번 연구에서 장기적인 방향으로 제시한 것은 광 인터커넥트의 적용 범위를 메모리 인터페이스까지 확대하는 것이다.

 

현재 AI 가속기는 연산 칩 주변에 메모리를 배치하는 방식으로 데이터 처리 효율을 높이고 있지만, AI 모델이 더욱 대형화하면 패키지 내 물리적 공간과 배선 수, 메모리 용량 등에 대한 제약이 커질 수 있다.

 

연구진은 광 인터포저 등을 활용해 메모리와 프로세서를 직접 연결하고, 여러 가속기가 대규모 메모리 풀을 공유하는 '옵틱스 중심(Optics-centric)' 아키텍처를 차세대 방향으로 제시했다.

 

이는 HBM을 통해 패키지 내부의 메모리 병목을 해결하는 현재의 접근에서 한 단계 더 나아가, 메모리와 연산 자원을 시스템 전체에서 유연하게 연결하는 구조로 해석할 수 있다.

 

이규상 교수는 "광 연결을 메모리까지 확장하면 연산 칩 주변의 물리적 제약을 우회해 메모리 용량과 배선 수의 한계를 극복할 수 있다"며 "여러 가속기가 거대한 메모리 풀을 공유할 수 있어 AI 모델의 대형화에 훨씬 유연하게 대응할 수 있다"고 말했다.

 

홍승훈 팀장 역시 "고객의 AI 시스템이 대형화될수록 광 인터커넥트의 중요성이 더욱 커진다"며 "메모리 기업도 단순한 단일 제품 공급을 넘어 고객의 시스템 전체 경쟁력을 함께 만들어가는 파트너로 역할이 진화하고 있다"고 강조했다.

 

이번 논문은 SK하이닉스가 HBM 중심의 메모리 경쟁에서 나아가 AI 인프라 전체를 바라보는 기술 전략을 제시했다는 점에서도 의미가 있다. AI 가속기의 성능 경쟁이 칩 단위에서 시스템 단위로 확대되는 가운데 메모리와 광 인터커넥트, 패키징을 함께 설계하는 역량이 차세대 AI 인프라 경쟁력의 중요한 축으로 부상할 가능성이 커졌기 때문이다.

 

홍 팀장은 "학계의 전문성과 산업계의 현장 경험이 연결되어 AI 인프라의 미래 방향을 함께 제시했다는 점에서 큰 의미가 있다"며 "앞으로도 고객과 산업 생태계에 실질적인 가치를 제공할 수 있는 개방형 협력을 지속 확대해 나갈 것"이라고 밝혔다.

 

이 교수도 "광 인터커넥트는 앞으로 AI 인프라를 구성하는 핵심 연결 기술로 자리 잡을 가능성이 높다"며 "관련 기술은 이미 실험실을 벗어나 산업화 초입에 들어섰다"고 평가했다.

 

결국 이번 연구가 제시하는 방향은 '더 빠른 메모리'를 넘어 '더 효율적으로 연결되는 AI 시스템'이다. HBM이 AI 가속기의 패키지 내부 데이터 이동을 혁신했다면, CPO는 그 다음 단계에서 칩과 메모리, 랙과 포드 사이의 데이터 이동 방식을 바꾸는 기술로 자리매김할 수 있다는 것이다. SK하이닉스가 이번 논문을 통해 제시한 청사진은 AI 인프라 경쟁의 무대가 개별 반도체에서 메모리·광학·패키징·네트워크를 아우르는 시스템으로 이동하고 있음을 보여준다.

 

【 청년일보=조성현 기자 】