AI 데이터센터의 구리 한계, 코패키지드 옵틱스가 바꾸는 칩 연결
AI 데이터센터의
구리 한계
코패키지드 옵틱스(CPO)는 광모듈을 스위치 칩 바로 옆으로 옮긴다. 더 많은 GPU를 연결하면서 전력과 지연을 줄이려는 이 변화가 왜 ‘칩의 배선 혁명’으로 불리는지, 기대와 숙제를 함께 읽어본다.
인공지능 모델이 커질수록 GPU 한 대의 성능만으로는 충분하지 않다. 수천, 수만 개 가속기가 같은 학습 작업을 나누면 파라미터와 활성값, 기울기 정보가 끊임없이 오간다. 이때 네트워크가 잠깐만 막혀도 값비싼 GPU는 계산 대신 기다린다. 그래서 AI 인프라의 경쟁은 ‘얼마나 빨리 계산하느냐’에서 ‘얼마나 효율적으로 서로 대화하게 하느냐’로 넓어졌다.
2026년 8월 19일 Nature Electronics에 실린 리뷰 논문은 고성능 컴퓨팅과 AI를 위한 광 칩 간 연결과 코패키지드 옵틱스를 정리했다. 논문의 핵심은 단순하다. 전기 신호는 거리가 길어지고 속도가 빨라질수록 저항 손실, 용량성 부하, 주파수 의존 왜곡의 부담이 커진다. 반면 광 연결은 낮은 전파 손실과 넓은 대역폭, 우수한 신호 무결성을 제공할 가능성이 있다. 다만 ‘구리를 빛으로 바꾸면 끝’이 아니라 변환 회로, 패키징, 열, 제조 수율, 표준화가 함께 풀려야 한다.
왜 지금 구리 배선이 한계에 닿는가
서버 앞면에 꽂는 플러거블 광트랜시버도 내부에서는 스위치 ASIC까지 전기 신호로 연결된다. ASIC이 만든 고속 비트가 인쇄회로기판의 구리 트레이스를 지나 케이지에 도착하고, 광모듈 안에서 빛으로 변환된다. 속도가 낮을 때는 이 구조가 모듈 교체와 생태계 호환성 면에서 훌륭했다. 하지만 레인당 전송률이 높아지면 짧아 보이는 기판 경로조차 신호를 약화시키고 모양을 흐린다.
이를 보정하려고 리타이머와 DSP가 신호를 다시 정돈한다. 문제는 보정 회로도 전기를 먹고 열을 낸다는 점이다. 포트 수가 늘고 각 포트 속도가 800Gb/s, 그 이상으로 커지면 모듈의 전력 합계가 랙의 냉각과 전력 예산을 압박한다. CPO는 광학 엔진을 ASIC 근처로 옮겨 고속 전기 경로를 극단적으로 짧게 만든다. 긴 거리는 빛이 맡고, 전기는 패키지 안팎의 짧은 구간만 담당하게 하자는 발상이다.
교체는 쉽지만 전기 길이 증가
스위치 칩에서 장비 전면부까지 신호가 이동한다. 모듈 표준과 서비스성이 강점이지만 고속화할수록 보상 전력과 열 설계 부담이 커진다.
전기 길이는 짧지만 통합 난도 증가
광학 엔진을 스위치 칩 가까이에 놓는다. 에너지와 신호 무결성에 유리하지만 광섬유 결합, 냉각, 수리 방식이 더 복잡해진다.
CPO 패키지 안에서는 무슨 일이 일어날까
스위치 ASIC은 여전히 전자로 패킷을 분류하고 목적지를 정한다. 그 가장자리의 광학 엔진은 전기 비트를 광신호로 바꾸는 변조기, 들어온 빛을 전기로 바꾸는 광검출기, 파장을 나누거나 합치는 소자, 구동 회로를 묶는다. 실리콘 포토닉스는 반도체 공정에 익숙한 실리콘 기반 플랫폼으로 이런 광소자를 집적하는 대표 기술이다. 광원은 패키지 밖에 따로 두고 빛만 공급하는 설계도 있고, 더 강하게 통합하려는 시도도 있다.
전송 과정은 ‘전자→빛→전자’다. ASIC의 SerDes가 낸 전기 신호가 매우 짧은 연결을 통해 광학 엔진에 도착한다. 변조기는 연속적인 레이저 빛에 0과 1의 패턴을 싣고, 광섬유가 이를 다른 스위치나 서버 쪽으로 전달한다. 반대편 광검출기는 빛의 변화를 전류로 바꾸고 수신 회로가 데이터를 복원한다. 여러 파장의 빛을 한 섬유에 함께 싣는 파장분할다중화까지 활용하면 가느다란 섬유 하나가 여러 고속 차선을 품는다.
여기서 지연이 ‘0’이 되는 것은 아니다. 변환과 스위칭에는 여전히 시간이 들고, 전체 애플리케이션 지연은 소프트웨어·혼잡 제어·토폴로지의 영향을 받는다. 다만 긴 전기 채널을 보상하던 DSP 단계를 줄이거나 없애면 장비 수준의 지연과 전력, 부품 수를 낮출 여지가 생긴다. 따라서 CPO의 가치는 광속이라는 과장된 구호보다 ‘고속 신호를 유지하기 위해 지불하던 전기적 비용을 줄이는 설계’로 이해하는 편이 정확하다.
수만 개 GPU를 하나의 컴퓨터처럼
대규모 AI 학습에서는 전체 모델을 여러 가속기에 나누는 텐서 병렬, 파이프라인 병렬, 데이터 병렬 같은 방식이 혼합된다. 각 단계에서 집단 통신이 발생한다. 한 GPU가 계산을 마쳐도 필요한 데이터가 늦게 도착하면 다음 연산으로 넘어갈 수 없다. 네트워크 지연의 꼬리가 길거나 링크 오류가 잦으면 클러스터 전체의 유효 이용률이 떨어진다.
이 때문에 ‘최대 대역폭’ 하나만 봐서는 안 된다. 실제로는 포트당 처리량, 스위치의 총 용량, 홉 수, 혼잡 제어, 케이블 배치, 장애 복구, 전력당 비트가 함께 성능을 만든다. 엔비디아는 2026년 공개 자료에서 Spectrum-X Ethernet Photonics에 CPO와 200Gb/s SerDes를 결합하고 최대 409.6Tb/s급 구성을 제시했다. 회사가 주장하는 효율·가동시간 수치는 자사 시스템과 비교 조건에 따른 제품 지표이므로 독립적인 보편 법칙처럼 읽어서는 안 된다. 그러나 주요 공급사가 CPO를 연구 시제품이 아니라 생산·배치 단계의 네트워크로 끌고 왔다는 사실은 기술 전환의 신호다.
랙 안에서 더 촘촘하게
가속기끼리 매우 높은 대역폭으로 연결해 하나의 거대한 연산 장치처럼 동작하게 한다. 짧은 거리에서도 전력당 대역폭이 중요하다.
랙과 데이터센터를 넘어
수많은 노드를 패브릭으로 연결한다. 거리가 길어질수록 광의 낮은 전파 손실과 케이블 밀도 장점이 커진다.
2D·2.5D·3D, 빛과 전자의 거리가 줄어든다
같은 기판, 나란한 배치
스위치 ASIC과 광학 엔진을 패키지 기판 위에 함께 둔다. 접근성과 설계 유연성이 상대적으로 좋지만 배선 길이는 더 남는다.
인터포저로 촘촘하게
실리콘 또는 유리 인터포저가 미세 배선을 제공한다. 높은 I/O 밀도와 짧은 연결을 얻는 대신 대형 인터포저 비용과 수율이 중요해진다.
위아래로 직접 적층
전자와 광자 칩을 수직으로 쌓아 연결 거리를 더 줄인다. 대역폭 밀도 잠재력은 크지만 열과 테스트, 수리 난도가 가장 높다.
리뷰 논문은 이 경로를 단순한 세대 교체표가 아니라 선택지의 연속선으로 본다. 모든 시스템이 가장 높은 통합도를 택할 이유는 없다. 네트워크 스위치는 대역폭 밀도를 최우선할 수 있지만, 교체 주기나 비용이 중요한 장비는 덜 공격적인 통합이 유리할 수 있다. 광학 엔진의 공정과 로직 ASIC의 최적 공정도 다르기 때문에 서로 다른 칩을 가장 알맞은 방식으로 결합하는 이종집적이 핵심이다.
패키징은 성능을 담는 상자가 아니라 성능을 결정하는 회로의 일부가 되었다. 마이크로범프 간격, 인터포저 손실, 광섬유 정렬 오차, 레이저 결합 효율, 전원 무결성이 모두 시스템 대역폭과 에너지에 영향을 준다. 그래서 CPO 경쟁은 광소자 회사만의 경주가 아니다. 파운드리, OSAT, 기판·인터포저, 레이저, 광섬유 커넥터, 스위치 ASIC, 냉각 업체가 동시에 맞물리는 공급망 경쟁이다.
양산의 첫 관문: 정렬과 수율
전기 칩은 금속 접점이 맞으면 비교적 넓은 공정 창을 확보할 수 있지만, 광 결합은 빛이 지나가는 모드의 위치와 각도에 민감하다. 광섬유 배열이 조금만 어긋나도 결합 손실이 늘 수 있다. 연구실에서 한 개를 정교하게 맞추는 것과 공장에서 수천 개를 빠르고 균일하게 만드는 것은 완전히 다른 문제다. 수동 정렬 시간을 줄이는 수동 정렬 구조, 웨이퍼 단계 테스트, 자동 광학 검사 기술이 비용을 좌우한다.
또 하나는 ‘알려진 양품’을 어떻게 확보하느냐다. 값비싼 스위치 ASIC과 여러 광학 엔진을 한 패키지에 묶은 뒤 하나가 불량이면 전체 수율이 떨어진다. 조립 전에 각 다이를 충분히 시험하고, 조립 후에도 광·전기 경로를 빠르게 검증해야 한다. 수율은 단순히 불량률의 문제가 아니라 가격과 탄소발자국의 문제이기도 하다. 복잡한 패키지를 버릴수록 재료와 공정 에너지가 낭비된다.
양산성을 판단할 때 볼 질문
- 광학 엔진과 ASIC을 조립하기 전에 각각 충분히 테스트할 수 있는가?
- 섬유 정렬이 능동 조정 없이도 반복 가능한 구조인가?
- 불량 광학 엔진만 교체하거나 우회할 수 있는가?
- 패키지, 커넥터, 케이블의 공차가 전체 링크 예산 안에 들어오는가?
- 대량생산에서 수율과 검사 시간이 경제성을 지탱하는가?
가장 뜨거운 칩 옆에 빛을 놓는 역설
CPO는 전기 경로를 짧게 하려고 광학 엔진을 대형 스위치 ASIC 바로 옆에 둔다. 그런데 ASIC은 높은 전력을 소비하며 뜨거워지고, 레이저와 변조기, 공진형 광소자는 온도에 따라 특성이 바뀔 수 있다. 전기적으로 가장 좋은 위치가 열적으로 가장 까다로운 위치가 되는 셈이다. 냉각판을 무작정 크게 만들면 섬유가 지나갈 공간과 조립 접근성이 줄어든다.
해법은 하나가 아니다. 레이저를 패키지 바깥에 두는 외부 광원 구조는 민감한 광원을 열원에서 분리하고 교체성을 높일 수 있다. 반대로 연결과 제어가 늘어나는 대가를 치른다. 액체 냉각은 높은 열유속을 처리할 수 있지만 누수 위험, 배관, 유지보수 절차가 따라온다. 열에 둔감한 변조기와 파장 제어 회로, 열구역을 분리한 패키지, 저전력 SerDes도 함께 발전해야 한다.
따라서 ‘CPO가 전력을 몇 배 절감한다’는 숫자는 장비 경계를 확인해야 한다. 광학 엔진만 계산했는지, 외부 레이저와 냉각 펌프를 포함했는지, 동일한 거리와 오류율에서 비교했는지가 중요하다. 기술의 방향성은 분명하지만 실제 데이터센터의 절감량은 토폴로지, 활용률, 냉각 방식, 광원 효율에 따라 달라진다.
고장 나면 어떻게 고칠 것인가
플러거블 모듈의 강력한 장점은 현장에서 문제가 생긴 모듈만 뽑아 바꿀 수 있다는 점이다. CPO에서 광학 엔진이 패키지에 붙으면 동일한 방식의 교체가 어렵다. 작은 광부품 하나 때문에 스위치 보드 전체를 내려야 한다면 절약한 전력보다 중단 비용이 더 클 수 있다. 그래서 제품 설계는 광원, 섬유 커넥터, 패키지, 냉각판의 고장 영역을 분리하고 우회 경로를 마련해야 한다.
업계가 제시하는 외부 레이저 모듈은 이 문제의 일부를 푼다. 수명이 제한될 수 있는 광원을 접근 가능한 위치에 두고, 패키지에는 빛을 변조하고 수신하는 엔진을 둔다. 다중 광원을 사용해 하나가 고장 나도 출력을 유지하는 방법도 있다. 다만 커넥터가 늘면 삽입 손실과 오염 가능성도 늘어난다. 결국 서비스성은 ‘부품을 밖으로 빼면 해결’이 아니라 신뢰성, 광손실, 비용의 균형 문제다.
운영자는 평균고장간격만 보지 말고 평균복구시간, 예비부품 단가, 교체 인력, 광커넥터 청정 절차, 소프트웨어의 링크 격리 능력을 함께 봐야 한다. 특히 AI 학습은 수일에서 수개월 이어질 수 있어 작은 링크 오류가 체크포인트 재시작과 유효 연산 손실로 번진다. 네트워크 신뢰성은 하드웨어 사양표 밖의 생산성 지표다.
대역폭 숫자보다 중요한 네 가지 지표
비트 하나를 옮기는 데 드는 에너지. 광원과 냉각까지 포함한 경계를 확인한다.
칩 가장자리 또는 패널 면적당 처리량. 케이블과 커넥터 밀도도 함께 본다.
평균뿐 아니라 느린 상위 구간이 분산 학습 동기화에 미치는 영향을 본다.
오류, 수리, 재시작을 포함해 GPU가 실제 계산한 시간의 비율을 본다.
첫째, 전력당 대역폭이다. 같은 100Tb/s라도 1비트를 옮기는 에너지가 낮으면 전력 예산을 연산에 더 쓸 수 있다. 둘째, 대역폭 밀도다. 스위치 칩 둘레는 한정되어 있으므로 얼마나 많은 광 채널을 신뢰성 있게 배치하는지가 확장성을 좌우한다. 셋째, 지연 분포다. 평균 지연이 낮아도 일부 패킷이 자주 늦으면 집단 통신의 가장 느린 참가자가 전체 단계를 막는다. 넷째, 가용성과 복구성이다. 링크가 많아질수록 개별 부품의 작은 고장률이 시스템 수준에서 크게 보인다.
제품 발표의 배수 표현을 읽을 때는 기준 시스템과 구성, 거리, 트래픽 패턴, 냉각 조건을 확인해야 한다. 엔비디아는 자사 CPO 네트워크가 전통적 플러거블 방식 대비 전력 효율과 지속 실행시간을 개선한다고 설명한다. 브로드컴도 CPO가 광학과 실리콘을 한 기판에 이종집적해 경로 손실과 전력을 낮춘다고 제시한다. 두 회사의 자료는 상용화 방향을 보여주는 1차 자료이지만, 서로 다른 제품·세대의 수치를 직접 합쳐 일반화해서는 안 된다.
표준화 없이는 빛도 섬이 된다
CPO는 하나의 칩이 아니라 인터페이스의 묶음이다. ASIC과 광학 엔진 사이 전기 규격, 레이저 광원 연결, 섬유 커넥터, 관리 소프트웨어, 텔레메트리, 열 기계 구조가 맞아야 한다. 특정 공급사의 패키지에 모든 요소가 묶이면 초기 최적화는 빠를 수 있지만 공급망 선택권과 세대 간 교체가 제한될 수 있다. 반대로 인터페이스를 너무 일찍 고정하면 혁신을 가로막을 수 있다.
표준화의 목표는 모든 제품을 똑같이 만드는 것이 아니다. 서로 다른 회사의 부품이 예측 가능한 조건에서 연결되고, 운영 도구가 상태를 읽으며, 장애 단위를 분리할 수 있게 하는 것이다. 플러거블 광모듈 생태계가 성장한 배경에도 명확한 폼팩터와 전기·광 규격이 있었다. CPO 역시 광원 모듈, 섬유 부착, 관리 인터페이스, 테스트 방법에서 개방형 생태계를 넓혀야 비용과 공급 위험을 낮출 수 있다.
초대형 AI 클러스터
포트 밀도와 전력 한계가 이미 운영 제약인 곳, 수많은 GPU의 유휴 시간이 큰 비용으로 이어지는 곳은 CPO의 편익을 빨리 얻을 가능성이 높다.
중소 규모 범용 데이터센터
플러거블 모듈의 유연성과 저렴한 유지보수가 더 중요한 곳은 검증된 세대와 표준 생태계를 기다리는 편이 합리적일 수 있다.
이 차이는 CPO가 플러거블을 당장 전부 없앤다는 뜻이 아님을 보여준다. 거리와 장비 계층에 따라 구리 케이블, 플러거블 광모듈, 선형 광학, CPO가 공존할 가능성이 크다. 기술 전환은 ‘승자 하나가 모든 연결을 차지하는 사건’보다 병목이 가장 심한 곳부터 광학이 칩 쪽으로 이동하는 과정에 가깝다.
한국 반도체 산업에는 무엇이 달라지나
AI 반도체 경쟁을 GPU 설계만으로 보면 CPO의 산업적 의미를 놓친다. 고대역폭메모리와 첨단 패키징에 이어 광인터커넥트는 시스템 성능을 결정하는 또 하나의 층이 된다. 국내 기업과 연구기관에는 실리콘 포토닉스 소자, 저전력 구동 회로, 인터포저, 광섬유 정렬 장비, 열 설계, 패키지 테스트, 레이저·광검출 소재 등 다양한 진입점이 있다. 이번 Nature Electronics 리뷰에도 한국 대학과 SK하이닉스 연구진 등이 참여해 학계와 산업의 관심이 교차하고 있음을 보여준다.
기회가 곧바로 시장점유율을 뜻하지는 않는다. 광부품은 긴 신뢰성 검증과 고객 인증이 필요하고, 대형 클라우드 사업자와 스위치 공급사가 생태계를 주도할 수 있다. 국내 공급망은 개별 소자의 최고 성능뿐 아니라 고객 시스템에서 조립·검사되는 방식, 표준 참여, 설계도구와 공정설계키, 장기 공급능력을 준비해야 한다. 패키징 장비와 검사 기술은 눈에 덜 띄지만 양산 비용을 결정하는 전략 분야다.
산업 뉴스를 읽는 다섯 가지 기준
- 시제품인가 양산인가: 논문 데모, 고객 샘플, 생산 출하를 구분한다.
- 어디까지 통합했나: 광원·변조기·검출기·드라이버·ASIC의 경계를 본다.
- 비교 조건이 같은가: 거리, 속도, 오류율, 냉각을 맞춘 수치인지 확인한다.
- 누가 수리하는가: 현장 교체 단위와 보증 구조를 확인한다.
- 표준과 고객이 있는가: 단일 시연이 생태계 확장으로 이어지는지 본다.
자주 묻는 질문
Q. CPO는 광컴퓨터와 같은 것인가요?
아니다. CPO의 중심 역할은 계산 자체보다 데이터 통신이다. 스위치 ASIC과 GPU는 주로 전자로 계산하고, 칩 또는 패키지 사이 연결의 긴 구간을 빛으로 운반한다. 광행렬 연산처럼 빛으로 계산하는 광컴퓨팅과는 구분해야 한다.
Q. 기존 광섬유 데이터센터와 무엇이 다른가요?
기존 데이터센터도 광섬유를 널리 쓰지만 대개 장비 전면의 플러거블 모듈에서 전기와 광이 변환된다. CPO는 변환 지점을 스위치 ASIC 가까이 옮겨 기판의 고속 전기 경로를 줄인다.
Q. 빛을 쓰면 발열이 사라지나요?
아니다. 레이저, 변조기 구동 회로, 수신기, 스위치 ASIC은 모두 전력을 소비한다. 다만 긴 전기 채널 보정에 쓰는 전력과 손실을 줄여 전체 링크 효율을 개선할 가능성이 있다.
Q. 모든 서버가 곧 CPO로 바뀌나요?
그럴 가능성은 낮다. 초대형 AI 패브릭처럼 전력과 밀도 병목이 큰 구간부터 채택되고, 비용과 서비스성이 중요한 구간에는 플러거블 광모듈과 구리 연결이 오래 공존할 전망이다.
Q. 가장 큰 위험은 무엇인가요?
열, 제조 수율, 광섬유 결합, 현장 수리, 표준화가 동시에 해결돼야 한다는 점이다. 한 영역의 개선이 다른 영역의 비용을 키울 수 있어 시스템 수준 최적화가 필요하다.
앞으로 3년, 무엇을 확인해야 할까
CPO의 진짜 성적표는 발표 무대가 아니라 반복되는 운영에서 나온다. 첫 번째 확인점은 출하량이다. 몇 개의 시범 데이터센터가 아니라 여러 고객이 동일한 플랫폼을 설치하고, 광학 엔진과 외부 레이저가 공급망의 병목 없이 조달되는지 봐야 한다. 두 번째는 장기 신뢰성이다. 높은 온도와 진동, 전원 변동 속에서 링크 오류가 얼마나 안정적으로 관리되는지, 장애가 발생했을 때 서비스 팀이 실제로 얼마나 빨리 복구하는지가 중요하다.
세 번째는 세대 전환 비용이다. 스위치 ASIC은 빠르게 진화하지만 건물의 광섬유와 냉각 인프라는 더 오래 쓴다. 차세대 칩으로 바꿀 때 기존 섬유 배선과 광원 모듈을 재사용할 수 있는지, 패키지에 묶인 부품 때문에 교체 범위가 커지지 않는지 확인해야 한다. 네 번째는 소프트웨어 가시성이다. 운영자가 광출력, 수신 감도, 온도, 오류율을 실시간으로 읽고 고장 징후를 예측할 수 있어야 대규모 패브릭을 안정적으로 다룰 수 있다.
다섯 번째는 에너지의 전체 회계다. 링크 칩의 소비전력만 줄어도 의미가 있지만 사회적 편익을 판단하려면 레이저, 냉각, 제조, 교체 부품까지 포함한 생애주기 에너지를 봐야 한다. CPO가 절약한 전력이 더 큰 모델과 더 많은 추론을 위해 곧바로 소비될 수도 있다. 효율 개선이 총전력 감소로 이어지는지는 데이터센터의 운영 정책과 전력원, 연산 수요에 달려 있다.
마지막은 시장의 다양성이다. 단일 회사가 모든 구성요소를 최적화하면 성능을 빠르게 높일 수 있지만 장기적으로는 호환 가능한 광원, 엔진, 커넥터와 테스트 생태계가 필요하다. 고객이 공급사를 바꾸거나 부품을 조달할 선택권이 있어야 가격과 회복탄력성이 좋아진다. 결국 CPO의 성공은 ‘빛이 구리보다 빠르다’는 물리학만으로 결정되지 않는다. 수리 가능한 설계, 반복 가능한 제조, 투명한 성능 측정, 열린 생태계라는 산업의 기본기가 빛의 장점을 현실로 바꾼다.
AI의 미래는 칩 안의 연산만큼
칩 사이의 빛에서 결정된다
코패키지드 옵틱스는 단순한 케이블 교체가 아니라 네트워크, 패키징, 냉각, 제조 생태계를 다시 설계하는 변화다.
근거 자료
· Nature Electronics, Co-packaged optics for high-performance computing and artificial intelligence, 2026-08-19.
· NVIDIA Newsroom, Vera Rubin Ramps Into Full Production, 2026-05-31.
· NVIDIA, Silicon Photonics Networking for Agentic AI.
· Broadcom, Co-Packaged Optics: Highest Power Efficiency and Bandwidth Density.
※ 기업이 발표한 배수·성능 수치는 각사의 구성과 비교 조건에 따른 주장으로 구분해 서술했으며, 본문은 학술 리뷰와 기업 1차 자료를 교차 확인해 작성했다.
댓글
댓글 쓰기