엔비디아 GTC 2025: AI 혁신의 새 시대를 여는 B300 시리즈

2025년 3월 17일 | 테크 뉴스

캘리포니아 새너제이 - 오늘부터 21일까지 미국 캘리포니아 새너제이에서 열리는 엔비디아의 GTC 2025 행사가 전 세계 AI 업계의 주목을 받고 있다. 특히 이번 행사에서는 엔비디아의 차세대 AI 서버 칩인 B300 시리즈가 공개되어 업계의 뜨거운 관심을 모으고 있다.

 

성능 50% 향상된 B300, AI 가속화를 위한 혁신적인 기준점 제시

 

엔비디아가 공개한 차세대 B300 시리즈는 이전 세대인 B200와 비교했을 때 전반적인 성능이 50% 향상되었으며, 특히 메모리 용량이 기존 192GB에서 288GB로 획기적으로 증가했다. 이러한 메모리 확장은 SK 하이닉스의 HBM(High-Bandwidth Memory) 기술 채택을 가속화했으며, 업계 전문가들에 따르면 2025년 HBM 생산량이 이미 전량 예약된 상태로 알려졌다.

최신 B300 GPU는 고성능 12단 HBM3E 메모리를 탑재하여 각 GPU마다 288GB의 대용량 메모리와 초당 8TB에 달하는 놀라운 대역폭을 제공한다. 엔비디아 관계자는 "이번에 도입된 혁신적인 메모리 확장 기술로 인해 AI 모델의 학습 및 추론 속도가 획기적으로 개선되며, 특히 추론 작업에서는 비용 효율성이 최대 3배까지 향상될 것"이라고 자신감을 보였다.

혁신적인 '코어스' 기술로 집적도의 새로운 지평을 열다

B300 시리즈는 사용자의 필요에 따라 듀얼 다이와 싱글 다이 두 가지 구성으로 제공되며, 각각 최첨단 코어스 L(CoWoS-L)과 코어스 S(CoWoS-S) 기술을 적용했다. '칩 온 웨이퍼 온 서브스트레이트'의 약자인 코어스 기술은 최신 패키징 기술로, 메모리와 로직 반도체를 실리콘 기반 인터포저 위에 효율적으로 배치하는 혁신적인 방식이다.

특히 코어스 L은 TSMC의 첨단 인포 기술과의 시너지를 통해 생산 비용 절감과 성능 향상이라는 두 마리 토끼를 동시에 잡는데 성공했다. 이 혁신적인 기술은 실장 면적을 최소화하고 칩 간 연결 속도를 극대화하여 고성능 컴퓨팅(HPC) 분야에서 탁월한 경쟁력을 확보했다. 반면 코어스 S는 안정성이 검증된 기존의 실리콘 인터포저 방식을 계승하여 신뢰성을 유지했다.

냉각 기술의 혁신적 진화: 공랭식에서 차세대 액체 냉각으로

현재 B300 시리즈는 전통적인 공랭식(Air Cooling) 냉각 방식을 채택하고 있지만, 엔비디아의 CEO 젠슨 황은 미래 지향적인 비전을 제시하며 "다음 세대 DGX 시스템에서는 보다 효율적인 액체 냉각 방식을 도입할 것"이라고 발표했다. 액체 냉각 시스템은 특수 냉각수를 활용하여 열을 더욱 효과적으로 분산시킬 수 있어, 고성능 AI 작업 환경에 최적화된 냉각 솔루션을 제공할 것으로 기대된다.

더 나아가 업계 전문가들 사이에서는 한 단계 더 진보된 개념인 액침 냉각(Immersion Cooling) 방식에 대한 논의도 활발히 진행되고 있다. 이 혁신적인 방식은 서버 전체를 특수 설계된 냉각 용액에 완전히 담가 열을 제거하는 방식이지만, 데이터 센터의 전반적인 인프라 구조 변경이 필수적이기 때문에 실제 도입까지는 좀 더 시간이 필요할 것으로 전망된다.

네트워크 솔루션의 획기적인 강화

엔비디아는 B300 시리즈와 함께 한층 더 발전된 퀀텀 네트워킹 솔루션을 선보여 주목을 받았다. 이 첨단 솔루션은 최신 PCI Express 6 표준을 완벽하게 지원하여 전례 없는 수준의 고속 데이터 전송을 가능케 한다. 특히 새롭게 도입된 ConnectX-6 InfiniBand 스마트 어댑터는 업계 최고 수준의 낮은 지연 시간과 탁월한 메시지 전송률을 자랑하며, 최대 2개의 포트를 통해 각각 200Gb/s의 놀라운 연결 속도를 제공한다.

 

미래를 향한 전략적 혁신: 차세대 베라 루빈 아키텍처 개발 박차

엔비디아는 AI 시장에서의 선도적 위치를 더욱 공고히 하기 위해 서버용 GPU 외에도 다양한 워크스테이션과 엔트리 레벨 AI 디바이스로 제품군을 전략적으로 확장하고 있다. 특히 주목할 만한 점은 현재 개발 중인 'Vera Rubin' 아키텍처로, 이는 블랙웰 다음 세대를 이끌어갈 차세대 GPU 아키텍처이며, 2026년 여름이나 가을경에 첫 시험 생산이 시작될 예정이다.

이번 GTC 2025는 AI 기술의 혁신과 발전을 총망라하는 획기적인 행사로 평가받고 있으며, 특히 B300 시리즈의 성공적인 데뷔는 전 세계 AI 산업의 새로운 도약을 이끌어낼 것으로 기대를 모으고 있다.