“HBM은 형편없는 메모리”…SK하이닉스도 인정한 ‘HBM 이후’ 반도체 전쟁
팻 겔싱어의 충격 발언…SK하이닉스 “HBM은 최종 해답 아니다”
🔥 “HBM은 형편없는 메모리”라는 뜻밖의 발언
인공지능(AI) 반도체 시장의 핵심 부품으로 자리 잡은 HBM(고대역폭메모리)을 두고 뜻밖의 혹평이 나왔습니다.
주인공은 인텔 전 CEO인 팻 겔싱어입니다. 그는 최근 프랑스 파리에서 열린 AI 콘퍼런스에서 HBM의 구조적인 한계를 지적하며 HBM을 두고 ‘형편없는 메모리’라는 강한 표현까지 사용했습니다.
현재 HBM은 엔비디아를 비롯한 AI 가속기에 없어서는 안 될 핵심 부품입니다. 특히 AI가 처리해야 할 데이터가 폭발적으로 증가하면서 GPU에 데이터를 빠르게 공급하는 HBM의 중요성은 계속 커지고 있습니다.
그런데 AI 반도체 업계의 핵심 인물이 HBM의 구조적인 문제를 정면으로 지적한 것입니다.
🧠 HBM이 왜 ‘형편없는 메모리’라는 평가를 받았을까?
HBM은 여러 개의 D램을 수직으로 쌓아 올리고 이를 GPU와 가까운 위치에 배치하는 방식의 메모리입니다.
기존 D램보다 훨씬 넓은 데이터 통로를 확보할 수 있기 때문에 AI 가속기가 엄청난 양의 데이터를 빠르게 처리하는 데 유리합니다.
📌 HBM의 핵심 역할
GPU = 데이터를 계산하는 공장 🏭
HBM = GPU에 데이터를 공급하는 초고속 도로 🛣️
메모리 병목 = 공장은 빠른데 원재료 공급이 늦어지는 상황
하지만 HBM에는 구조적인 단점도 존재합니다.
여러 개의 메모리 칩을 수직으로 쌓으면서 발열 문제가 발생할 수 있고, 패키징과 연결 구조가 복잡해지면서 비용도 증가합니다.
또한 GPU와 HBM 사이의 입출력 구조와 대역폭을 계속 확대하는 데에도 물리적인 한계가 존재합니다.
겔싱어 전 CEO는 특히 여러 층의 D램을 쌓는 구조에서 발생하는 열 문제를 지적하며 HBM이 장기적인 메모리 기술의 최종 해답은 아니라고 주장했습니다.
⚡ SK하이닉스도 “HBM은 최종 해답이 아니다”
더 흥미로운 것은 이 발언에 대한 SK하이닉스 측의 반응입니다.
당시 패널 토론에 참여한 김호식 SK하이닉스 부사장은 HBM의 구조적 한계에 대해 어느 정도 동의하면서 “HBM은 메모리 월 문제의 최종 해답은 아니다”라는 취지의 발언을 했습니다.
겔싱어 전 CEO가 “SK하이닉스가 HBM이 나쁜 메모리라고 인정하는 것이냐”고 되묻자 김 부사장은 다시 선을 그었습니다.
HBM이 나쁜 메모리라는 의미가 아니라 “현재 우리가 가진 메모리 가운데 가장 좋은 메모리”라는 설명이었습니다.
즉, HBM은 현재 AI 반도체가 요구하는 엄청난 데이터 처리량을 감당하기 위한 현실적인 최선의 선택이지만, 장기적으로는 새로운 메모리 구조가 필요하다는 의미입니다.
🚧 AI 반도체의 최대 숙제 ‘메모리 월’
이번 논쟁을 이해하기 위해서는 메모리 월(Memory Wall)이라는 개념을 알아둘 필요가 있습니다.
메모리 월은 반도체의 연산 능력이 아무리 빠르게 발전하더라도 메모리가 데이터를 공급하는 속도가 이를 따라가지 못하면서 전체 시스템 성능이 제한되는 현상을 말합니다.
쉽게 말하면 GPU라는 공장이 아무리 빠르게 제품을 만들어낼 수 있어도 원재료를 실어 나르는 도로가 막혀 있다면 공장의 생산능력을 제대로 활용할 수 없는 것과 같습니다.
HBM은 기존 메모리보다 훨씬 넓은 데이터 통로를 제공하면서 이 문제를 크게 완화했습니다.
하지만 AI 모델의 규모가 계속 커지고 추론 과정에서 처리해야 하는 데이터가 폭증하면서 HBM을 사용하고도 새로운 병목이 발생할 가능성이 커지고 있습니다.
🚀 이제 반도체 업계의 관심은 ‘HBM 다음’으로
이번 발언에서 가장 중요한 부분은 바로 여기입니다.
HBM이 당장 사라지는 것이 아니라 HBM 이후를 준비하는 차세대 메모리 경쟁이 이미 시작되고 있다는 것입니다.
SK하이닉스 역시 메모리 병목을 해결하기 위한 다른 방향의 해법을 연구하고 있다고 밝혔습니다.
이는 HBM 시장을 선도하는 기업조차 현재의 HBM 기술만으로 AI 시대의 모든 요구를 해결하기 어렵다고 판단하고 있다는 의미로 해석할 수 있습니다.
AI 반도체 시장의 경쟁이 단순히 ‘더 빠른 HBM을 만드는 경쟁’에서 GPU와 메모리, 패키징, 인터커넥트까지 하나의 시스템으로 설계하는 경쟁으로 확대되고 있는 것입니다.
🏭 인텔·엔비디아도 차세대 메모리 경쟁에 뛰어든다
이러한 변화는 메모리 업체만의 움직임이 아닙니다.
인텔과 엔비디아 같은 연산 반도체 기업들도 AI 시대의 메모리 병목을 해결하기 위한 새로운 구조와 시스템 설계를 고민하고 있습니다.
인텔은 HBM의 한계를 다른 메모리 배치와 연결 방식으로 해결하려는 차세대 메모리 아키텍처를 연구하고 있으며, 엔비디아 역시 GPU 내부의 초고속 메모리 활용도를 높이는 방향을 고민하고 있습니다.
결국 앞으로의 AI 반도체 경쟁에서는 GPU 자체의 연산 능력뿐 아니라 GPU와 메모리가 얼마나 효율적으로 데이터를 주고받느냐가 더욱 중요한 경쟁력이 될 가능성이 큽니다.
💡 삼성전자·SK하이닉스에는 새로운 기회이자 위기
이러한 변화는 삼성전자와 SK하이닉스에도 상당히 중요한 의미를 갖습니다.
현재까지 메모리 시장의 핵심 경쟁력은 얼마나 많은 D램과 낸드를 안정적으로 생산하면서 원가를 낮출 수 있느냐에 있었습니다.
하지만 AI 시대에는 경쟁의 기준 자체가 달라지고 있습니다.
단순히 ‘비트당 가격’이 아니라 얼마나 적은 전력으로 얼마나 많은 데이터를 이동시킬 수 있는가가 중요한 경쟁력이 되고 있습니다.
📈 AI 메모리 경쟁의 변화
과거 → 비트당 비용 절감
↓
현재 → HBM 대역폭 경쟁
↓
미래 → 와트당 대역폭 경쟁
↓
차세대 → GPU·메모리·패키징 통합 설계
특히 앞으로는 엔비디아와 AMD 같은 AI 칩 설계 업체가 원하는 시스템 구조에 맞춰 메모리 업체가 함께 제품을 개발하는 공동 설계(Co-design)가 더욱 중요해질 가능성이 있습니다.
🔮 HBM은 끝나는 것일까?
그렇다고 해서 HBM의 시대가 곧 끝난다는 의미는 아닙니다.
오히려 현재 AI 인프라에서 HBM의 중요성은 여전히 매우 높습니다. AI 가속기의 성능을 제대로 활용하기 위해서는 빠르고 넓은 메모리 대역폭이 필수적이며, HBM은 현재 가장 현실적인 해결책 중 하나입니다.
다만 기술 발전의 속도가 빨라지면서 HBM 역시 하나의 과도기적 기술이 될 가능성을 염두에 둘 필요가 있습니다.
HBM3E와 HBM4 등 차세대 제품이 등장하더라도 AI 추론과 데이터 처리량이 계속 증가한다면 또 다른 병목이 나타날 수 있기 때문입니다.
📌 투자자들이 주목해야 할 핵심 포인트
이번 논쟁은 단순히 HBM 기술에 대한 평가로 끝나지 않습니다. 반도체 투자 관점에서는 ‘HBM 이후 누가 새로운 메모리 시장의 주도권을 잡을 것인가’라는 질문으로 이어집니다.
첫째, HBM4 이후의 기술 경쟁입니다.
HBM의 대역폭과 용량을 계속 높이는 방향으로 발전할지, 아니면 새로운 메모리 아키텍처가 등장할지 지켜볼 필요가 있습니다.
둘째, 메모리와 GPU의 통합입니다.
앞으로는 메모리를 별도의 부품으로 보기보다 AI 가속기와 함께 하나의 시스템으로 바라보는 시각이 중요해질 수 있습니다.
셋째, 와트당 대역폭입니다.
AI 데이터센터의 전력 소비가 중요한 문제로 떠오르면서 단순히 빠른 메모리보다 전력 효율이 뛰어난 메모리가 더욱 높은 가치를 인정받을 가능성이 있습니다.
넷째, 삼성전자와 SK하이닉스의 차세대 전략입니다.
현재 HBM 시장의 경쟁뿐 아니라 두 기업이 HBM 이후 어떤 메모리 솔루션을 준비하고 있는지도 장기적인 투자 관점에서 중요한 체크포인트가 될 전망입니다.
🎯 결론: HBM을 비판한 것이 아니라 ‘다음 시대’를 말한 것
“HBM은 형편없는 메모리다”라는 팻 겔싱어 전 인텔 CEO의 발언만 보면 HBM의 미래가 어두워진 것처럼 들릴 수 있습니다.
하지만 이번 논쟁의 본질은 HBM의 실패가 아닙니다.
HBM은 현재 AI 시대에 가장 현실적인 메모리 기술이지만, AI의 발전 속도가 계속된다면 HBM만으로는 부족할 수 있다는 의미에 가깝습니다.
특히 HBM 시장의 선두주자인 SK하이닉스 역시 ‘HBM은 최종 해답이 아니다’라는 취지의 발언을 했다는 점은 상당히 의미가 있습니다.
앞으로의 반도체 시장은 ‘누가 더 좋은 HBM을 만드는가’를 넘어 ‘누가 AI 시스템의 다음 메모리 병목을 먼저 해결하는가’를 놓고 경쟁하게 될 가능성이 높습니다.
HBM이 황금알을 낳는 거위라면, 반도체 업계는 벌써 그다음 황금알을 찾기 시작한 셈입니다. 🧠🚀
※ 본 글은 제공된 기사 내용을 바탕으로 핵심 내용을 분석·정리한 정보성 콘텐츠입니다. 특정 종목의 매수 또는 매도를 권유하는 글이 아니며, 투자 판단에 따른 책임은 투자자 본인에게 있습니다.