Перейти к содержимому

메모리 시장 변곡점? HBM은 빼고 CXL은 키운다… 인텔의 480GB GPU 등장 | 인텔의 진짜 목표는 서버 주도권

안될공학 - IT 테크 신기술

0:00 / 0:00

메모리 시장 변곡점? HBM은 빼고 CXL은 키운다… 인텔의 480GB GPU 등장 | 인텔의 진짜 목표는 서버 주도권

109 864 просмотра · 16 ч назад
안될공학 - IT 테크 신기술
446 тыс. подписчиков
109 864 просмотра · 16 ч назад
인텔이 HBM 대신 LPDDR5X를 사용하는 데이터센터용 AI GPU, D270을 공개했습니다. 인텔 자체 카드는 160GB, 협력사 설계에서는 최대 480GB의 메모리를 지원하는 구성입니다. 이번 영상에서는 인텔과 퀄컴이 대용량 저전력 메모리를 선택한 배경과 겨냥하는 고객을 살펴봅니다. MoE 모델을 통해 실제 계산에 참여하는 파라미터와 모델 전체를 저장하는 공간의 차이를 설명합니다. 여러 에이전트의 작업 상태를 보관하는 KV 캐시와 GPU·호스트 메모리의 역할도 정리합니다. 이어 GPU 밖에서 CPU가 처리하는 도구 실행과 데이터 조회를 통해 인텔의 제온 서버 전략을 짚어봅니다. PCIe와 CXL의 메모리 확장 방식은 D270에서 확인된 기능과 구분해 다룹니다. 대용량 메모리의 장점을 평가하려면 프리필·디코드 성능과 실제 업무의 응답 시간도 함께 비교해야 합니다. 외부 AI 서비스와 자체 서버 사이의 선택에는 장비 가격뿐 아니라 소프트웨어 이전과 운영 비용도 포함됩니다. 마지막으로 LPDDR 기반 추론 제품의 확대가 한국 메모리 업체의 수요와 수익성에 어떤 변수가 될지 생각해봅니다. Written by 패치 Edited by 이진이 unrealtech2021@gmail.com