이 콘텐츠들은 텔레위키가 직접 업로드하는 것이 아닌 유저들이 수집하고 게시하는 것입니다. 문제가 있는 경우 [email protected]로 연락 주시면 조치하겠습니다.

SK하이닉스 실적 전망 중 서버



- AI 추론 단계로의 전환으로 동시 사용자 수와 처리해야할 토큰 수의 급증



- AI 서버의 연산 부담을 일반 서버와 엣지 디바이스 등 다양한 인프라로 분산하려는 움직임 발생



- KV Cache*를 HBM만으로 소화하지 못할 경우 일반 DRAM과 SSD에 순차적으로 offload되는 한편,

다수 사용자의 요청을 병렬로 처리하게 되면서 메모리 사용량이 폭발적으로 증가



- DRAM(HBM, 고성능 DDR5)뿐 아니라 NAND(eSSD) 수요에도 구조적인 변화 시작