레노버 글로벌 테크놀로지 코리아(ISG)가 AI 서비스 공급사 아이크래프트와 고성능 컴퓨팅(HPC) 및 AI 시장 공략 강화를 위한 파트너십을 체결했다고 밝혔다. 레노버는 “HPC/AI 시장 공략 강화를 위해 아이크래프트를 전문 협력사로 선정했다”면서, “이번 파트너십은 고성능 컴퓨팅(HPC) 기술 발전과 산업 혁신에 있어서 중요한 이정표가 될 전망이며, 특히 레노버의 액체 냉각 기술이 탑재된 신규 씽크시스템(ThinkSystem) 제품의 수냉식 서버 시장 공략에 박차를 가할 것으로 기대된다”고 밝혔다. 아이크래프트는 풀스택 AI 전문업체로서 엔터프라이즈용 AI 및 머신러닝(ML) 서비스 구축을 위한 서버, 스토리지, 네트워크의 도입부터 컨설팅, 시스템 검증 및 운영 관리 지원까지 맞춤형 서비스를 원스톱으로 제공한다. 비즈니스 혁신을 위한 AI 인프라 구축을 희망하는 기업에게 모든 단계에 대한 기술 지원 서비스를 공급하고 있다. 아이크래프트와의 협력을 바탕으로 레노버는 엔비디아의 GPU 및 슈퍼칩을 지원하는 첨단 고성능 컴퓨팅 및 AI 서버인 씽크시스템 제품군의 국내 시장 공략을 가속화할 예정이다. 특히 ‘씽크시스템 SR780a V3’는 고밀도 HPC/AI 워크로드를 처리하는 수냉식 GPU 서버로, 8개의 엔비디아 GPU 및 NV링크(NVLink) 고속 인터커넥트를 지원한다. 레노버의 6세대 넵튠(Neptune) 액체 냉각 기술에 기반해 최대 95%의 열을 제거하는 등 에너지 효율과 계산 성능을 강화한 것이 특징이다. 최근 출시된 ‘씽크시스템 SC777 V4 넵튠’은 100% 직접 온수 냉각 방식에 기반해 컴퓨팅 성능과 에너지 효율을 높인 최첨단 수냉식 서버로, 엔비디아의 GB200 그레이스 블랙웰(Grace Blackwell) 슈퍼칩을 지원한다. 고성능 가속 네트워킹을 위한 차세대 엔비디아 플랫폼 ‘퀀텀-X800 인피니밴드(Quantum-X800 InfiniBand)’, ‘스펙트럼-X800 이더넷(Spectrum-X800 Ethernet)’ 및 ‘엔비디아 AI 엔터프라이즈’를 지원해 생성형 AI, 컴퓨터 비전, 음성 AI 등 실무급 AI 설루션의 개발 및 배포를 간소화한다. 레노버 글로벌 테크놀로지 코리아(ISG)의 윤석준 부사장은 “세계 1위의 슈퍼컴퓨팅 및 HPC 설루션 제공업체로서 레노버는 아이크래프트와 함께 국내 HPC/AI 시장 공략을 확대할 수 있게 되어 기쁘다”면서, “이번 협업을 통해 양사의 강점을 결합한 혁신적이고 에너지 효율적인 설루션을 제공할 수 있게 되었다. 레노버가 10년 이상 선도해 온 넵튠 수냉 기술이 탑재된 레노버의 씽크시스템 제품군이 국내 지속가능한HPC 시장 성장을 가속화하는 데 핵심적인 역할을 할 것”이라고 말했다.  아이크래프트의 권영로 부사장은 “레노버와의 협업을 통해 보다 스마트하고 접근 가능한 AI 서비스 및 IT 인프라를 제공할 수 있게 될 것을 기대한다”면서, “양사의 기술 및 노하우 공유를 토대로 수냉식 AI 서버의 새로운 지평을 열게 될 것”이라고 밝혔다.

아마존웹서비스(AWS)는 ‘AWS 리인벤트’ 행사에서 AWS 트레이니움2(AWS Trainium2) 칩 기반의 아마존 EC2(Amazon EC2) 인스턴스를 공식 출시했다고 발표했다. 또한, AWS는 대규모 언어 모델(LLM) 및 파운데이션 모델(FM)의 학습과 추론을 지원하는 트레이니움2 울트라서버(Trn2 UltraServers)와 차세대 트레이니움3(Trainium3) 칩도 함께 공개했다. Trn2 인스턴스는 16개의 트레이니움2 칩을 탑재하여 최대 20.8 페타플롭스(PF)의 연산 성능을 제공한다. 이는 수십억 개의 매개변수를 가진 LLM의 학습 및 배포에 적합하다. Trn2 인스턴스는 동일한 비용으로 기존 GPU 기반 EC2 P5e 및 P5en 인스턴스 대비 30~40% 더 나은 가격 대비 성능을 제공하며, 메모리 대역폭도 개선되어 비용 효율성이 높다는 것이 AWS의 설명이다. Trn2 울트라서버는 새로운 EC2 제품군으로, 초고속 뉴런링크(NeuronLink) 기술을 사용해 64개의 트레이니움2 칩을 연결하여 최대 83.2 피크 페타플롭스의 연산 성능을 제공한다. 이는 단일 Trn2 인스턴스 대비 연산, 메모리, 네트워킹 성능을 각각 4배로 확장해 대규모의 모델 학습과 배포를 가능하게 한다. Trn2 인스턴스는 현재 미국 동부(오하이오) AWS 리전에서 사용 가능하며, 추가 리전에서도 곧 제공될 예정이다. Trn2 울트라서버는 현재 프리뷰 상태로 제공되고 있다. 한편, AWS는 앤스로픽(Anthropic)과 협력해 수십만 개의 트레이니움2 칩을 포함하는 EC2 울트라클러스터(UltraClusters)를 구축하고 있다고 밝혔다. 이 프로젝트는 ‘프로젝트 레이니어(Project Rainier)’로 명명되었으며, 현재 세대의 최첨단 AI 모델 훈련에 사용된 엑사플롭스의 5배 이상의 성능을 갖출 것으로 기대된다. 이외에도 AWS는 차세대 AI 학습 칩인 트레이니움3를 공개했다. 트레이니움3는 트레이니움2 대비 최대 2배 성능과 40% 개선된 에너지 효율성을 제공하며, 이를 통해 고객은 더 큰 모델을 더 빠르게 구축하고 실시간 성능을 극대화할 수 있다. AWS의 데이비드 브라운(David Brown) 컴퓨팅 및 네트워킹 부문 부사장은 “트레이니움2는 AWS가 개발한 칩 중 가장 강력한 성능을 자랑하며, 대규모 및 최첨단 생성형 AI 워크로드를 지원하기 위해 설계되었다. 이 칩은 학습과 추론 모두에서 최고의 가격 대비 성능을 제공한다”면서, “매개변수가 수조 개에 달하는 모델이 등장하면서, 고객들에게 대규모 모델을 효율적으로 학습하고 운영할 수 있는 새로운 접근 방식이 필요해졌다. Trn2 울트라서버는 AWS에서 가장 빠른 학습 및 추론 성능을 제공하며, 모든 규모의 조직이 세계 최대 모델을 더 빠르고 비용 효율적으로 학습하고 배포할 수 있도록 돕는다”고 전했다.

레노버가 미국 애틀랜타에서 개최된 ‘슈퍼컴퓨팅 2024(SC24)’에 참여해 지속 가능한 AI(인공지능) 전환을 구현하는 고성능 컴퓨팅(HPC) 기술을 선보였다. SC24 발표에서 레노버는 과학 및 기술 연구, 엔지니어링, 비즈니스 등 다방면에서 AI의 잠재력을 극대화할 수 있는 에너지 효율적인 플랫폼 및 설루션을 소개했다. 10년 이상의 노하우와 40개 이상의 특허를 바탕으로 개발된 레노버의 6세대 넵튠(Neptune) 액체 냉각 기술은 기존 공랭식 시스템에 비해 더 효율적으로 열을 제거한다. 새로 혁신된 섀시는 100% 수냉식인 컴팩트한 시스템에 서버를 수직 방향으로 전환해 전력 소모를 줄여 에너지 효율이 크게 향상되었다. 이제 모든 규모의 조직이 개방형 환경에서 표준 전력을 사용해 한 번에 한 트레이씩 고성능 가속 컴퓨팅을 구현할 수 있다. 6세대 레노버 넵튠 수냉식 슈퍼컴퓨팅 서버는 최신 프로세서 및 가속기 기술을 활용해 AI를 효율적으로 실행한다. 지난 10월 출시된 레노버 씽크시스템(ThinkSystem) SC777 V4 넵튠은 6세대 오픈 루프 및 직접 온수 냉각 기술을 탑재한 첨단 수냉식 서버다. 씽크시스템 SC777 V4넵튠은 엔비디아 GB200 그레이스 블랙웰(Grace Blackwell) NVL4 슈퍼칩을 지원하며, 신속함과 비용 및 에너지 효율성에 기반해 제품 출시 관련 1조 개의 매개 변수 AI 모델을 실행할 수 있다. 엔비디아 H200 NVL 플랫폼은 주류 엔터프라이즈 서버를 위한 AI 가속화를 지원한다. 레노버 씽크시스템 SR675 V3와 엔비디아 H200 NVL은 강력한 성능과 효율적인 확장을 제공하는 동시에 광범위한 HPC 워크로드의 요구 사항을 유연하게 충족한다. 또한 풀 스택 AI 포트폴리오에서 실행되는 엔비디아와의 하이브리드 AI 어드밴티지(Hybrid AI Advantage)는 조직이 인사이트를 신속하게 결과로 전환할 수 있도록 지원하며, 어디에서나 AI 기반 컴퓨팅을 빠르고 쉽게 제공한다. 레노버는 콜로케이션 파트너십을 통해 AI 및 HPC 성능 최대화를 필요로 하는 고객들에게 넵튠 액체 냉각 인프라를 제공한다. 이러한 콜로케이션 파트너십은 고객이 데이터센터 공간이 부족하더라도 고성능 프라이빗 AI를 구현할 수 있도록 지원한다. 레노버 넵튠의 직접 수냉 시스템에 기반한 고밀도 콜로케이션을 통해 기업은 에너지 효율성을 극대화하고 열 재활용 가능성을 확보할 수 있으며, 직접 액체 냉각을 통해 데이터센터의 에너지 효율을 30%까지 향상시킬 수 있다.   슈퍼컴퓨터는 자동차∙비행기 설계, 유전 탐사, 금융 리스크 평가, 유전자 맵 작성, 기상 예측 등 다양한 분야에서 활용되고 있다. 레노버는 자사의 수냉식 슈퍼컴퓨터가 전 세계 각지에서 에너지 최적화 및 기술 혁신을 이끌고 있다고 전했다. 스콧 티즈(Scott Tease) 레노버 ISG 제품 총괄 부사장은 “생성형 AI의 시대에 데이터센터는 IT 인프라 및 디지털 경제의 중추로 자리잡고 있다. 데이터센터로 인해 급증하는 에너지 수요에 책임 있게 대응하는 것은 우리 모두의 과제”라며 “레노버 넵튠 액체 냉각 기술의 혁신적인 발전 덕분에 지속가능한 데이터센터 및 AI 워크로드를 구현하는 고성능 컴퓨팅이 가능해졌다”고 전했다.

퓨어스토리지가 자사 플랫폼 기반의 턴키 설계를 제공하는 풀스택 설루션인 새로운 퓨어스토리지 생성형 AI 포드(GenAI Pod)를 발표했다. 기업은 이를 통해 AI 기반 혁신을 가속화하고, 생성형 AI 프로젝트 구축에 필요한 시간, 비용, 전문 기술력을 절감할 수 있다.  오늘날 기업들은 프라이빗 클라우드에서 생성형 AI와 검색 증강 생성(RAG)을 배포하는데 어려움을 겪고 있다. 이는 생성형 AI 워크로드를 지원하는 하드웨어, 소프트웨어, 기본 모델, 개발 도구를 적시에 비용 효율적으로 배포하는 복잡성을 포함한다. 따라서 기업들은 AI로 인해 진화하는 모든 스토리지 요구사항을 해결할 수 있는 단일 통합 스토리지 플랫폼이 필요로 한다. 퓨어스토리지 플랫폼에 구축된 생성형 AI 포드는 새로운 설계를 통해 생성형 AI 사용사례를 위한 턴키 설루션을 제공하며, 기업들이 이들 과제를 해결하도록 지원한다. 생성형 AI 포드는 원클릭 구축과 벡터 데이터베이스 및 기반 모델에 대한 간소화된 2일차(Day 2) 운영을 통해 기업의 AI 이니셔티브를 가속화한다. 포트웍스(Portworx)와 통합된 생성형 AI 포드는 엔비디아 AI 엔터프라이즈 소프트웨어 플랫폼과 밀버스(Milvus) 벡터 데이터베이스를 통해 엔비디아 네모 (NeMo) 및 NIM 마이크로서비스(NIM microservices)의 배포 자동화를 지원하며, 2일차 운영을 더욱 간소화한다. 이러한 검증된 설계의 초기 산업 애플리케이션으로는 신약 개발, 무역 조사 및 투자 분석, 시맨틱 검색, 지식 관리 및 챗봇을 위한 에이전트 프레임워크를 갖춘 검색 증강 생성(RAG)이 포함된다. 퓨어스토리지의 풀스택 설루션에는 하드웨어, 소프트웨어 및 기본 모델은 물론, 업계 주요 AI 공급업체의 전문 서비스가 포함된다. 초기 검증 설계를 위해 퓨어스토리지는 아리스타, 시스코, KX, 메타, 엔비디아, 레드햇, 슈퍼마이크로 및 WWT와 파트너십을 체결했다. 퓨어스토리지 생성형 AI 포드는 2025년 상반기에 정식 출시될 예정이다. 한편, 퓨어스토리지는 플래시블레이드//S500(FlashBlade//S500)가 엔비디아 DGX 슈퍼포드(NVIDIA DGX SuperPOD)의 이더넷 호환성 인증을 통해 엔터프라이즈 AI 구축을 가속화한다고 밝혔다.  대규모 AI를 구축하는 기업은 복잡한 아키텍처 설계와 성능, 전력, 공간 요건을 충족해야 하는 과제를 안고 있다. 이에 따라 퓨어스토리지는 이더넷 기반의 플래시블레이드//S500에 대한 엔비디아 DGX 슈퍼포드 인증을 획득했다. 이 인증을 통해 고객은 향후 증가하는 AI 요구사항에 대비할 수 있도록 유연하고 안정적이며 공간 및 에너지 효율성이 높은 고성능 스토리지 플랫폼으로 하이엔드 엔터프라이즈 AI 트레이닝을 가속화할 수 있다. 새로운 생성형 AI 검증 설계는 플래시블레이드//S500의 엔비디아 DGX 슈퍼포드 인증과 함께, 엔비디아 DGX 베이스포드 인증 받은 에이리(AIRI with NVIDIA DGX BasePOD), 검증된 엔비디아 OVX 서버, 시스코와 공동 설계한 AI용 플래시스택(FlashStack for AI with Cisco) 등 퓨어스토리지의 AI 설루션 포트폴리오를 더욱 확장한다. 이번 발표를 통해 퓨어스토리지는 이제 막 AI 여정을 시작한 고객부터 대규모, 고성능 컴퓨팅 및 데이터 집약적인 요구사항을 가진 고객까지 아우르는 포괄적인 AI 인프라 설루션을 제공하는 선도적인 기업으로서의 입지를 다질 전망이다. 퓨어스토리지의 댄 코건(Dan Kogan) 엔터프라이즈 성장 및 설루션 부문 부사장은 “혁신의 속도가 빨라지면서 기업 고객들은 비즈니스 전 영역에 AI를 활용해야 하지만, 사일로화된 데이터 플랫폼과 복잡한 생성형 AI 파이프라인이라는 근본적인 문제로 어려움을 겪고 있다”며, “퓨어스토리지의 확장된 AI 설루션 포트폴리오는 생성형 AI 및 대규모 엔터프라이즈 AI 클러스터를 위한 검증된 턴키 설계를 통해 고객이 이러한 과제를 해결하도록 지원한다. 검증된 설계는 기술 스택의 모든 계층에서 요구사항을 총체적으로 해결해 AI 프로젝트의 가치 실현 시간과 운영 리스크를 획기적으로 줄인다”고 말했다. 엔비디아의 토니 백데이(Tony Paikeday) AI 시스템 부문 수석 디렉터는 “AI는 전례 없는 속도로 산업을 혁신하고 있으며, 기업들은 이를 달성하기 위해 강력하고 검증된 설루션과 인프라가 필요하다”며, “퓨어스토리지 생성형 AI 포드와 엔비디아 AI 엔터프라이즈 소프트웨어, 플래시블레이드//S500의 엔비디아 DGX 슈퍼포드 인증은 기업들이 인프라 복잡성을 제거하고, 구축 속도를 높이며, 운영을 간소화할 수 있도록 지원한다”고 말했다.

슈퍼마이크로컴퓨터(SMCI)가 슈퍼 클러스터 포트폴리오에 엔비디아 블랙웰 플랫폼을 탑재한 엔드 투 엔드 AI 데이터센터 설루션을 추가했다고 밝혔다. 새로운 슈퍼 클러스터는 수냉식 랙 내 엔비디아 HGX B200 8-GPU 시스템 수를 늘렸다. 이로 인해 기존 수냉식 엔비디아 HGX H100 및 H200 기반 슈퍼마이크로 슈퍼 클러스터 대비 GPU 컴퓨팅 집적도가 향상됐다. 또한, 슈퍼마이크로는 엔비디아 호퍼 시스템 포트폴리오를 강화해 급속도로 증가하고 있는 HPC 애플리케이션과 대중적인 엔터프라이즈 AI의 가속 컴퓨팅 도입에 대응하고 있다. 슈퍼마이크로의 찰스 리앙(Charles Liang) 사장 겸 CEO는 “슈퍼마이크로는 세계 최대 규모의 수냉식 AI 데이터센터 프로젝트에 기여할 수 있는 전문성, 배포 속도, 그리고 배송 역량을 지니고 있다”면서, “최근 슈퍼마이크로와 엔비디아는 GPU 10만개 규모의 AI 데이터센터를 성공적으로 구축했다”고 말했다. 그는 이어 “슈퍼마이크로 슈퍼 클러스터는 직접 액체 냉각(DLC)의 효율성을 통해 전력 수요량을 줄인다. 이제 여기에 엔비디아 블랙웰 플랫폼을 사용하는 설루션이 추가됐다”며, “슈퍼마이크로의 빌딩 블록 방법론을 통해 빠르게 엔비디아 HGX B200 8-GPU 서버를 설계할 수 있으며, 이는 수냉식과 공냉식 냉각 모두 가능하다. 슈퍼 클러스터는 전례 없는 집적도, 성능, 그리고 효율성을 제공하고, 더욱 향상된 AI 컴퓨팅 설루션으로 나아가는 길을 열고 있다. 슈퍼마이크로 클러스터는 직접 액체 냉각을 통해 데이터센터 전반의 성능은 향상시키고 전력 소비를 줄이며 운영 비용 절감 효과를 제공한다”고 설명했다.