델 테크놀로지스는 자사의 고성능 AI 서버인 ‘델 파워엣지 XE9680(Dell PowerEdge XE9680)’에 ‘인텔 가우디 3(Intel Gaudi 3)’ AI 가속기 지원을 추가한다고 밝혔다. 델은 데이터 집약적이고 복잡한 워크로드를 효과적으로 지원하게끔 설계된 XE9680의 확장된 라인업을 통해 AI 활용을 고려하는 엔터프라이즈 고객들에게 더 넓어진 선택지를 제공하게 됐다고 전했다. 델 파워엣지 XE9680은 x86 서버 아키텍처에 8개의 GPU를 탑재하는 모델로 AI 운영에 특화된 성능을 제공한다. 델은 XE9680 에코시스템에 인텔 가우디3 가속기를 통합함으로써, 고객이 생성형 AI 워크로드와 관련된 컴퓨팅 요구 사항에 맞춰 시스템을 맞춤화할 수 있도록 지원한다. 델은 범용성과 강력한 성능을 모두 갖춘 AI 가속 인프라를 제공하겠다는 전략이다.     안전성과 확장성에 중점을 두고 설계된 XE9680은 가우디3 가속기를 추가함으로써 보다 풍부한 서버 구성 옵션을 제공하게 됐다. 최대 32개의 DDR5 메모리 DIMM 슬롯을 통해 데이터 처리량을 향상시켰고, 16개의 EDSFF3 플래시 스토리지 드라이브와 8개의 PCIe Gen 5.0 슬롯으로 확장된 연결성과 대역폭을 제공한다. 프로세서당 최대 56개 코어를 지원하는 4세대 인텔 제온 스케일러블(Intel Xeon Scalable) 프로세서를 2개를 장착했으며, 고난도의 AI/ML 워크로드에 대한 데이터 처리 및 분석에 최적화되어 있다. 인텔 가우디3 AI 가속기는 64개의 커스텀 및 프로그래밍 가능한 텐서 프로세서 코어(TPC)와 128GB의 HBMe2 메모리 용량, 3.7TB의 메모리 대역폭, 96MB의 온보드 SRAM 등 생성형 AI 워크로드에 대응하기 위한 스펙을 갖췄다. 가우디3는 또한 개방형 에코시스템을 갖춰 파트너십 기반의 최적화 및 모델 라이브러리 프레임워크 지원의 이점이 있다. 기존 코드베이스의 전환을 간소화하는 개발 툴로 간편한 마이그레이션을 지원한다. 가우디3 가속기로 강화된 파워엣지 XE9680은 6개의 OSFP 800GbE 포트를 통해 가속기에 직접 결합된 새로운 네트워킹 기능을 제공한다. 외장 NIC를 시스템에 배치할 필요 없이 외부 가속기 패브릭에 직접 연결이 가능해 인프라를 단순화하고, 인프라의 총소유비용과 복잡성을 낮추는데 효과적이다. 또한 인텔 가우디3 전문 미디어 디코더는 AI 비전 애플리케이션을 위해 설계됐다. 광범위한 사전 처리 작업을 지원해 비디오에서 텍스트로의 변환을 간소화하고 엔터프라이즈 AI 애플리케이션의 성능을 높인다. 기존 하드웨어 성능을 넘어 AI를 통해 심층적인 데이터 인사이트를 확보하고자 하는 기업에서는 폭넓은 가속기 옵션을 갖춘 XE9680을 중요 자산으로 활용할 수 있다. 고급 처리 능력과 효율적인 공랭식 설계가 결합된 것도 특징이다. 인텔 가우디 3 AI 가속기를 탑재한 파워엣지 XE9680 서버 모델은 2024년 안에 국내 출시될 계획이다  한국 델 테크놀로지스의 김경진 총괄 사장은 “델은 폭넓은 협업 전략을 통해 AI 개발의 경계를 확장하고, 새로운 표준을 끊임없이 제시하고 있다”면서, “고객이 AI 여정의 어느 단계에 있든 목표 달성을 가속하고 미래에 필요하게 될 요구 성능에 대비하는 동시에, 이 여정이 안전하게 지속될 수 있도록 지원하는데 집중할 계획”이라고 덧붙였다.

인텔은 연례 고객 및 파트너 콘퍼런스인 ‘인텔 비전 2024’에서 기업용 생성형 AI를 위한 성능, 개방성 및 선택권을 제공할 인텔 가우디 3(Intel Gaudi 3) 가속기를 공개했다. 그리고 이와 함께 생성형 AI 도입 가속화를 위한 새로운 개방형 스케일러블 시스템 스위트, 차세대 제품 및 전략적 협력도 발표했다.  인텔 가우디 3 AI 가속기는 공통 표준을 따르는 이더넷을 통해 최대 수만 개의 가속기를 연결해 AI 시스템을 구동한다. 인텔 가우디 3는 BF16에 대해 4배 더 많은 AI 컴퓨팅 및 기존 모델 대비 1.5배 커진 메모리 대역폭을 지원한다. 인텔은 “이 가속기는 생성형 AI를 대규모로 배포하려는 글로벌 기업에게 AI 학습 및 추론 분야에서 획기적인 도약을 지원할 수 있다”고 설명했다.   ▲ 인텔 팻 겔싱어 CEO   인텔은 가우디 3가 70억 개 및 130억 개의 매개변수가 있는 라마2(Llama2) 모델과 GPT-3 1750억개 매개변수 모델 전체에서 엔비디아 H100보다 평균 50% 더 빠른 학습 시간을 제공할 것으로 예상하고 있다. 또한 인텔 가우디 3 가속기 추론 처리량은 평균적으로 H100보다 50%, 전력 효율성의 경우 라마(Llama) 70억 개 및 700억 개 매개변수와 팔콘(Falcon) 1800억 개 매개변수 모델에서 평균 40% 더 우수할 것으로 예상한다. 인텔 가우디 3는 개방형 커뮤니티 기반 소프트웨어와 업계 표준 이더넷 네트워킹을 제공한다. 또한 기업은 싱글 노드에서 클러스터, 슈퍼 클러스터, 수천 개의 노드가 있는 메가 클러스터로 유연하게 확장할 수 있으며, 최대 규모의 추론, 미세 조정 및 학습을 지원한다. 인텔 가우디 3는 2024년 2분기에 델 테크놀로지스, HPE, 레노버, 슈퍼마이크로를 비롯한 OEM 시스템에 탑재될 예정이다. 또한 인텔은 하드웨어, 소프트웨어, 프레임워크, 툴 등을 포함한 개방형 스케일러블 AI 시스템에 대한 전략을 제시했다. 인텔의 이러한 접근법은 기업별 생성형 AI 요구 사항을 충족하는 솔루션을 제공하기 위한 것으로, 다양하고 개방적인 AI 생태계를 가능케 한다. 여기에는 장비 제조업체, 데이터베이스 공급자, 시스템 통합업체, 소프트웨어 및 서비스 공급자 등이 포함된다. 또한, 기업 고객이 이미 알고 신뢰하는 생태계 파트너 및 솔루션을 활용할 수 있는 부분도 장점으로 꼽힌다. 인텔은 다양한 업계의 기업 고객 및 파트너들과 새롭고 혁신적인 생성형 AI 응용 프로그램을 개발하기 위해 인텔 가우디를 활용해 협력하고 있다고 밝혔다. 예를 들어, 네이버는 클라우드에서부터 온디바이스까지 첨단 AI 서비스를 전세계에 배포하기 위해 강력한 LLM 모델을 개발하고 있는데, 대규모 트랜스포머 아키텍처 기반 모델의 컴퓨팅 작업을 뛰어난 와트 당 퍼포먼스로 실행하기 위해 인텔 가우디를 사용한다. 보쉬는 자사 기반 모델 개발을 포함한 스마트 제조의 가능성을 모색하고 있으며, 합성 데이터 세트 생성과 더불어 자동 광학 검사와 같은 견고하고 분산된 트레이닝 세트 제공한다. 이에 더해 구글 클라우드, 탈레스, 코히시티(Cohesity)가 클라우드 환경에서 기밀 컴퓨팅 역량을 활용할 수 있도록 인텔과의 협력을 발표했다.    인텔은 인텔 가우디 3 가속기 외에도 엔터프라이즈 AI의 모든 부문에 걸쳐 차세대 제품 및 서비스에 대한 업데이트를 발표했다. 새로운 인텔 제온 6 프로세서는 폐쇄적 데이터를 사용하여 비즈니스에 특화된 결과를 생성하는 RAG를 포함한 최신 생성형 AI 솔루션을 실행할 수 있다. 2024년 출시될 차세대 인텔 코어 울트라 클라이언트 프로세서 제품군(코드명 루나레이크)은 차세대 AI PC를 위해 플랫폼 기준 100 TOPS 이상, NPU에서 45TOPS 이상을 제공할 예정이다. 인텔은 울트라 이더넷 컨소시엄(UEC)을 통해 AI 패브릭을 위한 개방형 이더넷 네트워킹을 선도하며 다양한 AI 최적화 이더넷 솔루션을 선보이고 있다.  인텔의 팻 겔싱어(Pat Gelsinger) CEO는 “혁신은 전례 없는 속도로 발전하고 있으며, 반도체가 이 모든 것을 가능하게 한다. 또한 모든 기업이 빠르게 AI 기업으로 거듭나고 있다”면서, “인텔은 PC부터 데이터센터, 에지에 이르기까지 기업 전반의 모든 곳에 AI를 가능하게 하고 있다. 인텔의 최신 가우디, 제온 및 코어 Ultra 플랫폼은 변화하는 고객과 파트너의 요구를 충족하고 앞으로의 엄청난 기회를 활용할 수 있도록  유연한 솔루션 세트를 제공하고 있다”고 밝혔다.

디지털 지식전문가 조형식의 지식마당   현재를 디지털 전환(DX)의 시대라고 하는 데에는 많은 사람이 동의할 것이다. 그리고 디지털 전환이라는 용어가 4차 산업혁명의 자리를 차지하기 시작하고 있다. 디지털 전환이라는 것은 무엇일까? 디지털 전환 또는 디지털 트랜스포메이션(digital transformation)은 기업이나 조직이 디지털 기술을 적극적으로 도입하여 비즈니스 모델, 프로세스, 서비스 및 제품을 혁신하는 과정이라고 할 수 있다. 이를 통해 기업은 경쟁력을 강화하고, 고객 경험을 향상시키며, 효율을 증가시킬 수 있다. 디지털 전환의 주요 요소는 다음과 같다. 고객 중심성 : 디지털 기술을 활용하여 고객의 요구와 기대를 이해하고 충족시키기 위한 전략을 수립해야 한다. 데이터 및 분석 활용 : 빅데이터, 인공지능(AI), 머신러닝 등을 활용하여 데이터를 수집, 분석하고 이를 기반으로 의사결정을 내린다. 디지털 기술 도입 : 클라우드 컴퓨팅, 사물인터넷(IoT), 모바일 기술, 사이버 보안 등의 디지털 기술을 도입하여 비즈니스 프로세스를 혁신한다. 조직 문화 및 리더십 변화 : 디지털 전환을 성공적으로 수행하기 위해 혁신을 추구하는 조직 문화와 리더십의 변화가 필요하다. 비즈니스 모델 혁신 : 기존의 비즈니스 모델을 재구성하거나 새로운 비즈니스 모델을 개발하여 디지털 시대에 적합하도록 한다. 디지털 전환의 시대에 엔지니어링에 대해서 생각해 보기전에 다양한 엔지니어링 접근에 대해서 정리해 봤다. 시스템 엔지니어링, 스마트 엔지니어링, 디지털 엔지니어링은 모두 공학 분야의 중요한 접근 방식이지만, 각각의 초점과 적용 방식에 차이가 있다. 시스템 엔지니어링(systems engineering) : 시스템 엔지니어링은 복잡한 시스템의 개발과 통합을 관리하는 일련의 공정이다. 이는 다학제 팀(interdisciplinary teams)이 협력하여 시스템의 전체적인 구조를 설계하고, 시스템 간의 상호작용을 최적화하는 데에 초점을 맞춘다. 시스템 엔지니어링은 프로젝트의 초기 단계에서 요구사항 정의부터 시작하여, 시스템 설계, 구현, 통합, 시험 운영 및 유지보수에 이르기까지 전 과정을 포괄한다. 스마트 엔지니어링(smart engineering) : 스마트 엔지니어링은 첨단 기술과 지능형 시스템을 활용하여 제품의 설계, 제조, 운영을 최적화하는 공학 접근법을 말한다. 이는사물인터넷, 빅데이터, 인공지능, 클라우드 컴퓨팅 등을 통합하여, 제품과 시스템의 성능을 향상시키고, 유지보수를 간소화하며, 사용자 경험을 개선하는 데 중점을 둔다. 필자가 주장하는 스마트 엔지니어링은 고객의 가치를 극대화하는 것이다. 인간은 가치 피라미드(value pyramid)에서 다양한 욕망을 충족할 때 스마트하다고 생각한다.  디지털 엔지니어링(digital engineering) : 디지털 엔지니어링은 제품이나 시스템의 전체 수명 주기를 걸쳐 요구사항(requirement), 설계(design), 분석(analysis), 검증(verification) 및 확인(validation)을 지원하기 위해 디지털 모델과 시뮬레이션을 사용하는 공학 기법이다. 이 접근법은 디지털 트윈, 시뮬레이션, 3D 모델링 등의 기술을 활용하여 물리적 프로토타입의 필요성을 줄이고, 공정의 효율성을 높인다. 각 접근법은 공학 프로젝트와 시스템 개발에서 중요한 역할을 하며, 때로는 이러한 개념들이 상호 보완적으로 사용될 수 있다. 스마트 엔지니어링과 디지털 엔지니어링은 기술의 적용에 더 큰 초점을 맞추는 반면, 시스템 엔지니어링은 프로세스와 프로젝트 관리의 측면에서 더 포괄적인 접근법을 제시한다. 시스템 엔지니어링은 주로 복잡하고 개발하는 데 오랜 기간이 소요되는 무기체계나 소프트웨어 개발에 주로 사용하고, 스마트 엔지니어링은 첨단 스마트 기기를 개발할 때 적용되었다. 그러나 최근의 디지털 전환 시대에서는 디지털 엔지니어링이 제품 혁신을 주도하고 있으며 모든 산업에 영향을 주고 있다. 디지털 전환의 시대에 디지털 엔지니어링은 산업 디지털 전환의 핵심이 될 것이다. 특히 디지털 트윈과 소프트웨어 정의(software-defined) 제품에서 제품수명주기에 핵심이 될 것으로 생각된다.  여기서 필자의 첫 번째 가설은 ‘제조업의 디지털 전환에서 가장 핵심은 디지털 엔지니어링과 PLM의 기준 정보가 아닐까’ 생각해 본다. 두 번째 가설은 ‘기존의 PLM의 프로세스를 디지털 프로세스로 새롭게 리엔지니어링해야 할 것’으로 생각한다. 세 번째 가설은 ‘그러면 디지털 프로세스에 가장 근접한 프레임워크는 무엇일까’를 생각해 봤다. <그림 1>은 디지털 제품/시스템 수명주기(digital product/system life cycle) 프레임워크이다.    그림 1. 디지털 제품/시스템 수명주기 프레임워크   <그림 1>에서 이제는 제품이나 시스템이 단순히 디지털 데이터가 물리적 시스템을 보조하기 위해서 사용했던 이전 정보화 시대나 디지털화가 아닌 본격적인 디지털 전환 시대가 열렸다는 것을 알려준다. 제품 개발에서 시스템과 엔지니어링의 무한 순환 구조를 가지며, 시스템은 현실세계의 물리적 시스템과 가상의 디지털 트윈 시스템으로 구성된다. 물리적 실체 시스템은 기존의 CAX 또는 소프트웨어 지원 엔지니어링(software-suported engineering)으로 작업을 하고, 디지털 트윈은 소프트웨이 기반 엔지니어링(software-driven engineering)의 2가지 유형의 디지털 프로세스가 적용될 것이다.   <그림 1>의 디지털 제품/수명주기 프레임워크(DPL framework)에서 상호 데이터의 교체 시스템은 디지털 PLM 시스템이 될 것이고, 그 중에서 디지털 스레드(digital thread)가 핵심이 될 것으로 예상된다. 이 디지털 스레드를 통해서 최적의 의사결정이 이루어질 것이고, 그것은 디지털 데이터와 인공지능의 몫이 될 것으로 생각된다.   그림 2. 디지털 전환의 3단계   디지털 전환은 단순히 기술적인 변화만을 의미하는 것이 아니라, 조직 전반의 변화를 포함하는 포괄적인 과정이다. 이를 통해 기업은 더욱 민첩하고, 혁신적이며, 고객 중심적인 방향으로 발전할 수 있다. 일반적으로 디지털 전환은 세 가지 단계를 가진다.(그림 2) 그것은 정보화(digitization), 디지털화(digitalization), 디지털 전환(digital transformation, DX)이며 엔지니어링의 디지털 전환인 디지털 엔지니어링에서 이 세 가지 단계가 적용될 수 있다. 현재 오래된 엔지니링 프로세스는 정보화(digitization) 및 디지털화(digitalization)이고 미래 지향적 디지털 엔지니어링은 디지털 제품 수명주기 프로세스의 프레임위크로 만들어야 한다.  “가장 위험한 형태의 인간 실수 중 하나는 자신이 달성하려는 것을 잊는 것입니다.” -폴 니츠(Paul Nitze)   ■ 조형식 항공 유체해석(CFD) 엔지니어로 출발하여 프로젝트 관리자 및 컨설턴트를 걸쳐서 디지털 지식 전문가로 활동하고 있다. 현재 디지털지식연구소 대표와 인더스트리 4.0, MES 강의, 캐드앤그래픽스 CNG 지식교육 방송 사회자 및 컬럼니스트로 활동하고 있다. 보잉, 삼성항공우주연구소, 한국항공(KAI), 지멘스에서 근무했다. 저서로는 ‘PLM 지식’, ‘서비스공학’,  ‘스마트 엔지니어링’, ‘MES’, ‘인더스트리 4.0’ 등이 있다.     ■ 기사 내용은 PDF로도 제공됩니다.

  엔비디아가 구글과 협력해 모든 엔비디아 AI 플랫폼에서 AI 모델 ‘젬마(Gemma)’를 위한 최적화를 진행해, 비용을 절감하고 도메인별 용도에 따라 작업 속도를 높였다고 밝혔다. 젬마는 구글의 새로운 경량 오픈 언어 모델로, 20억(2B) 개 파라미터와 70억(7B) 개 파라미터 크기로 제공된다. 젬마는 구글의 멀티모달 모델인 제미나이(Gemini) 개발에 사용된 동일한 연구와 기술을 기반으로 구축됐다. 엔비디아는 구글과 협력해 엔비디아 텐서RT-LLM(TensorRT-LLM)으로 젬마의 성능을 가속화했다. 텐서RT-LLM은 데이터센터, 클라우드 혹은 엔비디아 RTX GPU가 탑재된 PC에서 대규모 언어 모델(LLM) 추론을 최적화하는 오픈 소스 라이브러리이다. 이를 통해 개발자는 전 세계 고성능 AI PC에 탑재된 1억 개 이상의 엔비디아 RTX GPU를 활용할 수 있다. 개발자들은 클라우드 상의 엔비디아 GPU에서도 젬마를 실행할 수 있다. 여기에는 H100 텐서 코어(H100 Tensor Core) GPU를 기반으로 하는 구글 클라우드 A3인스턴스(A3 instances)가 포함되며, 초당 4.8테라바이트의 141GB HBM3e 메모리를 갖춘 엔비디아 H200 텐서 코어 GPU도 합류할 예정이다. 구글은 올해 안에 이를 배포할 예정이라고 전했다. 엔비디아는 네모 프레임워크(NeMo Framework)가 적용된 엔비디아 AI 엔터프라이즈(AI Enterprise)와 텐서RT-LLM을 비롯한 광범위한 도구를 갖추고 있다. 엔터프라이즈 개발자는 이들을 추가로 활용해 젬마를 미세 조정하고 최적화된 모델을 프로덕션 애플리케이션에 배포할 수 있다. 한편, 엔비디아는 자사의 기술 데모인 챗 위드 RTX(Chat with RTX)에 곧 젬마가 추가로 지원될 예정이라고 전했다. 챗 위드 RTX는 검색 증강 생성(Retrieval-augmented generation : RAG)과 텐서RT-LLM 소프트웨어를 사용해 로컬 RTX 기반의 윈도우 PC에서 사용자에게 생성형 AI 기능을 제공하는 기술이다. 사용자는 챗 위드 RTX를 통해 PC의 로컬 파일을 LLM에 쉽게 연결하고, 자신의 데이터로 챗봇을 개인화할 수 있다. 챗 위드 RTX는 로컬에서 모델이 실행되므로 결과가 빠르게 제공되며 사용자 데이터가 디바이스에 유지된다. 클라우드 기반 LLM 서비스에 대신 챗 위드 RTX를 사용하면 민감한 데이터를 제3자와 공유하거나 인터넷에 연결할 필요 없이 로컬 PC에서 처리할 수 있다.

  엔비디아와 시스코는 양사간 협력을 통해 데이터센터용 AI 인프라 솔루션을 제공할 계획이라고 밝혔다. 이 솔루션은 간편한 배포와 관리를 통해 AI 시대에서 기업들이 성공하기 위해 요구되는 대규모 컴퓨팅 성능을 지원하는 것이 목적이다.   엔비디아는 GPU로 시작해 현재는 AI 분야에서 강력한 기술을 갖추고 있으며, 시스코는 이더넷 네트워킹 분야에서 전문성과 파트너 생태계를 갖추고 있다. 두 기업은 협력을 강화해 보안성이 뛰어난 이더넷 기반 인프라로 고객의 원활한 AI 전환을 지원하겠다는 비전과 다짐을 공유했다. 엔비디아는 시스코와 함께 지난 몇 년 동안 웹엑스(Webex) 협업 장치와 데이터센터 컴퓨팅 환경 전반에 걸쳐 광범위한 통합 제품 솔루션을 제공했다. 이 솔루션은 유연한 업무 공간, AI 기반 회의, 가상 데스크톱 인프라를 갖춘 하이브리드 업무 환경을 구현한다. 양사는 앞으로 데이터 센터 분야에서 파트너십을 더욱 강화한다고 밝혔다. 이를 통해 기업에게 확장 가능하고 자동화된 AI 클러스터 관리, 자동화된 문제 해결, 높은 수준의 고객 경험 등을 제공할 계획이다.  양사는 엔비디아의 최신 텐서코어 GPU를 시스코 M7세대 통합 컴퓨팅 시스템(UCS) 랙, 블레이드 서버에서 사용할 수 있게 지원한다. 여기에는 시스코 UCS X-시리즈와 UCS X-시리즈 다이렉트가 포함된다. 이를 통해 데이터센터와 에지에서 광범위한 AI와 데이터 집약적 워크로드를 위한 최적의 성능을 발휘한다. 또한, 보다 안전하고 안정적이며 우수한 프로덕션 AI를 위한 소프트웨어 프레임워크, 사전 훈련된 모델과 개발 툴을 포함하는 엔비디아 AI 엔터프라이즈(AI Enterprise)가 시스코 글로벌 채널을 통해 제공된다. 한편, AI 클러스터의 간편한 배포와 관리를 위해 시스코 검증 설계(Cisco Validated Designs, CVD) 기반의 레퍼런스 아키텍처가 제공된다. 이는 가상화, 컨테이너화된 환경 등 다양한 사용 사례에서 규모와 관계없이 이용할 수 있고, 컨버지드와 하이퍼 컨버지드 옵션 모두 지원된다. 엔비디아 AI 엔터프라이즈를 활용해 생성형 AI 추론을 수행하는 플렉스포드(FlexPod)와 플래시스택(FlashStack)용 CVD는 2024년 2월 중 공개될 예정이며, 향후 더 많은 CVD가 제공될 예정이다. 이외에도 엔비디아와 시스코는 ▲AI 인프라 관리와 운영을 간소화하는 온프레미스 및 클라우드 기반 관리 ▲클라우드나 온프레미스 네트워크에서 발생하는 문제에 대해 AI 기반 인사이트와 자동화된 문제 해결 제공 ▲AI 기능을 통해 도메인 전반의 실시간 원격측정 컨텍스트화 및 디지털 경험을 개선하기 위한 가시성 확보 ▲AI와 자동화의 도입을 위한 지원과 안내를 받을 수 있는 글로벌 파트너 생태계 등을 제공한다. 시스코의 척 로빈스(Chuck Robbins) CEO는 “AI는 우리가 일하고 생활하는 방식을 근본적으로 바꾸고 있다. 역사적으로 볼 때 이 정도 규모의 변화는 기업이 인프라를 재고하고 재설계해야 한다는 것을 보여준다. 엔비디아와 파트너십을 강화함으로써 기업들은 대규모 AI 솔루션을 구축, 배포, 관리, 보호하는 데 필요한 기술과 전문성을 갖추게 될 것”이라고 말했다. 엔비디아의 젠슨 황(Jensen Huang) CEO는 “모든 기업이 생성형 AI로 비즈니스를 혁신하기 위해 경쟁하고 있다. 우리는 시스코와의 긴밀한 협력을 통해 기업들이 역사상 가장 강력한 기술인 AI의 혜택을 누리는 데 필요한 인프라를 그 어느 때보다 쉽게 확보하도록 지원하고 있다:고 전했다.

에퀴닉스(Equinix)는 기업이 엔비디아 DGX AI 슈퍼컴퓨팅 인프라를 자체적으로 구축하고 관리할 수 있는 완전 관리형 프라이빗 클라우드 서비스를 발표했다. 이 서비스는 기업이 커스텀 생성형 AI 모델을 구축하고 실행하도록 지원한다. 에퀴닉스가 발표한 서비스는 즉시 이용 가능하며, 엔비디아 DGX 시스템(NVIDIA DGX Systems), 엔비디아 네트워킹(NVIDIA Networking) 및 엔비디아 AI 엔터프라이즈(NVIDIA AI Enterprise)  소프트웨어 플랫폼을 포함한다. 에퀴닉스는 각 고객이 소유한 엔비디아 인프라를 설치하고 운영하며, 고객을 대신해 전 세계 주요 International Business Exchange(IBX) 데이터센터에서 서비스를 구축할 수 있다.     고객은 에퀴닉스의 완전 관리형 엔비디아 AI 슈퍼컴퓨팅 서비스를 통해 데이터와 근접한 위치에서 AI 인프라를 운영할 수 있다. 이 서비스는 글로벌 네트워크 서비스 제공업체에 대한 고속 프라이빗 네트워크 접근성을 제공해 기업 광대역 네트워크를 통한 생성형 AI 정보를 빠르게 검색할 수 있도록 지원한다. 더불어, 데이터 보안 및 규정 요건을 충족시키며 AI 워크로드를 용이하게 할 수 있도록 클라우드 서비스 및 기업 서비스 제공업체에 대한 프라이빗 및 고대역폭 상호연결을 제공한다. 이 서비스를 사용하면 고객은 엔비디아 AI 엔터프라이즈 소프트웨어에 쉽게 접근이 가능하며, 생성형 AI를 포함한 프로덕션급 AI 애플리케이션의 개발 및 배포를 간소화할 수 있다. 엔비디아 AI 엔터프라이즈에는 LLM 구축을 위한 엔비디아 니모(NVIDIA NeMo) 프레임워크, 데이터 과학용 엔비디아 래피즈(NVIDIA RAPIDS), 의료 분야를 위한 엔비디아 클라라(NVIDIA Clara), 대규모 언어 모델 성능 최적화를 위한 엔비디아 텐서RT(NVIDIA TensorRT) LLM과 같은 사전 훈련된 모델, 최적화된 프레임워크 및 가속화된 데이터 과학 소프트웨어 라이브러리가 포함되어 있다. 기업은 이 서비스를 바탕으로 인프라 운영을 확장하고 대규모 모델을 개발하고 실행하는데 필요한 AI 성능을 달성할 수 있다. 이 서비스를 활용하는 얼리 액세스 고객으로는 생명과학, 금융 서비스, 소프트웨어, 자동차 및 유통 등 다양한 산업의 선두 기업들이 있다. 이들 기업은 AI 센터 오브 엑설런스(AI Center of Excellence)를 설립해 다양하게 발전하는 대규모 언어 모델(LLM) 사용 사례에 대한 전략적인 기반을 구축하고 있다. 여기에는 신약 제품 출시 시간 단축, 고객 서비스 에이전트를 위한 AI 코파일럿 개발, 가상 생산성 보조 도구 구축 등이 포함된다. 에퀴닉스의 찰스 마이어스(Charles Meyers) CEO는 “기업들이 생성형 AI가 가진 잠재력을 완전히 활용하기 위해서는 로컬 시장에서 유연하고 확장 가능한 하이브리드 인프라를 구축해야 한다. 이를 통해 AI 슈퍼컴퓨팅에 자신이 보유한 데이터를 적용할 수 있다”면서, “이번에 발표하는 신규 서비스는 세계적인 전문가들이 운영하고 관리하는 선진적인 AI 인프라를 고객이 빠르고 경제적으로 도입할 수 있는 방법을 제공한다”고 말했다. 엔비디아의 젠슨 황(Jensen Huang) CEO는 “생성형 AI는 모든 산업을 변혁하고 있다”며 “전 세계 기업들은 에퀴닉스의 운영 효율성은 물론 전 세계 수백 곳에 위치한 에퀴닉스 데이터센터에서 엔비디아 AI 슈퍼컴퓨팅 및 소프트웨어를 구축하고 운영할 수 있다”고 말했다.

엔비디아는 KT가 엔비디아 DGX 슈퍼팟(NVIDIA DGX SuperPOD) 플랫폼을 기반으로 초거대 AI 모델 ‘믿음(Mi:dm)’을 구축했다고 전했다. KT는 경량 모델부터 초대형 모델에 이르기까지 기업 규모와 사용 목적에 맞게 완전 맞춤형으로 사용 가능한 AI 모델을 제공한다. 또한 AI 풀스택을 통해 KT클라우드와 함께 믿음의 기업 전용 AI인 믿음 클라우드팜(Mi:dm CloudFarm)을 패키지로 제공한다. 이를 통해 기업은 별도 개발과 학습 인프라가 없어도 합리적인 비용으로 초거대 AI를 활용한 서비스를 개발할 수 있다. KT는 초거대 AI를 활용하고 학습하고자 하는 모든 기업에게 믿음의 파운데이션 모델(foundation model)을 개방하고 있다. 이를 위해 KT 믿음 스튜디오(KT Mi:dm Studio)라는 전용 포털을 오픈해 고객에게 편리한 개발 환경을 제공한다. 여기서는 KT 믿음의 파운데이션 모델을 직접 선택해 학습 및 서빙할 수 있는 맞춤형 환경이 구성된다.  KT는 LLM(대규모 언어 모델)의 B2B 사업화를 가속하고, 궁극적으로 기업들이 원하는 AI 사업 모델과 응용 서비스의 확산을 이끌어낸다는 계획이다. 또한, 기존 대비 약 27% 가까운 GPU 학습 비용 절감이 가능한 KT 클라우드의 HAC(Hyperscale AI Computing) 서비스, 추론 비용을 기존 대비 50% 절감한 리벨리온(Rebellions)의 NPU 인프라 등 AI 풀스택을 효율적인 AI 개발 환경을 위한 맞춤형 통합 패키지로 함께 제공할 예정이다.     KT는 엔비디아 DGX 슈퍼팟 플랫폼을 기반으로 믿음을 개발했다. 믿음은 대규모의 데이터를 학습한 LLM으로, 설계된 목적 외 다양한 과제에 대한 답변도 생성 가능하다. 또한 목적에 따라 개별의 데이터 수집, 학습, 추론이 필요했던 기존 모델과 달리 하나의 모델로 여러가지 업무를 동시에 수행한다. 엔비디아의 네모 프레임워크(NeMo Framework)는 믿음 파운데이션 모델 학습에 활용됐다. 안전하고 확장 가능한 AI를 지원하는 엔비디아 AI 엔터프라이즈(AI Enterprise) 소프트웨어 제품군에 포함된 네모 프레임워크는 데이터 처리, 학습, 평가, 생성형 AI 모델 추론 등 LLM 파이프라인 전반에 걸친 솔루션이다. 엔비디아 네모는 대규모로 LLM을 신속하게 학습, 사용자 맞춤화, 배포함으로써 투자수익률(ROI)을 향상시킨다. 아울러 멀티 노드와 멀티 GPU 학습으로 처리량을 극대화해 LLM 학습 시간도 줄인다. 엔비디아는 KT와 협력해 최적의 3D 병렬처리(parallelism)를 찾아 초거대 AI인 믿음 학습에 사용되는 계산 처리량을 극대화했다. KT 믿음의 또 다른 장점은 강력한 신뢰 패키지(reliable package)를 제공한다는 것이다. 그간 생성형 AI가 산업 현장에서 폭넓게 사용되는데 큰 장애물로 여겨진 문제점은 ‘AI의 환각 답변(할루시네이션)’이었다. KT는 “검색과 추론, 답변 모든 단계에서 신뢰성을 높일 기술을 개발해 믿음에 적용했으며, 이로 인해 할루시네이션 현상을 일반 생성형 AI 서비스 대비 최대 70% 가까이 줄일 수 있다”고 설명했다. KT는 믿음의 출시를 계기로 기업 전용 LLM 사업화, 새로운 AI 혁신 사업 발굴 등 B2B 시장에 집중할 예정이다. 이후 스타트업 개방 생태계를 통해 초거대 AI 기반 비즈니스 혁신에 나선다는 계획이다. 한편 KT는 AICC와 지니TV, AI 통화비서 등 기존 AI 사업의 인공지능을 믿음으로 고도화하고, KT의 무선 서비스, IVI, 로봇 등에도 초거대 AI를 적용한 사업화를 계획하고 있다. 룰베이스(rule based) 모델을 통해 정해진 답변만 제공하는 것에서 나아가, 앞으로는 생성형 AI의 창의적 답변에 신뢰성 있는 정보를 더해 제공할 수 있을 전망이다. 아울러 믿음을 적용해 내부 업무 프로세스와 고객 서비스도 개선하고, 금융과 통신영역, 지니TV 마케팅, 시니어와 육아상담 등의 영역에서도 믿음을 적용한 업무 프로세스 개선이 진행될 예정이다. KT는 엔비디아 네모 프레임워크를 통해 믿음 서비스에서 파운데이션 모델을 쉽고 빠르고 안정적으로 훈련하고 배포할 수 있을 것으로 보고 있다. 또한, 엔비디아와 협업으로 최첨단 미세 조정과 정렬 기술을 적용해 모델 성능을 향상시켰으며, 특히 양자화같은 엔비디아 TRT-LLM 소프트웨어의 다양한 기술 덕분에 총소유비용(TCO)을 절감할 수 있었다.

개발 : Graphisoft 주요 특징 : 스테이블 디퓨전을 활용해 텍스트 프롬프트로 디자인 배리에이션 생성, 간편한 사용자 인터페이스 제공, 건축/인테리어 디자인의 작업 흐름에 맞춰 최적화, 소스 이미지를 PC에 저장해 지식 재산권 보호 등 자료 제공 : 아키소프트     그라피소프트(Graphisoft)는 건축 및 인테리어 3D 그래픽을 생성하는 툴인 아키캐드 AI 비주얼라이저(Archicad AI Visualizer)를 공개했다. AI 이미지 생성 툴인 스테이블 디퓨전(Stable Diffusion)을 활용하는 아키캐드 AI 비주얼라이저는 건축 디자인과 인테리어 디자인에 최적화된 간편한 사용자 인터페이스를 제공하므로 디자인 초기 단계에서 세밀한 3D 그래픽을 생성할 수 있다. 그라피소프트는 다양한 사업 분야에서 업무를 간소화하고 소프트웨어 개발, 로컬라이제이션, 지원, 마케팅 커뮤니케이션에 긍정적인 영향을 주기 위하여 AI 기술을 사용하고 있다. 예를 들어, 그라피소프트는 소개 영상을 만들기 위해 AI 툴을 사용하여 여러 가지 언어로 만들어진 자료를 제공함으로써 영상 자료에 대한 접근성을 높일 수 있다. 그라피소프트의 졸트 캐러신(Zsolt Kerecsen) 소프트웨어 사업 부문 부사장은 “우리는 로컬라이제이션을 비롯한 소프트웨어 생산 과정에 AI를 통합함으로써 고객에게 더 훌륭한 서비스를 제공할 수 있으며, 소프트웨어를 더 우수한 품질로 더 빠르게 공급할 수 있다”고 말했다. 아키캐드 AI 비주얼라이저는 아키캐드에 통합되어 추가 구매 없이 사용할 수 있다. 사용자는 아키캐드에서 단순한 콘셉트 모델을 만든 다음 텍스트 프롬프트나 몇 가지 설명을 사용하여 원하는 만큼 디자인 배리에이션을 생성할 수 있으므로, 매번 세부적인 모델을 만들지 않아도 된다. 이 툴은 오리지널 콘셉트에 디테일, 컨텍스트, 아이디어를 추가함으로써 디자인 초기 단계에서 여러 가지 대안 디자인을 생성할 수 있다. 아키캐드 AI 비주얼라이저는 사용하기 쉬운 인터페이스를 갖고 있으며, 프롬프트와 결과물은 건축 디자인 및 인테리어 디자인의 작업 흐름에 맞추어 최적화된다. 소스 이미지는 사용자의 컴퓨터에 저장되기 때문에 지식 재산권을 보호할 수 있다. 사용자는 이미지의 크기를 지정하거나, 반복 횟수를 변경하여 이미지 생성 속도를 높이거나, 프롬프트 강도를 편집하여 더 정밀한 결과를 얻는 등 다양한 조작을 수행할 수 있다.     아키캐드 AI 비주얼라이저를 사용하기 위해서는 아키캐드 27 라이선스와 엔비디아 GPU 또는 애플 실리콘 칩이 필요하다. 다국어 버전에 맞추어 최적화되었지만, 현재는 영어 버전만 제공된다. 아키캐드 AI 비주얼라이저는 AI와 같은 혁신적 기술을 기업의 솔루션에 통합할 수 있도록 지원하는 그라피소프트의 어댑티브 하이브리드 프레임워크(Adaptive Hybrid Framework)에 기반을 둔다. 캐러신 부사장은 “우리는 어댑티브 하이브리드 프레임워크를 도입함으로써 AI 비주얼라이저와 같은 혁신적 기술을 우리의 기술 스택에 빠르고 효과적으로 통합할 수 있다”면서, “이것은 우리의 소프트웨어에 포함된 새로운 기능에 이러한 기술을 통합하는 방법을 보여주는 첫 번째 사례이다. 현재 여러 가지 새로운 프로젝트가 진행 중이므로, 그라피소프트의 고객들은 앞으로 새로운 AI 솔루션을 활용함으로써 훌륭한 건물을 디자인하는 일을 해낼 수 있을 것”이라고 전했다. 그라피소프트의 마르톤 키쉬(Marton Kiss) 제품 사업 부문 부사장은 “AI의 혁신에 대한 사람들의 높은 관심이 기술 산업 전체를 흔들어 놓았으며, 창조성은 더욱 높일 수 있는 가능성을 보여주었다”며, "우리는 실제 세상의 실제 사용자들이 이 툴이 가장 필요한 단계인 디자인 초기 단계에서 새로운 디자인을 탐구하고 클라이언트와 소통하는 과정에서 이 툴을 테스트하기를 원한다. 앞으로 수 개월 이내에 네메첵 그룹의 브랜드인 올플랜(Allplan)과 벡터웍스(Vectorworks)에서 AI 비주얼라이저를 사용할 수 있을 것”이라고 밝혔다. ■ 기사 내용은 PDF로도 제공됩니다.