2026.09.01 화요일
검색
'엔비디아 H100' 검색결과
기간검색
-
~
검색영역
검색어
-
초거대 AI도 '가볍게'…노타, 국가대표 AI 최적화 속도 [경제일보] 국가대표 인공지능(AI) 모델 경쟁이 단순한 성능 경쟁에서 실제 산업 현장에서 얼마나 효율적으로 구동할 수 있느냐를 따지는 방향으로 확대되고 있다. 정부의 '독자 AI 파운데이션 모델(독파모)' 프로젝트에서도 모델 성능뿐 아니라 자원 활용 효율성과 산업 확장성 등이 평가 요소로 떠오른 가운데 국내 기업들의 관련 기술 확보에도 속도가 붙고 있다. 20일 AI 모델 경량화 및 최적화 기술 기업 노타는 자사의 AI 모델 경량화 및 최적화 기술을 바탕으로 국가대표 AI 모델의 활용 경쟁력 강화에 나선다고 밝혔다. 최근 정부가 발표한 독파모 프로젝트 2차 평가에서 업스테이지, SK텔레콤, LG AI연구원 등 3개 컨소시엄이 3차수 진출팀으로 선정됐다. 정부는 단계 평가에서 모델의 정량적 성능뿐 아니라 자원 활용 효율성, 사용성과 실용성, 다양한 산업·서비스 환경으로의 확장 가능성 등을 종합적으로 평가했다고 설명했다. 해당 평가 기준은 국내 AI 경쟁의 기준이 모델 자체의 성능을 넘어 실제 활용 가능성으로 확대되고 있는 것으로 분석된다. 초거대 AI는 모델 규모가 커질수록 GPU와 메모리 등 인프라에 대한 부담도 커지는 만큼 기업과 기관이 실제 서비스를 구축하려면 연산 자원과 운영 비용을 낮추는 기술이 필수적인 것이다. 업스테이지 컨소시엄에서 AI 모델 경량화와 최적화를 맡고 있는 노타는 정부의 평가와 기조에 맞춰 '솔라' 계열 모델의 국내 인프라 활용성을 높이는 데 집중하고 있다. 모델의 성능을 최대한 유지하면서 연산 자원과 메모리 사용량을 줄여 다양한 하드웨어와 서비스 환경에서 구동할 수 있도록 지원하는 방식이다. 앞서 노타는 독파모 2차 평가 결과 발표에 앞서 업스테이지의 '솔라 오픈 2' 경량화 모델을 글로벌 AI 플랫폼 허깅페이스에 공개했다. 기존 모델을 구동하는 데 엔비디아 H100 GPU 8장이 필요했던 환경을 2장으로 줄일 수 있도록 최적화한 해당 모델은 글로벌 누적 다운로드 8만건을 기록했다. 솔라 오픈 2는 2500억개의 매개변수를 갖춘 대규모 AI 모델이다. 노타는 모델 가중치를 INT4와 NVFP4 기반 4비트 형식으로 변환하고 중요도가 낮은 연산 모듈을 선별적으로 정리하는 방식으로 모델을 경량화했다고 설명했다. 그 결과 가중치 저장에 필요한 메모리를 기존 500.6GB에서 117.8GB로 76.5% 줄인 것으로 나타났다. 메모리 용량을 기준으로 H100 GPU 8장이 필요했던 모델을 2장으로 구동할 수 있게 된 것이다. 초거대 AI 모델의 활용 과정에서 발생하는 GPU 확보와 전력, 운영 비용 부담을 낮추고 실제 서비스 적용 가능성을 높인 것으로 평가된다. 특히 업스테이지 컨소시엄은 AI 모델뿐 아니라 국산 AI 반도체와의 결합도 추진하고 있다. 독파모 2차 평가 과정에서 퓨리오사AI의 국산 신경망처리장치(NPU)를 활용해 국산 AI 소프트웨어와 하드웨어 생태계를 연계한다는 계획이다. AI 모델과 반도체를 함께 최적화하는 구조가 자리 잡으면 특정 해외 GPU에 대한 의존도를 낮추면서 국내 인프라 환경에 맞는 AI 서비스 구축도 가능해질 전망이다. AI 모델의 경량화는 독파모뿐 아니라 향후 AI 산업 전반에서도 중요성이 커지고 있다. 기업이 자체 서버에 AI를 구축하는 온프레미스 환경부터 엣지·온디바이스 AI까지 활용 영역이 확대될수록 제한된 연산 자원에서 모델을 구동할 수 있는 기술이 필요하기 때문이다. 향후 독파모 3차수 경쟁에서도 모델의 절대적인 성능과 함께 얼마나 적은 자원으로 안정적인 서비스를 구현할 수 있는지가 주요 경쟁 요소가 될 것으로 전망된다. 국산 AI 모델을 개발하는 데 그치지 않고 국산 반도체, 경량화 기술, 서비스 플랫폼을 연결해 실제 산업 현장에 적용할 수 있는 생태계를 구축하는 것이 국가 AI 경쟁력 확보의 핵심 과제로 떠오르고 있다. 채명수 노타 대표는 "국가대표 AI 모델이 다양한 산업 현장에서 비용 효율적으로 활용될 수 있도록 최적화 기술을 지속적으로 고도화할 것"이라며 "업스테이지와 함께 독파모 3차수 평가에서도 좋은 성과를 거둘 수 있도록 최선을 다하겠다"고 말했다.2026-08-20 08:18:35
-
삼성SDS, 국가 AI 연구용 GPU 공급…B300 앞세워 AI 인프라 사업 확대 [경제일보] 삼성SDS가 국가 AI 연구용 컴퓨팅 사업에 엔비디아 최신 B300 기반 GPU 클러스터를 공급한다. 대학과 정부출연연구기관 등 자체적으로 대규모 AI 인프라를 확보하기 어려운 연구기관에 최신 GPU를 제공해 국내 AI 연구 인프라 고도화를 지원하는 동시에 GPU와 국산 NPU를 아우르는 클라우드 사업 확대에도 속도를 낸다. 11일 삼성SDS는 과학기술정보통신부와 정보통신기획평가원(IITP)이 지원하는 '2026년 AI 연구용 컴퓨팅 지원 프로젝트'의 GPU 자원 공급사로 선정돼 지난달 20일부터 서비스를 시작했다고 밝혔다. 이번 사업은 국내 학계와 연구기관에 AI 연구에 필요한 GPU 컴퓨팅 자원을 지원하는 국가 AI 연구 지원 사업이다. 초거대 AI 모델과 대규모 언어 모델(LLM) 연구가 확대되고 있지만 대학과 정부출연연구기관 등이 최신 GPU를 직접 대규모로 확보하기에는 비용과 운영 부담이 큰 만큼 민간 인프라를 활용해 연구자들의 접근성을 높이는 것이 목적이다. 사업 규모는 약 153억원이며 서비스는 지난 7월부터 내년 3월까지 제공된다. 삼성SDS를 포함한 복수 사업자가 공급사로 선정됐으며 삼성SDS는 GPU 공급 계획과 보유 자원 규모, 연구 환경, 운영 지원 체계, 보안 역량 등을 평가하는 입찰에서 1순위 사업자로 선정됐다. 삼성SDS는 이번 사업에 엔비디아 H100뿐 아니라 최신 B300(블랙웰 울트라) 기반 GPU 클러스터를 투입한다. B300은 엔비디아의 최신 블랙웰 울트라 아키텍처 기반 GPU로, 이번 사업에서 요구한 호퍼급 이상의 사양을 충족하는 동시에 대규모 AI 모델의 학습과 추론에 필요한 성능과 메모리를 제공한다. AI 모델이 대형화하면서 최신 GPU 확보 여부가 AI 연구의 속도와 규모를 좌우하는 요소로 떠오르고 있다. 특히 대규모 모델을 학습하려면 여러 GPU를 동시에 연결해야 하는 만큼 GPU 자체의 성능뿐 아니라 GPU 간 데이터를 빠르게 주고받을 수 있는 네트워크와 스토리지 등 전체 인프라 구성이 중요하다. 삼성SDS는 다수의 GPU를 하나의 자원 풀로 묶는 대규모 클러스터 구성과 고속 인터커넥트 네트워크를 함께 제공한다. CPU와 메모리, 스토리지, 네트워크, 개발 환경 등도 사전 구성해 연구자가 별도의 인프라 구축 과정 없이 AI 연구에 필요한 컴퓨팅 환경을 사용할 수 있도록 지원한다. 최신 GPU는 단순히 장비를 구매하는 것뿐 아니라 데이터센터 공간과 전력, 냉각, 네트워크, 운영 인력 등이 함께 필요해 연구기관이 독자적으로 대규모 클러스터를 구축하기 어려운 것으로 평가된다. 이를 민간 클라우드 방식으로 보완해 국내 AI 연구 현장에서 제기되던 최신 GPU 접근성 문제를 해결한다는 구상이다. 정부 역시 이러한 인프라 격차를 줄이기 위해 국가 AI 연구용 컴퓨팅 지원 사업을 추진하고 있다. 연구자가 직접 고가의 GPU와 서버 인프라를 확보하지 않아도 클라우드를 통해 필요한 컴퓨팅 자원을 사용할 수 있도록 해 연구기관의 AI 개발 접근성을 높이는 방식이다. 앞서 삼성SDS는 지난 3월에 국내 최초로 SCP를 통해 엔비디아 B300 기반 GPUaaS를 출시했다. 고객이 고가의 GPU를 직접 구매하지 않고도 클라우드를 통해 AI 학습과 추론에 필요한 GPU 자원을 사용할 수 있도록 한 서비스다. 이번 사업을 통해 삼성SDS는 단순한 공공 사업을 넘어 AI 클라우드 사업의 적용 범위를 확대하는 것으로 분석된다. 또한 지난달에는 국산 AI 반도체 기업 퓨리오사AI의 2세대 NPU '레니게이드(RNGD)' 기반 NPUaaS도 SCP에 탑재했다. 엔비디아 GPU 중심의 AI 인프라뿐 아니라 AI 추론에 특화된 국산 NPU까지 클라우드에서 제공하면서 AI 가속기 선택지를 넓히고 있다. AI 인프라 시장이 GPU 중심에서 다양한 가속기를 활용하는 방향으로 확대될 가능성도 삼성SDS가 GPU와 NPU를 함께 제공하는 배경으로 꼽힌다. AI 서비스가 학습 중심에서 실제 서비스 운영과 추론 단계로 확대되면서 모든 작업에 고성능 GPU를 사용하는 것보다 작업 특성에 맞춰 GPU와 NPU 등 가속기를 선택하는 것이 비용과 효율 측면에서 중요해질 수 있기 때문이다. 삼성SDS가 GPU와 NPU를 모두 클라우드 서비스 형태로 제공할 경우 기업과 연구기관은 직접 하드웨어를 구매하지 않고 필요한 가속기를 선택해 사용할 수 있다. AI 인프라 구축에 필요한 초기 투자 부담을 줄이는 동시에 기술 변화에 따라 새로운 가속기로 전환하기도 상대적으로 용이하다. 이번 국가 AI 연구용 컴퓨팅 사업에서 B300을 실제 연구 현장에 공급하는 것도 삼성SDS의 AI 인프라 사업을 확대하는 데 레퍼런스로 활용될 수 있다. 대학과 출연연 등 연구기관을 대상으로 최신 GPU 클러스터를 운영하면서 대규모 AI 연구에 필요한 인프라 구축과 운영 역량을 확보할 수 있기 때문이다. 삼성SDS는 이번 국가 AI 연구용 컴퓨팅 사업을 통해 연구기관의 최신 GPU 접근성을 높이는 동시에 GPUaaS와 NPUaaS 등 AI 인프라 서비스의 적용 분야를 확대한다는 계획이다. 향후 공공·연구 분야를 넘어 기업의 AI 모델 개발과 서비스 운영 수요까지 AI 가속기 클라우드 사업을 확대할 수 있을지 주목된다. 이호준 삼성SDS 클라우드서비스사업부장 부사장은 "이번 사업을 통해 국내 연구자들이 세계 최고 수준의 AI 인프라를 바탕으로 혁신적인 성과를 낼 수 있도록 안정적인 서비스를 제공할 것"이라며 "앞으로도 국가 AI 연구 인프라의 저변을 확대하고 대한민국의 AI 경쟁력을 높이는 데 기여하겠다"고 말했다.2026-08-11 08:27:46
-
![[현장] NHN클라우드, AI 풀스택 팩토리X 공개…국가대표 AI 인프라 기업 도약](https://image.ajunews.com//content/image/2026/05/26/20260526110321658138.png)
NHN클라우드, AI 풀스택 '팩토리X' 공개…"국가대표 AI 인프라 기업 도약" [경제일보] "NHN클라우드는 '팩토리X'라는 새로운 이름으로 다시 도전을 시작하려고 한다" 26일 김동훈 NHN클라우드 대표는 NHN클라우드가 서울 중구 더플라자호텔 서울에서 진행하는 기자간담회에서 신규 AI 풀스택 브랜드 '팩토리X'와 중장기 AI 사업 전략을 발표하며 이렇게 말했다. 이날 기자간담회에는 김동훈 NHN클라우드 대표와 강민수 CIO, 김태형 CTO, 안성민 NHN엔터프라이즈 대표 등이 참석해 AI 인프라와 플랫폼, 서비스 전략을 직접 소개했다. NHN클라우드는 이날 대규모 GPU 인프라 운영 경험을 기반으로 차세대 AI 풀스택 전략을 통해 AI 인프라 사업을 확대한다는 목표를 공개했다. 단순 클라우드 사업자를 넘어 AI 인프라 구축부터 운영, 서비스 실행까지 전 과정을 제공하는 '국가대표 AI 인프라 기업'으로 도약하겠다는 것이다. NHN클라우드는 이번 신규 브랜드 공개를 시작으로 AI 사업을 핵심 성장축으로 육성한다는 계획이다. 최근 3년간 연평균 24% 성장세를 이어온 AI 사업을 기반으로 향후 전체 매출에서 AI 사업 비중을 50% 이상까지 확대하겠다는 목표도 제시했다. 김동훈 대표는 이날 발표에서 AI 산업 경쟁 구도가 변화하고 있다고 강조했다. 그는 "AI 경쟁 핵심은 거대 모델 자체보다 이를 실제 비즈니스 환경에서 안정적으로 운영하고 비용을 최적화할 수 있는 실행 환경으로 이동하고 있다"며 "'팩토리X'는 NHN클라우드가 지난 수년간 GPU 인프라 시장에서 축적한 운영 경험과 엔지니어링 역량을 집약한 결과물"이라고 강조했다. '팩토리X'는 GPU 인프라와 AI 플랫폼, AI 서비스까지 통합 제공하는 구조로 설계됐다. NHN클라우드는 개념검증(PoC) 단계에 머무르는 기업들의 AI 프로젝트를 실제 서비스와 업무 환경으로 연결하는 데 초점을 맞췄다고 설명했다. 이날 NHN클라우드는 대규모 GPU 인프라 운영 현황도 공개했다. NHN클라우드에 따르면 광주 국가 AI 데이터센터에서 엔비디아 H100 GPU와 국산 NPU를 함께 운영 중이며 AI 전용 데이터센터 '팩토리X 서울'에서는 정부 GPU 사업을 기반으로 총 27.4EF(엑사플롭스) 규모 AI 클러스터를 구축했다. 특히 NHN클라우드는 최신 GPU인 B200 7656장을 기반으로 국내 최대 수준인 4080장 단일 GPU 클러스터를 상용 운영하고 있다고 설명했다. 현장에서는 랙당 75kW급 고밀도 GPU 환경을 제어하기 위한 100% 수랭식 냉각 시스템 운영 사례도 함께 소개됐다. NHN클라우드는 이를 통해 기존 공랭식 대비 GPU 장애율을 크게 낮추고 운영 안정성을 확보했다고 강조했다. 강민수 CIO는 "AI 서비스 경쟁이 본격화되면서 GPU 확보뿐 아니라 냉각과 전력, 네트워크 설계까지 인프라 운영 역량 중요성이 커지고 있다"며 "AI 서버의 수냉을 적용한 비율은 지난해 23%에 그쳤지만 올해에는 57%로 1년 만에 약 2.5배 급등할 것으로 예상"이라고 설명했다. NHN클라우드는 GPU 자원 운영 효율화를 위한 자체 플랫폼 전략도 공개했다. 자체 개발한 GPU 통합 관리 플랫폼 'GPU Live'는 AI 학습과 추론 워크로드를 자동 분리하고 GPU 자원을 동적으로 배분하는 기능을 제공한다. 이를 통해 GPU 활용률을 높이고 유휴 자원을 최소화한다는 것이다. AI 개발 플랫폼 'AI 이지메이커'도 소개됐다. NHN클라우드는 컨테이너 기반 개발 환경을 통해 모델 학습부터 배포와 운영까지 전 과정을 지원하며 기업들의 AI 개발 생산성을 높일 수 있을 것으로 전망했다. 김태형 NHN클라우드 CTO는 "GPU를 보유한 것과 GPU를 잘 쓰는 것은 완전히 다른 문제"라며 "NHN클라우드의 인프라와 플랫폼 위에서 고객은 AI 시대가 요구하는 빠르고 폭발적인 시도를 반복할 수 있다"고 설명했다. 안성민 NHN엔터프라이즈 대표는 이날 기업 업무 환경에 적용 가능한 AI 에이전트 서비스 '프로젝트 X'도 공개했다. 해당 서비스는 올해 하반기 출시 예정으로 비개발자도 자연어 기반으로 맞춤형 AI 에이전트를 설계할 수 있도록 구성된 것이 특징이다. 안 대표는 "에이전틱 AI 서비스는 폭발적으로 성장하고 있지만, 역설적이게도 이러한 에이전틱 AI 서비스의 폭발은 기업 간 격차를 폭발적으로 벌리고 있는 양상"이라며 "프로젝트 X가 준비한 표준 환경 위에서 최신 상용 모델과 때로는 오픈 모델을 함께 활용할 수 있어 안전성과 유연성 그리고 기동성까지 동시에 만족시킨다"고 말했다. NHN클라우드는 최근 공공과 민간 AI 인프라 사업을 동시에 확대하고 있다. 지난해 정부 'AI 컴퓨팅자원 활용기반 강화 사업'에서 최대 구축 사업자로 선정된 데 이어 올해 초에는 크래프톤 GPU 클러스터 구축 사업도 수주했다. NHN클라우드는 현재 엔씨 AI, 티맥스티베로 등과 협력해 AI·클라우드 생태계 구축에도 나서고 있고, 특히 데이터 주권 기반 AI 인프라 구축과 국산 기술 중심 생태계 확대를 한다는 계획이다. 김 대표는 "100개 기업 중에 7개 기업만이 GPU를 제대로 활용하고 있다"며 "인프라를 얼마나 단단하고 효율적으로 운영하냐가 AI 성적을 좌우한다"고 강조했다.2026-05-26 11:17:24
-
구글, '젬마4' 출시로 오픈소스 AI 경쟁 참전…'제미나이' 투트랙 전략 [경제일보] 구글이 오픈형 인공지능(AI) 모델 '젬마 4'를 공개하며 개방형 AI 시장 공략에 속도를 내고 있다. 고급 추론 능력과 온디바이스 실행을 강화한 모델을 앞세워 개발자 생태계를 확대하고 폐쇄형 모델인 제미나이와의 투트랙 전략으로 AI 경쟁력 강화에 나서는 것으로 분석된다. 2일(현지시간) 구글은 고급 추론과 에이전트 기반 워크플로우를 지원하는 오픈형 모델 제품군 '젬마 4'를 출시했다고 밝혔다. 젬마 4는 아파치 2.0 라이선스로 제공되며 상업적 활용이 가능하다. 구글은 오픈형 모델을 통해 개발자와 기업이 다양한 환경에서 AI를 활용할 수 있도록 접근성을 확대한다는 전략이다. 젬마 4는 'Effective 2B(E2B)', 'Effective 4B(E4B)', '26B Mixture of Experts(MoE)', '31B Dense' 등 총 4가지 모델로 구성됐다. 해당 모델들은 단순한 대화 기능을 넘어 복잡한 논리 처리와 에이전트 기반 자동화 작업을 지원하도록 설계됐다. 특히 고급 추론 기능과 코드 생성 능력, 이미지·오디오 처리 기능 등 멀티모달 지원을 강화했으며 최대 256K 컨텍스트를 지원해 긴 문서 처리도 가능하다. 또한 140개 이상의 언어를 지원해 글로벌 애플리케이션 개발 환경을 제공한다. 구글은 이번 젬마 4를 통해 온디바이스 AI 전략도 강화했다. E2B와 E4B 모델은 스마트폰과 노트북, IoT 기기 등 엣지 환경에서 실행할 수 있도록 설계됐다. 이를 통해 클라우드 연결 없이도 AI 기능을 활용할 수 있으며 낮은 레이턴시와 개인정보 보호 측면에서도 장점을 제공한다. 특히 구글 픽셀을 비롯해 퀄컴, 미디어텍 등 주요 반도체 기업과 협력을 통해 스마트폰과 라즈베리 파이, 엔비디아 젯슨 나노 등 다양한 기기에서 오프라인 실행을 지원한다. 온디바이스 AI 확산이 가속화되는 가운데 구글이 모바일 중심 AI 경쟁력 확보에 나선 것으로 풀이된다. 오픈형 AI 모델 경쟁도 한층 치열해지고 있다. 메타의 'Llama' 시리즈를 비롯해 '미스트랄', 알리바바 'Qwen', 마이크로소프트 'Phi' 등 주요 기업들이 오픈형 모델을 잇따라 공개하며 개발자 생태계 확보 경쟁에 나서고 있다. 이에 구글 역시 젬마 4를 통해 오픈형 AI 시장에서 영향력을 확대하려는 전략으로 분석된다. 구글은 폐쇄형 모델인 제미나이를 중심으로 고성능 AI 서비스를 제공하는 동시에 젬마 시리즈를 통해 구글의 AI 전략 다변화를 진행하고 있다. 제미나이가 클라우드 기반 서비스와 기업 고객 중심이라면 젬마는 개발자와 스타트업을 대상으로 한 오픈형 생태계 구축에 초점이 맞춰져 있다. 두 모델을 병행 운영하며 AI 플랫폼 경쟁력을 강화하려는 전략으로 풀이된다. 또한 구글은 허깅페이스, vLLM, Ollama, NVIDIA NIM 등 주요 개발 도구에서 젬마 4를 출시 당일부터 지원해 개발자 생태계 확대에도 집중한다. 또한 구글 AI 스튜디오와 구글 콜랩, 버텍스 AI 등을 통해 모델 학습과 배포 환경을 확인할 수 있어 개발자는 로컬 환경뿐 아니라 구글 클라우드를 통해 확장 가능한 AI 서비스를 구축할 수 있을 것으로 전망된다. 하드웨어 지원 범위도 확대됐다. 젬마 4는 소비자용 GPU부터 엔비디아 H100 GPU, 구글 TPU까지 다양한 환경에서 실행할 수 있도록 최적화됐다. AMD GPU와의 연동도 지원하며 엣지 기기부터 클라우드까지 폭넓은 환경에서 활용 가능하도록 설계됐다. 이번 젬마 4 출시 이후 온디바이스 AI와 개방형 생태계를 중심으로 AI 시장 주도권 경쟁이 확대될 것으로 분석된다. 구글이 젬마 4를 통해 개발자 생태계 확보에 나서면서 AI 플랫폼 경쟁 구도도 한층 치열해질 전망이다.2026-04-03 11:32:17
많이 본 뉴스
영상
Youtube 바로가기
![[데스크 칼럼] 경산 살인사건을 혐중의 불쏘시개로 삼아선 안 된다](https://image.ajunews.com/content/image/2026/09/01/20260901083324243751_518_323.jpg)