검색결과 총 6건
-
AI 인프라도 '튜닝' 경쟁…노타, AWS AI칩 최적화 시장 진출
[경제일보] 엔비디아 GPU를 대체할 인공지능(AI) 인프라에 대한 관심이 높아지는 가운데 AI 모델을 클라우드 환경에 맞게 최적화하는 시장도 함께 성장하고 있다. AI 서비스 확산으로 인프라 비용 부담이 커지면서 AWS의 자체 AI 칩인 '트레이니움'과 '인퍼런시아'를 도입하려는 기업이 늘고 있지만, 기존 AI 모델을 새로운 칩 환경에서 효율적으로 구동하기 위해서는 별도의 최적화 작업이 필요하기 때문이다. 7일 노타는 AWS AI 칩 환경에서 기업 고객이 AI 모델의 성능을 극대화할 수 있도록 지원하는 AI 모델 경량화 및 튜닝 서비스를 출시했다고 밝혔다. 노타는 AWS 공인 파트너 자격으로 트레이니움과 인퍼런시아 환경에 맞춘 모델 최적화 서비스를 제공한다. 최근 생성형 AI 도입이 확산되면서 기업들의 관심은 AI 모델 개발뿐 아니라 운영 비용 절감으로도 옮겨가고 있다. 이에 노타는 대규모 언어 모델(LLM)을 서비스하는 기업들이 GPU 확보 비용과 전력 소비 부담이 커지면서 AWS를 비롯한 글로벌 클라우드 사업자들이 자체 개발한 AI 칩 도입을 검토하는 사례가 증가한 것으로 분석한다. AWS의 트레이니움은 AI 모델 학습을, 인퍼런시아는 AI 추론을 위해 설계된 전용 칩이다. AWS는 자체 AI 칩을 통해 가격 대비 성능과 에너지 효율을 높이는 전략을 추진하고 있으며, 글로벌 AI 기업들도 이를 활용해 인프라 비용 절감에 나서고 있다. 다만 기존 AI 모델을 새로운 AI 칩 환경으로 이전하는 과정은 쉽지 않은 것으로 알려졌다. 모델 구조와 연산 방식이 하드웨어마다 달라 별도의 포팅과 최적화가 필요하며, 이를 수행할 전문 인력도 부족한 상황이다. 이로 인해 AI 모델을 다양한 칩 환경에 맞게 경량화하고 성능을 조정하는 최적화 기술의 중요성이 커지고 있다. 노타는 해당 수요를 겨냥해 자사 AI 모델 최적화 플랫폼 '넷츠프레소'를 기반으로 기술검증(PoC)과 모델 포팅, 경량화, 성능 튜닝까지 전 과정을 지원한다. AI 모델 크기를 최대 90% 이상 줄이면서도 정확도를 유지할 수 있도록 지원하고, AWS AI 칩 환경에 맞춘 최적 배포를 제공하는 것이 특징이다. 특히 노타는 AWS 트레이니움과 인퍼런시아 환경에서 대규모 언어 모델을 최적화한 경험도 확보했다고 설명했다. 320억개 파라미터 규모 언어 모델에 경량화 기술을 적용해 모델 크기를 68% 줄이면서도 정확도 손실은 1% 미만으로 유지한 사례를 확보했으며, 다양한 AI 모델 아키텍처에 대한 포팅과 튜닝 경험도 축적했다고 강조했다. 앞서 노타는 모바일 기기뿐 아니라 데이터센터와 엣지 디바이스 등 다양한 환경에서 AI 모델 최적화 기술을 제공해온 바 있다. 그동안 삼성전자, Arm, 퓨리오사AI, 모빌린트 등과 협력하며 하드웨어별 AI 모델 경량화 기술을 검증했으며, 이번 서비스를 계기로 클라우드 AI 인프라 영역까지 사업을 확대한다는 전략이다. 채명수 노타 대표는 "AWS AI 칩은 뛰어난 가격 대비 성능을 제공하며, 노타는 이러한 AWS 칩의 성능을 고객이 자사 모델에서 온전히 활용할 수 있도록 모델 튜닝을 지원한다"며 "AWS AI 칩 기반 인프라 도입을 검토하는 기업 고객에게 실질적인 비용 효율화 성과를 제공하겠다"고 말했다.
2026-07-07 08:23:06
-
리벨리온, 스퀴즈비츠 인수...'AI 반도체' 넘어 풀스택 AI 승부수
[경제일보] 정부가 AI 반도체와 피지컬 AI, AI 데이터센터를 국가 전략사업으로 육성하는 '3대 AI 메가프로젝트'를 추진하는 가운데 리벨리온이 AI 추론 최적화 전문기업 스퀴즈비츠를 인수하며 풀스택 AI 인프라 기업으로의 전환에 속도를 내고 있다. AI 반도체 성능 경쟁을 넘어 소프트웨어와 추론 서빙까지 아우르는 통합 AI 플랫폼 경쟁에 뛰어든 것으로 분석된다. 30일 리벨리온은 AI 추론 최적화 전문기업 스퀴즈비츠를 인수한다고 밝혔다. 이번 인수를 통해 기존 NPU(신경망처리장치) 하드웨어 중심 사업에서 소프트웨어 최적화와 추론 서빙까지 하나의 플랫폼으로 제공하는 통합 AI 인프라 기업으로 사업 영역을 확대한다는 전략이다. 이번 인수는 정부의 AI 산업 육성 기조와도 맞닿아 있는 것으로 풀이된다. 정부는 지난 29일 AI 반도체와 피지컬 AI, AI 데이터센터를 중심으로 한 3대 AI 메가프로젝트를 발표하며 국내 AI 인프라 경쟁력 강화에 나섰다. 리벨리온 역시 지난 3월 국민성장펀드 1호 직접투자 기업으로 선정되며 이른바 'K-엔비디아' 육성 전략의 핵심 기업으로 꼽힌 바 있다. IT 업계에서는 이번 인수의 핵심을 단순한 기업 결합보다 AI 추론 역량 확보에서 찾고 있다. 생성형 AI 서비스가 빠르게 확산되면서 AI 모델 자체의 성능뿐 아니라 실제 서비스 환경에서 얼마나 빠르고 효율적으로 추론을 수행하느냐가 핵심 경쟁력으로 떠오르고 있기 때문이다. AI 추론은 이용자의 요청을 처리해 결과를 생성하는 과정으로, 서비스 속도와 운영 비용, 안정성을 좌우하는 요소로 꼽힌다. 리벨리온이 인수한 스퀴즈비츠는 AI 모델 최적화와 경량화 기술을 보유한 딥테크 스타트업으로 평가된다. 다양한 하드웨어 환경에서 AI 모델의 처리 속도를 높이고 운영 비용을 낮추는 기술력을 갖췄으며, 인텔과 엔비디아 등 글로벌 AI 기업들과 협업 레퍼런스를 확보했다. 또한 네이버와 카카오로부터 투자도 유치하며 기술력을 인정받았다. 양사는 이미 2년 이상 기술 협력을 이어온 검증된 파트너로 알려졌다. 지난 2024년 리벨리온 NPU 기반 생성형 AI 모델 경량화 기술을 공동 개발한 데 이어, 국내 개발자 커뮤니티를 대상으로 오픈소스 추론 프레임워크 'vLLM' 관련 밋업과 워크숍을 공동 개최하는 등 NPU 기반 AI 생태계 확산에도 협력해 왔다. 이번 인수를 계기로 리벨리온은 AI 반도체와 소프트웨어, 모델 최적화, 추론 서빙을 하나의 플랫폼으로 제공하는 엔드투엔드 AI 인프라 역량을 확보하게 된다. 특히 복잡한 AI 서비스 구축 과정을 단순화하고, 보다 효율적인 AI 서비스 운영 환경을 제공받을 수 있을 것으로 전망된다. 앞서 리벨리온은 지난 2024년 사피온코리아와의 합병을 통해 국내 AI 반도체 업계 통합을 이끌었으며, 이번에는 소프트웨어 역량까지 내재화하며 사업 영역을 한층 넓히게 됐다. 박성현 리벨리온 대표는 "기술적 역량과 훌륭한 인재들이 개별 기업의 경계를 넘어 결집할 때 한국의 AI 인프라 생태계가 새로운 가능성을 만들어낸다고 믿는다"며 "리벨리온은 스퀴즈비츠와 힘을 합쳐 하드웨어와 소프트웨어, 그리고 시스템 수준의 대규모 AI 인프라를 아우르는 기업으로 거듭나 글로벌 시장에서 그 믿음을 증명할 것"이라고 말했다. 김형준 스퀴즈비츠 대표는 "스퀴즈비츠의 AI 추론 최적화 기술이 리벨리온 NPU 생태계를 더욱 폭넓게 확장시킬 것"이라며, "리벨리온과의 시너지를 바탕으로 하드웨어와 소프트웨어가 함께 최적화되는 풀스택 AI 인프라를 구현하고, 고객들이 리벨리온 NPU 기반에서 AI 서비스를 더욱 쉽고 경제적으로 운영할 수 있도록 지원하겠다"고 말했다.
2026-06-30 14:06:56
-
-
노타, LG CNS와 글로벌 스마트시티 공략 맞손…AI ITS 사업 확대
[경제일보] 노타가 LG CNS와 손잡고 인공지능(AI) 기반 지능형 교통체계(ITS) 시장 공략에 나선다. 생성형 AI를 넘어 실제 도시 인프라를 제어하고 운영하는 '피지컬 AI' 시장이 확대되는 가운데 교통 분야를 중심으로 글로벌 스마트시티 사업 기회를 확대하려는 전략으로 풀이된다. 23일 노타는 최근 LG CNS와 AI 기반 실시간 지능형 교통체계 사업화를 위한 업무협약(MOU)을 체결했다고 밝혔다. 이번 협약은 LG CNS의 글로벌 스마트시티·ITS 사업 역량과 노타의 AI 경량화·최적화 기술을 결합해 해외 교통 인프라 시장을 공동 공략하기 위해 마련됐다. 양사는 공동 마케팅과 현장 실증, 기술 개발, 사업 발굴 및 구축까지 협력 범위를 확대할 계획이다. 최근 스마트시티 시장은 단순 데이터 수집과 모니터링 중심에서 AI가 실시간으로 상황을 분석하고 의사결정을 지원하는 형태로 진화하고 있다. 특히 교통 분야는 방대한 영상과 센서 데이터를 즉시 분석해야 하는 만큼 피지컬 AI의 대표 적용 영역으로 꼽힌다. 교통 혼잡 완화와 사고 예방, 도시 운영 효율화 수요가 증가하면서 AI 기반 ITS 시장도 빠르게 성장하고 있다. 노타는 AI 모델 경량화 및 최적화 기술을 바탕으로 엣지 환경에서도 실시간 영상 분석이 가능한 ITS 솔루션을 제공하고 있다. 생성형 비전언어모델(VLM) 기반 영상관제 솔루션 'NVA'를 통해 교통 흐름 분석과 돌발 상황 감지, 보행자 및 차량 위험 상황 인식 등 다양한 기능을 지원한다. 특히 AI 모델을 현장 장비에서 직접 구동할 수 있도록 최적화해 클라우드 의존도를 낮추고 실시간성을 확보한 것이 특징이다. 이를 통해 교통관제센터와 도로 인프라가 보다 빠르게 상황을 인식하고 대응할 수 있도록 지원한다. LG CNS는 도시 전체의 교통 흐름을 분석·예측하는 도시통합운영센터(IOC)를 기반으로 글로벌 스마트시티 사업을 추진해 왔다. 양사는 노타의 ITS 기술과 LG CNS의 AI 스마트시티 플랫폼을 연계해 교통 인프라 디지털 전환과 AI 기반 도시 운영 수요에 대응할 계획이다. 양사는 향후 미주 지역을 주요 전략 시장으로 삼고 AI 기반 ITS 프로젝트를 공동 발굴할 예정이다. 교통 데이터 분석과 실시간 관제 기술을 활용해 도시 교통 운영 효율을 높이고 안전성을 강화하는 다양한 사업 기회를 모색한다는 방침이다. 앞서 노타는 지난해 LG CNS가 주관한 케냐 나이로비 교통관제센터 구축 사업에 참여해 AI 모델 최적화 기술을 적용한 스마트 교차로 시스템을 구축한 바 있다. 해당 프로젝트를 통해 국내 AI 기업과 스마트시티 사업자의 협력 모델을 검증한 것이다. 최근 AI 산업이 소프트웨어 영역을 넘어 로봇과 자율주행, 스마트팩토리, 도시 인프라 등 물리적 공간으로 확장되면서 피지컬 AI 시장 경쟁도 본격화되고 있다. 이에 노타는 스마트폰과 자동차, 로봇, 산업장비 등에서 축적한 온디바이스 AI 기술을 바탕으로 도시 인프라 시장까지 사업 영역을 확대하고 있다. 채명수 노타 대표는 "이번 협약은 노타의 AI 경량화·최적화 기술이 글로벌 ITS 사업 역량을 갖춘 LG CNS와 결합해 더 큰 시장으로 확장될 수 있는 계기"라며 "교통은 피지컬 AI가 도시 인프라에서 실질적인 가치를 만들 수 있는 주요 영역인 만큼, 양사의 기술과 사업 역량을 바탕으로 현장에서 활용 가능한 AI 기반 지능형 교통 체계 솔루션을 만들어가겠다"고 말했다.
2026-06-23 08:36:44
-
노타, 엔비디아 무대서 '현장 AI' 비전 제시…피지컬 AI 공략 속도
[경제일보] AI 모델 경량화·최적화 기업 노타가 엔비디아 아시아태평양 파트너 행사에서 피지컬 AI 시대의 엣지 AI 비전을 공유했다. AI가 클라우드 안에 머무는 것을 넘어 도시와 도로, 항만, 산업 현장에서 실시간으로 작동하는 흐름이 빨라지는 가운데 노타의 온디바이스 AI 최적화 기술이 주목받고 있다. 노타는 김태호 최고기술책임자(CTO) 겸 공동창업자가 대만에서 열린 ‘NVIDIA APAC Robotics and Edge AI Partner Day’에 초청돼 패널 토크에 참여했다고 2일 밝혔다. 이번 행사는 컴퓨텍스 2026 기간 중 엔비디아가 개최한 아시아태평양 지역 파트너 행사로, 로보틱스와 엣지 AI 분야 주요 기업들이 피지컬 AI와 스마트 공간 지능화 방향을 논의하는 자리로 마련됐다. 김 CTO가 참여한 패널 토크 주제는 ‘How Physical AI is Helping Transform Smart Spaces’였다. 세션에서는 도시, 도로, 항만, 산업 현장 등 실제 공간에서 AI가 상황을 실시간으로 인지하고 판단하며 대응하는 기술 흐름이 다뤄졌다. 카메라 등 현장 인프라에서 수집되는 데이터를 AI가 분석해 사고 예방, 안전 관리, 운영 효율화로 연결하는 방식이다. ◆ 피지컬 AI 핵심은 ‘현장 가까운 AI’ 노타는 이번 패널에서 온디바이스 AI와 엣지 AI 최적화 기술의 중요성을 강조했다. 엣지 AI는 데이터를 모두 클라우드로 보내 처리하는 대신 카메라, 로봇, 교통 인프라, 산업 장비 등 현장 가까운 기기에서 AI를 구동하는 방식이다. 네트워크 지연을 줄이고 개인정보 보호 부담을 낮추며, 통신 환경이 불안정한 현장에서도 빠르게 대응할 수 있다는 장점이 있다. 특히 스마트시티와 산업공간에서는 실시간성이 중요하다. 사고 위험을 감지하거나 작업자 안전을 확인하는 과정에서 AI 판단이 늦어지면 실제 대응 효과가 떨어질 수 있다. 노타는 AI 모델을 작고 효율적으로 최적화해 제한된 연산 자원과 전력 환경에서도 AI가 안정적으로 작동하도록 하는 기술을 보유하고 있다. 노타는 스마트 공간이 단순한 데이터 수집 공간에서 AI가 맥락을 이해하고 의사결정을 보조하는 지능형 공간으로 진화하고 있다고 봤다. 비전 언어 모델(VLM)과 비전 AI 에이전트가 발전하면서 영상 데이터는 단순 관제 대상을 넘어 현장 상황을 요약하고 보고하며 운영자의 판단을 돕는 핵심 데이터로 활용되고 있다. ◆ 엔비디아 생태계 협력 확대 이번 패널 참여는 노타가 엔비디아 생태계 안에서 쌓아온 협력 흐름을 피지컬 AI와 로보틱스 영역으로 넓히는 계기로 평가된다. 노타는 앞서 엔비디아 커넥트 파트너로 선정됐고 지난 4월 엔비디아 네모트론 해커톤에서 대상과 트랙 1위를 차지하며 AI 최적화 역량을 선보였다. 엔비디아가 최근 로보틱스와 엣지 AI, 피지컬 AI를 차세대 성장축으로 강조하고 있다는 점도 의미가 있다. 로봇과 드론, 스마트시티, 산업 자동화가 확산될수록 현장에서 작동하는 AI 모델의 효율성과 안정성은 중요한 경쟁력이 된다. 노타 입장에서는 엔비디아 젯슨 등 엣지 AI 플랫폼과 연계한 최적화 기술을 글로벌 파트너들에게 알릴 수 있는 기회다. 다만 피지컬 AI 시장 확대를 위해서는 실제 현장 적용 사례 확보가 필요하다. AI 모델 최적화 기술이 도시·교통·산업 현장에서 비용 절감, 운영 효율화, 안전 개선 효과로 이어져야 사업성이 커진다. 노타가 글로벌 파트너들과의 협력을 통해 엣지 AI 레퍼런스를 얼마나 빠르게 늘리느냐가 향후 성장의 핵심 변수가 될 전망이다. 김태호 노타 CTO 겸 공동창업자는 “피지컬 AI 시대에는 AI가 디지털 공간을 넘어 실제 물리 환경에서 상황을 인지하고 판단하며 대응하는 역량이 중요해지고 있다”며 “노타는 온디바이스 AI 최적화 기술을 기반으로 도시, 교통, 산업 현장에서 실시간으로 작동하는 엣지 AI 구현에 집중해왔으며 앞으로도 글로벌 파트너들과 함께 로보틱스와 엣지 AI 생태계 확산에 기여하겠다”고 말했다.
2026-06-02 09:21:28
-