2026.03.04 수요일
검색
'클라우드컴퓨팅' 검색결과
기간검색
-
~
검색영역
검색어
-
KAIST, 저렴한 GPU로 AI 비용 67% 절감하는 '스펙엣지' 기술 개발 [이코노믹데일리] 인공지능(AI) 서비스의 고질적인 문제로 지적되던 운영 비용을 획기적으로 낮출 수 있는 기술이 국내 연구진에 의해 개발됐다. 한국과학기술원(KAIST·총장 이광형)은 전기및전자공학부 한동수 교수 연구팀이 데이터센터 외부의 저렴한 소비자급 GPU를 활용해 대규모 언어모델(LLM) 인프라 비용을 절감하는 '스펙엣지(SpecEdge)' 기술을 개발했다고 28일 밝혔다. 그동안 LLM 기반 AI 서비스는 고가의 데이터센터 GPU에 전적으로 의존해 비용 부담이 크고 기술 진입장벽이 높다는 한계가 있었다. 이번에 개발된 스펙엣지는 데이터센터 GPU와 개인 PC 및 소형 서버에 탑재된 '엣지 GPU'가 역할을 분담하는 방식이다. 연구팀은 '추측적 디코딩(Speculative Decoding)' 기술을 적용해 엣지 GPU가 먼저 확률 높은 단어를 빠르게 생성하면 데이터센터의 대규모 모델이 이를 검증하도록 설계했다. 이 과정에서 엣지 GPU는 서버 응답을 기다리지 않고 연속적으로 단어를 생성해 처리 속도를 높였다. 기술 적용 결과는 놀랍다. 기존 데이터센터 GPU만 사용하는 방식 대비 AI가 문장을 만드는 최소 단위인 토큰당 비용을 약 67.6% 절감하는 데 성공했다. 비용 효율성은 1.91배 높아졌고 서버 처리량 또한 2.22배 향상됐다. 특히 일반적인 인터넷 환경에서도 원활하게 작동해 별도 네트워크 구축 없이 즉시 상용화가 가능하다는 점이 특징이다. 연구팀은 이 기술이 스마트폰과 개인용 컴퓨터 및 신경망 처리장치(NPU) 등 다양한 기기로 확장될 경우 AI 서비스의 대중화를 앞당길 것으로 보고 있다. 한동수 교수는 "데이터센터를 넘어 사용자 주변의 엣지 자원까지 인프라로 활용해 누구나 고품질 AI를 저렴하게 이용하는 환경을 만들겠다"고 강조했다. 이번 연구 성과는 그 우수성을 인정받아 이달 초 미국 샌디에이고에서 열린 세계 최고 권위의 AI 학회 '신경정보처리시스템 학회(NeurIPS)'에서 상위 3.2%에 해당하는 스포트라이트 논문으로 선정돼 발표됐다.2025-12-28 13:04:22
-
KT, 킨드릴과 맞손…공공·금융 B2B AX 시장 공동 공략 [이코노믹데일리] KT가 세계 최대 IT 인프라 서비스 기업 킨드릴과 손잡고 규제가 까다로운 공공·금융 분야의 인공지능 전환(AX) 시장 공동 공략에 나선다. KT의 통신 및 클라우드 역량과 킨드릴의 글로벌 IT 인프라 운영 노하우를 결합해 높은 수준의 보안과 안정성이 요구되는 B2B 시장을 선점하겠다는 전략이다. KT는 28일 미국 샌프란시스코에서 킨드릴과 AX 사업 협력을 위한 업무 협약을 체결했다고 밝혔다. 킨드릴은 2021년 IBM의 인프라 서비스 사업부에서 분사한 세계 최대 IT 인프라 서비스 기업으로 전 세계 수천여 고객의 복잡한 IT 시스템 설계, 구축, 운영을 책임지고 있다. 이번 협약은 정부의 규제 완화 기조에 맞춰 본격적으로 열리고 있는 공공·금융 시장을 정조준한다. 정부는 ‘제4차 클라우드컴퓨팅 기본계획’을 통해 2027년까지 공공 클라우드 시장 규모를 1조 원으로 확대할 계획이며 금융위원회 역시 ‘망분리 규제 개선’을 추진하며 AX 서비스 도입의 문을 열고 있다. 양사는 각 고객사의 규제 환경에 최적화된 AX 서비스를 공동으로 제안하고 이를 위해 AI·클라우드·네트워크 기반의 차세대 보안 아키텍처를 함께 연구할 계획이다. KT는 킨드릴의 글로벌 전문성과 검증된 교육 프로그램을 활용해 자사 임직원의 AX 역량을 강화하고 ERP 등 KT 내부 핵심 IT 시스템의 현대화도 추진한다. 이번 협력은 KT가 단순한 통신사를 넘어 B2B AX 시장의 핵심 플레이어로 도약하려는 김영섭 대표의 의지가 반영된 행보로 풀이된다. 국내 시장에 강점을 가진 KT가 글로벌 최고 수준의 IT 서비스 기업과 손잡고 기술력과 실행력을 동시에 확보해 시장 지배력을 강화하겠다는 것이다. 페트라 구데 킨드릴 전략시장사장은 “킨드릴은 클라우드를 통해 KT의 IT 인프라 현대화를 가속화하고 운영 전반에서 AI 확산을 확대하기 위해 KT와 협력하게 된 것을 자랑스럽게 생각한다”고 말했다. 정우진 KT 전략·사업컨설팅부문장은 “킨드릴과의 협력을 통해 AI·클라우드·보안 역량과 글로벌 실행력을 강화할 수 있을 것”이라며 “킨드릴과 함께 공공·금융 등 주요 산업 고객에게 안정적이고 신뢰할 수 있는 AX 서비스를 제공하겠다”고 밝혔다.2025-10-28 11:05:06
많이 본 뉴스
영상
Youtube 바로가기
![[편집인 칼럼] 단종 유배지 청령포의 봄, 이벤트 행정 아닌 신뢰 행정이 지킨다](https://image.ajunews.com/content/image/2026/03/03/20260303104341873026_518_323.png)