2026.10.23 금요일
검색
'자율형 AI' 검색결과
기간검색
-
~
검색영역
검색어
-
해킹 넘어 내부 AI도 관리 대상…마이크로소프트, '에이전틱 내부자' 경고 [경제일보] 기업이 업무 효율화를 위해 도입한 인공지능(AI) 에이전트가 새로운 보안 위협으로 떠오르고 있다. AI가 외부 공격자의 해킹 도구로 활용되는 것을 넘어 기업 내부 데이터와 시스템에 접근해 업무를 수행하는 과정에서도 예상하지 못한 행동을 할 수 있기 때문이다. 마이크로소프트는 기업이 직접 배포한 AI 에이전트도 지속적으로 감독하고, 위험 수준에 따라 행동 권한을 조정해야 할 것으로 전망했다. 20일 마이크로소프트는 기업 내부에서 활동하는 AI 에이전트를 '에이전틱 내부자'로 규정하고, 이를 보호하기 위한 보안 접근법을 제시했다고 밝혔다. 최근 AI를 활용한 사이버 공격 사례도 잇따르고 있다. 최근 해커가 자율형 AI 에이전트를 이용해 미국과 캐나다, 호주, 일본 등의 기업 웹사이트 100곳 이상을 공격하는 등 공격 사례가 많아지고 있다. AI를 활용해 취약점을 탐색하고 침입 과정을 자동화한 사례로 분석된다. ◆ 기업 내부에서 활동하는 '에이전틱 내부자' 마이크로소프트는 기업이 직접 도입한 AI 에이전트도 별도의 보안 관리 대상이 돼야 한다고 보고 있다. 에이전트는 코드 작성과 정보 조사뿐 아니라 매출 분석, 비용 처리 등 실제 업무를 수행하며 사내 문서와 데이터베이스, 클라우드 서비스 등에 접근할 수 있다. 이 과정에서 권한이 과도하게 부여되거나 예상과 다른 행동을 하면 민감 정보 유출과 시스템 오작동으로 이어질 수 있는 것이다. AI 모델이 목표 달성에 집중하는 과정에서 의도하지 않은 수단을 선택하는 '보상 해킹'도 위험 요인으로 꼽힌다. 주변 상황이나 입력 정보가 달라지면 에이전트의 계획과 행동이 바뀔 수 있는 만큼, 배포 단계의 권한 설정만으로는 충분하지 않은 것이다. 마이크로소프트가 제시한 대응책의 핵심은 에이전트의 행동을 실행하기 전에 위험을 평가하고, 위험 수준에 따라 권한을 조정하는 것이다. 이를 위해 다른 AI 에이전트의 행동을 지속적으로 감독하는 '가디언 에이전트'를 제시했다. 가디언 에이전트는 지난 7월 발표한 에이전틱 보안 시스템 '프로젝트 퍼셉션'을 기반으로 한다. 해당 시스템은 레드·블루·그린 에이전트 팀과 보안 기술을 결합해 위협을 탐지하고 대응하도록 설계됐다. 마이크로소프트는 이를 외부 공격 방어뿐 아니라 기업 내부 에이전트의 관리·통제에도 적용할 수 있다고 설명했다. 프로젝트 퍼셉션은 기업 내 에이전트를 탐지하고, 행동 맥락에 따라 위험도를 산정한 뒤, 위험 수준에 맞춰 감독과 대응을 수행하는 구조다. ID와 권한, 데이터, 클라우드, 네트워크, 실행 환경 등 여러 계층을 함께 보호해 에이전트의 접근과 행동을 통제한다는 구상이다. ◆ 국내 기업도 권한 관리 점검 필요성 커진다 이 같은 접근법은 AI 에이전트를 도입하는 기업에도 과제를 던진다. 에이전트가 어떤 데이터와 시스템에 접근할 수 있는지 파악하고, 업무에 필요한 최소한의 권한만 부여해야 한다. 중요한 작업에는 사람의 승인을 거치도록 하고, 작업 기록을 남겨 문제가 발생했을 때 원인을 추적할 수 있는 체계도 필요하다. 보안 담당자의 역할도 중요하다. AI 기반 보안 시스템이 위험을 빠르게 탐지하더라도 담당자가 결과를 확인하고 정책과 통제 기준을 조정해야 하기 때문이다. 에이전트의 자율성을 지나치게 제한하면 업무 효율이 떨어질 수 있어 보안과 자동화 수준 사이의 균형도 고려해야 하는 것이다. 마이크로소프트는 에이전트가 어떤 행동을 하는지 파악하는 것을 넘어 행동의 원인과 업무 목적의 부합 여부까지 확인할 수 있도록 모델 투명성을 높여야 한다고 강조했다. 다만 모델의 추론 정보만으로 안전성을 완전히 판단할 수는 없어 독립적인 보안 통제와 결합할 필요가 있는 것으로 진단했다. 하예테 갈로트 마이크로소프트 시큐리티 총괄 수석 부사장은 "AI 에이전트가 기업 전반에 빠르게 확산되면서 데이터와 도구, 시스템에 접근해 중요한 업무를 수행하고 의사결정에도 관여하고 있다"며 "기업은 에이전트의 활동과 위험을 실시간으로 파악하고, 위험 변화에 따라 행동 권한을 지속적으로 조정해야 한다"고 말했다.2026-10-20 15:53:20
-
티오리, 보안 AI, 답변 넘어 취약점 직접 검증…'실전훈련' 맡는다 [경제일보] 인공지능(AI)이 보안 지식을 설명하는 수준을 넘어 실제 시스템의 취약점을 찾아 재현하고 검증하도록 훈련하는 국가 프로젝트에 티오리가 참여한다. 티오리는 자율형 AI 보안 솔루션 ‘진트(Xint)’ 개발 경험을 활용해 보안 AI와 분석 도구를 연결하는 실행 환경을 구축한다. AI 기반 오펜시브 보안 기업 티오리는 과학기술정보통신부가 추진하는 ‘사이버보안 특화 AI 파운데이션 모델 개발’ 사업의 네이버클라우드 컨소시엄에 참여한다고 9일 밝혔다. 오펜시브 보안은 공격자의 관점에서 시스템을 시험해 취약점을 선제적으로 찾는 분야다. 이번 컨소시엄에는 네이버클라우드를 중심으로 LG CNS·LG AI연구원·LG유플러스와 티오리·S2W·샌즈랩·이스트시큐리티 등 AI·보안기업, 대학·연구기관 및 수요기관을 포함해 총 33개 기관이 참여한다. 한국항공우주산업(KAI), 한국수력원자력, 한전KDN 등 국가 기반시설 관련 기관도 실증에 나선다. 컨소시엄은 네이버의 하이퍼클로바X와 LG AI연구원의 엑사원을 각각 기반으로 700B급(7000억개 매개변수) 전문가혼합(MoE) 보안 모델 2종을 병렬 개발한다. MoE는 작업에 필요한 일부 전문 모델만 선택적으로 가동하는 구조여서 매번 7000억개 매개변수 전체를 사용하는 방식과는 다르다. 하이퍼클로바X 기반 모델은 방어, 엑사원 기반 모델은 공격·검증 역량을 강화하는 방향으로 개발된다. 약 830테라바이트(TB)의 보안 데이터를 활용해 전력·금융·통신·반도체·방산·항공우주 등 7개 분야에서 실증할 계획이다. 티오리가 맡은 핵심 분야는 ‘하네스(Harness)’다. AI 모델을 취약점 스캐너와 디버거, 시험용 서버 등 실제 보안 도구·환경과 연결하고 명령 실행부터 결과 수집, 재현 여부 판정까지 관리하는 체계다. AI가 그럴듯한 분석 문장을 만드는 데 그치지 않고 취약점이 실제로 존재하는지 통제된 환경에서 입증하도록 설계한다. 학습 과정에는 전문가의 모범 사례를 활용하는 지도미세조정(SFT)과 검증 가능한 결과를 보상으로 삼는 강화학습(RLVR)이 적용된다. 예컨대 AI가 제시한 공격 경로가 시험 환경에서 재현되고 정해진 검증 절차를 통과했을 때만 보상을 주는 방식이다. 보안 AI의 고질적인 문제로 꼽히는 오탐과 재현 불가능한 답변을 줄이는 데 초점이 맞춰져 있다. 정부는 컨소시엄에 엔비디아 B200 그래픽처리장치(GPU) 256장을 지원한다. 전체 지원 기간은 10개월이지만, 우선 5개월간 제공한 뒤 중간평가를 거쳐 나머지 지원 여부를 결정한다. 네이버클라우드는 별도로 B200 4000장을 사전학습에 투입했고 LG 측도 H200 256장을 추가할 계획이라고 밝혔다. 정부는 공모 당시 국내 보안 산업에서 공동 활용할 수 있는 독자 모델 확보를 사업 목표로 제시했다. 박세준 티오리 대표는 “사이버보안 AI에서는 보안 지식을 얼마나 많이 아는지뿐 아니라 실제 환경에서 취약점을 찾아 검증할 수 있는지가 중요하다”며 “진트를 개발하며 확보한 에이전트와 취약점 검증 기술을 적용하겠다”고 말했다. 한편 공격 기능을 갖춘 모델은 방어 역량을 높이는 동시에 악용 가능성도 품고 있다. 컨소시엄이 개발 모델의 오픈소스 공개를 예고한 만큼 모델 가중치와 공격 기능의 공개 범위, 사용자 권한 관리, 실행 기록 보존, 격리된 시험환경 운영 기준이 함께 제시돼야 한다. 개발 규모보다 실제 취약점 탐지율과 오탐률, 재현 성공률, 검증 소요시간을 객관적으로 입증하는 작업이 국가 보안 AI의 신뢰도를 가르게 된다.2026-09-10 08:53:23
-
KBW2026, 코인 거래 넘어 금융판 키울까…거래소 넘어 월가·AI 거물까지 [경제일보] 국내 디지털자산 업계의 관심이 개인 투자자의 코인 거래에서 기관금융과 결제, 인공지능(AI) 에이전트 인프라로 옮겨가고 있다. 이달 말 서울에서 열리는 ‘코리아 블록체인 위크 2026(KBW2026)’도 글로벌 금융·블록체인 업계 주요 인사를 한자리에 모아 디지털자산 시장의 다음 성장축을 모색한다. KBW2026 주최사 팩트블록은 9일 업비트와 0G, BRV, 비트고, 스테이블, 트리아 등이 주요 파트너로 참여한다고 밝혔다. 행사는 오는 29일부터 다음 달 1일까지 서울 워커힐 호텔앤리조트에서 열린다. 업비트는 프레젠팅 파트너로 참여한다. 오경석 업비트 대표가 연사로 나서 글로벌 디지털자산 시장 변화와 한국 시장의 역할을 설명한다. 첫날인 29일에는 금융회사와 기관투자자 등을 대상으로 한 초청 행사 ‘업비트 인스티튜셔널 서밋’이 열리고, 30일부터 다음 달 1일까지 메인 콘퍼런스가 이어진다. 글로벌 주요 인사도 무대에 오른다. 비트멕스 공동창업자이자 가상자산 투자사 메일스트롬 최고투자책임자(CIO)인 아서 헤이즈, 이더리움 공동창업자이자 컨센시스 창업자 조셉 루빈, 비트마인 회장 톰 리, ‘네트워크 스테이트’ 저자인 발라지 스리니바산 등이 연사 명단에 포함됐다. 아서 헤이즈와 톰 리는 글로벌 유동성과 디지털자산 시장 전망을, 조셉 루빈은 이더리움 생태계와 금융자산의 온체인 전환을 대표하는 인물이다. 발라지 스리니바산은 블록체인 기반 디지털 공동체와 새로운 국가·경제 모델을 제시해왔다. 탈중앙화 파생상품 거래소 하이퍼리퀴드의 제프 얀 CEO도 참여해 중앙화 거래소와 온체인 금융 간 경쟁을 다룰 것으로 예상된다. 기관금융 부문에서는 글로벌 디지털자산 수탁업체 비트고가 공식 인스티튜셔널 스폰서로 나선다. 마이크 벨시 공동창업자 겸 CEO가 기관투자자의 시장 진입과 수탁 인프라에 대한 전략을 공유할 예정이다. 비트고의 참여는 국내 시장에서도 의미가 있다. 금융위원회 금융정보분석원(FIU)은 지난달 비트고코리아의 가상자산사업자(VASP) 신고를 수리했다. 해외 디지털자산 기업이 기존 사업자를 인수하지 않고 국내에 신규 법인을 세워 신고를 마친 첫 사례다. 하나금융그룹과 SK텔레콤은 비트고코리아 지분을 각각 약 25%, 10% 보유하고 있다. AI와 스테이블코인 기업도 핵심 의제를 맡는다. 마이클 하인리히 0G랩스 공동창업자 겸 CEO는 자율형 AI 에이전트가 데이터를 이용하고 거래하는 ‘에이전트 경제’와 탈중앙화 인프라를 설명한다. 브라이언 멜러 스테이블 CEO는 스테이블코인 결제·전송 인프라를, 존 릴릭 트리아 공동창업자 겸 최고전략책임자(CSO)는 기업과 AI 에이전트를 연결하는 다중 블록체인 금융과 스테이블코인 네오뱅크 전략을 소개한다. 이번 연사와 파트너 구성은 디지털자산 산업의 무게중심이 거래 수수료에서 기관 수탁과 결제, 온체인 자본시장, AI 기반 자동거래 인프라로 넓어지고 있음을 보여준다. 국내 거래소에도 기관 고객을 위한 보관·결제·자산관리 서비스는 새로운 수익원이 될 수 있다. 정책 환경도 변하고 있다. 금융당국은 상장회사와 전문투자자 등록 법인의 가상자산 매매를 단계적으로 허용하는 방안을 추진하고 있다. 원화 스테이블코인의 발행 주체와 준비자산, 이용자 상환권을 다룰 2단계 입법 논의도 진행 중이다. 이번 글로벌 연사의 담론이 국내 사업으로 연결되려면 법인 실명계좌와 자금세탁방지 기준, 스테이블코인 규율체계가 구체화돼야 한다. KBW2026의 성과도 유명 인사의 참석을 넘어 국내 금융회사와 글로벌 기업 간 계약, 투자 및 실증 성과로 평가받을 전망이다.2026-09-09 10:23:56
-
MS, AI 해킹에 'AI 방패' 세웠다…보안 특화 모델·플랫폼 공개 [경제일보] 인공지능(AI)을 활용한 사이버 공격이 빠르게 고도화하는 가운데 마이크로소프트(MS)가 AI로 AI 공격을 방어하는 에이전트 기반 보안 플랫폼을 내놨다. 보안 특화 자체 모델과 다수의 전문 에이전트를 결합해 취약점 탐지부터 위험 판단, 수정까지 이어지는 방어 체계를 구축한다는 구상이다. 연합뉴스에 따르면 MS는 27일(현지시간) 미국 샌프란시스코에서 보안 행사를 열고 에이전트형 보안 플랫폼 ‘프로젝트 퍼셉션’을 공개했다. 기존 보안 체계가 침해사고 발생 이후 경고와 분석에 집중했다면 퍼셉션은 조직의 디지털 환경을 지속적으로 살피며 공격 가능성을 사전에 찾아 대응하는 데 초점을 맞췄다. 퍼셉션은 레드팀과 블루팀, 그린팀 등 세 종류의 전문 에이전트가 협력하는 구조다. 레드팀 에이전트는 공격자가 악용할 수 있는 침투 경로를 탐색하고, 블루팀은 조직의 시스템과 자산·계정 정보를 종합해 실제 위험도를 판단한다. 그린팀은 취약점을 수정하거나 보호조치를 적용해 방어 수준을 높인다. 각 에이전트가 취약점을 개별적으로 탐지하는 데 그치지 않고 발견과 분석, 대응 결과를 다시 공유하는 순환형 구조를 갖춘 것이 특징이다. 다만 시스템이 모든 보안 결정을 독자적으로 내리는 것은 아니다. MS는 주요 대응과 위험성이 큰 조치는 보안 담당자가 통제하도록 설계했다고 설명했다. 퍼셉션은 MS가 앞서 공개한 다중 모델 기반 취약점 분석 시스템 ‘엠대시(MDASH)’와 연계된다. 엠대시는 100개 이상의 전문 에이전트를 활용해 소프트웨어 코드를 분석하고 취약점 발견과 검증, 중복 제거, 공격 가능성 입증, 패치 확인 등을 수행한다. MS는 이번에 자체 개발한 보안 특화 모델 ‘MAI-사이버-1 플래시’를 엠대시에 추가했다. 비교적 반복적이고 처리량이 많은 보안 작업은 자체 모델이 담당하고, 복잡한 추론이 필요한 일부 작업은 오픈AI의 GPT-5.4가 처리하는 다중 모델 구조다. 하나의 대형 모델에 모든 작업을 맡기지 않고 성능과 비용, 처리 속도에 따라 적합한 모델을 배치했다. 이 조합은 공개 보안 벤치마크인 ‘사이버짐’에서 95.95%의 성능을 기록했다. GPT-5.5 사이버의 85.6%, 앤트로픽 미토스5의 83.8%보다 10%포인트 이상 높은 수치다. 기존 엠대시 구성보다 운영비용도 약 50% 줄였다는 것이 MS의 설명이다. 다만 95.95%는 MAI-사이버-1 플래시 단일 모델의 점수가 아니라 GPT-5.4와 전문 에이전트를 결합한 엠대시 전체 시스템의 결과다. 벤치마크 성능이 실제 기업 환경의 모든 공격을 탐지하거나 차단한다는 의미도 아니다. 알려지지 않은 공격과 복잡한 조직별 환경에서 같은 성능을 유지하는지는 향후 검증이 필요하다. MS가 방어용 AI를 전면에 내세운 배경에는 자율형 AI 에이전트의 확산이 있다. AI가 취약점을 찾아 공격 코드를 만들고 여러 시스템을 이동하는 과정까지 자동화하면서 공격에 필요한 시간과 비용이 빠르게 낮아지고 있다. 사람 중심의 보안관제만으로 기계 속도의 공격을 따라가기 어려워진 만큼 방어 역시 상시 작동하는 AI 체계로 전환해야 한다는 판단이다. 프로젝트 퍼셉션은 오는 8월3일 공개 프리뷰로 제공된다. MS는 향후 소프트웨어 취약점 관리뿐 아니라 계정과 클라우드, 애플리케이션, 데이터, AI 에이전트 보호 등으로 적용 범위를 확대할 계획이다. 실제 기업 환경에서 오탐을 얼마나 줄이고 인간 보안 담당자와 책임을 어떻게 나눌지가 상용화 성패를 결정할 전망이다.2026-07-28 07:55:43
-
"AI 3대 강국 가는 길은 시큐리티"…코드게이트서 확인한 보안의 힘 [경제일보] 생성형 인공지능(AI) 시대 국가 경쟁력을 좌우하는 핵심 요소로 사이버 보안이 부상하고 있다. AI가 스스로 취약점을 찾고 공격하는 시대가 열렸지만, 이를 막아낼 보안 역량과 인재를 확보하지 못한다면 AI 주도권 역시 확보하기 어렵다는 지적이다. 국내 최초로 인간 화이트해커와 AI 해커가 같은 무대에서 맞붙은 '코드게이트 2026'은 AI 시대 국가 경쟁력의 마지막 퍼즐이 결국 '보안'이라는 점을 다시 한번 보여줬다. 24일 서울 강남구 코엑스에서 한글과컴퓨터가 주최한 '코드게이트 2026'이 개최됐다. 올해 코드게이트는 'AI 세계 3대 강국으로 가는 길: 시큐리티'를 주제로 열렸으며, 국내 최초로 자율형 AI 해커가 인간 화이트해커들과 동일한 조건에서 해킹 방어 대회에 참가해 실력을 겨뤘다. 이번 AI 해커는 KAIST와 코드게이트보안포럼이 공동 개발한 자율형 AI 시스템으로, 세계 88개국 예선을 통과한 최정예 화이트해커들과 함께 24시간 동안 해킹 방어 문제를 풀었다. 생성형 AI가 제로데이 취약점을 발견하고 공격 코드를 생성하는 시대가 도래한 만큼 AI의 보안 역량을 직접 검증해보겠다는 취지다. 결과는 인간의 승리였다. 일반부에서는 'BunkyoWesterns' 팀이 우승을 차지하며 과학기술정보통신부 장관상과 상금 5000만원을 받았다. AI 해커는 18위를 기록했다. 19세 미만 주니어부에서는 김준원이 우승해 과기정통부 장관상과 상금 300만원을 수상했으며 AI 해커는 2위를 기록했다. AI가 단독으로 문제를 해결하는 방식은 아직 인간이 AI를 활용해 문제를 해결하는 화이트해커들을 넘어서지 못한 셈이다. AI가 상당한 수준의 문제 해결 능력을 보여줬지만, 창의적인 사고와 복합적인 판단이 필요한 영역에서는 여전히 인간의 역량이 우위를 점했다는 평가가 나온다. 조현숙 코드게이트보안포럼 이사장은 개회사를 통해 "인간 화이트해커와 AI가 국내 최초로 같은 무대에서 같은 문제를 겨루는 자리를 마련했다"며 "이번 대결은 AI 시대에 인간의 실력과 지혜가 어디쯤 서 있는지 확인하는 무대였다"고 평가했다. 이어 "AI 세계 3대 강국으로 가는 길은 바로 '시큐리티'"라며 "공격형 AI를 막아낼 보안 역량 없이는 우리가 꿈꾸는 AI 주도권도 결코 얻을 수 없다"고 강조했다. 최근 글로벌 AI 경쟁은 초거대 언어 모델(LLM) 개발을 넘어 AI 에이전트와 피지컬 AI 등으로 확대되고 있다. AI가 산업 전반으로 확산되면서 사이버 공격 역시 AI를 활용해 더욱 정교해지고 있다. 실제로 AI는 취약점을 자동으로 분석하고 공격 코드를 생성할 수 있는 수준까지 발전하고 있으며, 국가 차원의 사이버 안보 역량 확보 필요성도 함께 커지고 있다. 한컴은 AI 기술 경쟁력만으로는 'AI 강국'이 될 수 없으며 이를 안전하게 활용할 수 있는 보안 기술과 전문 인력 확보가 필수적이라고 분석했다. AI를 개발하는 역량 못지않게 AI를 안전하게 통제하고 방어하는 역량이 국가 경쟁력을 좌우하게 된 것이다. 최우혁 과학기술정보통신부 정보보호네트워크정책실장 역시 AI 시대 보안 인재 육성의 중요성을 강조했다. 그는 "최근 민간 분야의 사이버 공격이 무엇보다 높아졌고, AI에 의한 사이버 공격일 가능성이 부각되고 있다"며 "결국 기본기를 지키면서 기본기를 잘 운영할 수 있는 사람이 중요하다"고 말했다. 이어 "AI 3대 강국에 있어서 사이버 보안의 뒷받침 없이는 그 길이 절대 열리지 않는다는 것을 너무나 잘 알고 있다"며 "사이버 보안에 대한 중요성과 인재 육성에 많은 관심을 가지고 노력해 나갈 것이며, 코드게이트가 더욱 활성화될 수 있도록 지원 방안을 지속적으로 고민하겠다"고 덧붙였다. 이번 코드게이트는 AI 강국 경쟁에서 보안의 중요성을 다시 한 번 조명한 자리로 평가된다. AI가 스스로 취약점을 분석하고 공격에 활용되는 시대가 열린 만큼, AI 기술 경쟁력과 함께 이를 방어할 수 있는 보안 기술과 전문 인력 확보가 국가 경쟁력을 좌우하는 핵심 요소로 부상하고 있다. AI 해커가 일반부 18위, 주니어부 2위를 기록하며 가능성을 보여준 가운데, IT 업계에서는 향후 AI 기술 발전과 함께 AI 보안의 중요성도 더욱 커질 것으로 전망하고 있다.2026-07-24 14:50:42
-
노타, AI 특화 시범도시 참여…천안·아산서 K-AI 도시 실증 나선다 [경제일보] 노타가 국토교통부의 AI 특화 시범도시 사업에 참여하며 온디바이스 AI와 엣지 AI 기술의 적용 범위를 도시 인프라 영역으로 확대한다. 인공지능(AI)이 스마트시티 운영 전반에 활용되는 흐름 속에서 재난·교통·안전 분야의 실시간 데이터 분석과 대응 체계 구축에 나서는 것으로 풀이된다. 22일 노타는 국토교통부가 추진하는 'AI 특화 시범도시' 공모사업에서 천안·아산 컨소시엄이 충청권 최종 대상지로 선정됨에 따라 핵심 기술 기업으로 참여한다고 밝혔다. AI 특화 시범도시는 기존 스마트시티를 넘어 AI가 도시 데이터를 분석하고 활용해 시민 생활 전반을 지원하는 차세대 도시 모델 구축 사업이다. 사업은 오는 2030년까지 5년간 추진되며 총사업비는 6109억원 규모다. 천안·아산 컨소시엄은 통합 도시지능센터와 디지털 트윈 플랫폼을 기반으로 재난·교통·민원 분야의 자율형 AI 에이전트 서비스를 실증할 계획이다. 도시 곳곳에서 수집되는 데이터를 AI가 실시간으로 분석하고 상황을 판단해 대응할 수 있는 체계를 구축하는 것이 목표다. 최근 스마트시티 시장은 단순 데이터 수집과 모니터링 중심에서 AI가 직접 의사결정을 지원하는 형태로 진화하고 있다. 생성형 AI와 대규모 언어모델(LLM) 기술 발전으로 방대한 도시 데이터를 분석하고 요약하는 것이 가능해지면서 도시 운영 효율성을 높일 수 있다는 기대가 커지고 있다. 이번 사업에서 노타는 도시 현장의 AI 서비스를 실제 인프라 환경에서 안정적으로 운영할 수 있도록 엣지 AI 경량화 및 온디바이스 AI 기술을 담당한다. 노타는 교통과 안전, 기상, 재난, 환경 분야에서 활용되는 AI 모델을 다양한 엣지 환경에 맞게 최적화하고 현장 장비에서도 효율적으로 구동할 수 있도록 지원할 예정이라고 설명했다. 특히 LLM 기반 자동 보고 체계와 온디바이스 AI 기술을 결합해 도시 상황을 AI가 실시간으로 인지하고 요약해 전달하는 구조를 구현한다는 계획이다. CCTV와 센서, 교통 데이터, 재난 정보 등을 현장 인근에서 즉시 분석해 관제센터와 대응 기관이 활용할 수 있는 정보로 전환함으로써 신속한 대응 체계 구축을 지원한다. 이번 사업은 국내 AI 모델과 도시 데이터, 엣지 AI 기술이 결합된 소버린 AI 기반 공공 서비스로 설계된다. 천안·아산 컨소시엄은 업스테이지의 한국어 특화 언어 모델을 활용해 지역 데이터 기반 AI 체계를 구축하고, 노타는 해당 AI 서비스가 도시 현장의 다양한 인프라와 단말 환경에서 안정적으로 운영될 수 있도록 지원한다. IT 업계에서는 AI 주권 확보 경쟁이 단순 모델 개발을 넘어 실제 서비스 구현 단계로 확대되고 있는 것으로 전망하고 있다. 공공 분야에서도 해외 AI 모델 의존도를 낮추고 국내 기술 기반 서비스를 구축하려는 움직임이 이어지면서 관련 기술 기업들의 역할도 커지는 추세다. 이에 노타는 그동안 스마트폰과 자동차, 로봇, 산업 장비 등 다양한 하드웨어 환경에서 AI 모델 최적화 기술을 고도화해 왔다. 이번 사업을 통해 확보한 기술과 운영 경험을 바탕으로 향후 스마트시티와 공공 안전, 교통, 재난 대응 분야 등으로 사업 영역을 확대할 계획이다. 또한 천안·아산 시범 도시 사업을 계기로 도시 단위 AI 서비스 모델을 구축하고 국내외 스마트시티 시장 진출 기반도 강화한다는 전략이다. AI가 도시 문제를 인지하고 판단하며 대응하는 운영 체계를 구현해 K-AI 도시 모델 확산에 기여한다는 구상이다. 채명수 노타 대표는 "AI 도시는 단순히 데이터를 많이 모으는 도시가 아니라, 도시 현장에서 발생하는 데이터를 AI가 이해하고 필요한 대응으로 연결하는 도시"라며 "노타는 AI 모델 최적화와 온디바이스 AI 기술을 기반으로 천안·아산 AI 특화 시범도시가 대한민국 K-AI 도시의 대표 사례로 자리 잡는 데 핵심적인 역할을 하겠다"고 말했다.2026-06-22 15:43:16
-
정부, 美 AI 통제 속...앤트로픽과 안전·보안 동맹 [경제일보] 미국 정부가 국가 안보를 이유로 첨단 인공지능(AI) 모델 접근을 제한하고 나선 가운데 한국 정부가 앤트로픽과 AI 안전·사이버보안 협력에 나섰다. 고성능 AI 모델이 사이버 공격과 방어 양쪽에 모두 활용될 수 있다는 우려가 커지는 상황에서 한국이 글로벌 AI 안전망의 핵심 파트너로 자리 잡을 수 있을지 주목된다. 과학기술정보통신부는 18일 앤트로픽과 AI 안전성 확보 및 사이버보안 협력 업무협약을 체결했다고 밝혔다. 양측은 AI가 사이버 공격과 방어에 미치는 영향을 분석하고 한국어 맥락에서의 AI 모델 안전성 및 오남용 위험을 평가하는 데 협력할 예정이다. 자율형 AI 에이전트에 대한 레드팀 평가도 협력 대상에 포함됐다. 앤트로픽은 챗봇 ‘클로드’와 코딩 특화 도구, AI 에이전트 기술로 빠르게 성장한 프런티어 AI 기업이다. 최근에는 사이버보안 특화 고성능 모델인 ‘미토스’와 관련한 글로벌 논란의 중심에도 섰다. 앤트로픽의 프로젝트 글래스윙은 미토스 계열 모델을 활용해 핵심 소프트웨어의 취약점을 찾고 고치는 방어 목적의 AI 보안 협력체다. 한국에서는 KISA와 주요 기업들이 이 프로젝트에 참여한 것으로 알려졌다. 협약의 의미는 단순한 기술 교류를 넘어선다. AI 모델이 고도화되면서 보안 위험은 두 방향으로 커지고 있다. 방어자는 AI로 취약점을 더 빨리 찾을 수 있지만 공격자 역시 AI를 활용해 악성코드 변형, 취약점 탐색, 피싱 자동화, 침투 시나리오 생성을 시도할 수 있다. 정부가 앤트로픽과 손잡은 것은 이 같은 양면성을 제도권 안에서 평가하고 통제하려는 시도로 볼 수 있다. 과기정통부는 한국 AI 안전연구소와 앤트로픽 간 협력을 통해 AI 모델 및 자율형 AI 에이전트 안전성 평가를 추진할 방침이다. 금융 분야 등 국가적 파급력이 큰 영역에서 AI 기반 취약점 발굴과 사이버 위협 정보 공유도 실무적으로 논의한다. 한국어 환경에서 발생할 수 있는 모델 오남용, 허위정보 생성, 보안 우회 가능성 등을 함께 점검하는 것도 주요 과제다. 정부는 이번 협약을 글로벌 AI 협력 벨트의 한 축으로 보고 있다. 그동안 AI 인프라, 프런티어 모델, 연구 협력 분야에서 글로벌 기업과 접점을 넓혀왔다면 앤트로픽과의 협력은 안전성과 보안 분야를 보강하는 성격이 강하다. AI 산업 경쟁력이 커질수록 모델 성능 못지않게 안전성 평가와 사이버 복원력이 국가 경쟁력의 기준으로 떠오르고 있기 때문이다. 검증대에 오른 부분은 미국의 AI 기술 통제 기조다. 외신에 따르면 미국 정부는 최근 앤트로픽의 고성능 모델 미토스 5와 페이블 5에 대해 외국 국적자의 접근을 제한하는 조치를 내렸다. 앤트로픽은 적용 범위를 선별하기 어렵다는 이유로 해당 모델 접근을 광범위하게 중단한 것으로 전해졌다. 이 조치가 이어질 경우 한국 정부와 기업이 프로젝트 글래스윙을 통해 확보하려던 미토스 접근권에도 제약이 생길 수 있다. 과기정통부는 앤트로픽과 소통하며 상황을 예의주시하고 있다는 입장이다. 앤트로픽 역시 신중한 태도를 보이고 있다. 한국 입장에서는 미국의 첨단 AI 모델에 대한 접근권을 확보하는 동시에 미국 정부의 수출통제와 기술 주권 기조에 따른 불확실성도 관리해야 하는 상황이다. 이번 협약은 한국 AI 정책의 방향을 보여준다. 단순히 해외 모델을 쓰는 것을 넘어 고성능 AI가 초래할 수 있는 위험을 평가하고 방어 기술을 확보하려는 움직임이다. 특히 AI 에이전트가 실제 시스템을 조작하고 코드를 작성하며 업무를 수행하는 단계로 넘어가면 모델 안전성과 사이버보안은 분리하기 어려운 과제가 된다. 성과는 접근권과 실행력에서 갈릴 전망이다. 미토스 같은 첨단 모델에 대한 안정적 접근이 보장되지 않으면 협력은 제한적일 수밖에 없다. 반대로 한국어 환경의 안전성 평가, 금융·공공 분야 취약점 발굴, 국내 보안 인력과 글로벌 모델의 결합이 실질 성과로 이어진다면 한국은 AI 안전·보안 분야에서 독자적 입지를 넓힐 수 있다.2026-06-18 16:09:55
-
네이버 커넥트재단·서울대, 'AI 에이전트 챌린지' 추진 [경제일보] 네이버 커넥트재단과 서울대가 인공지능(AI) 인재 양성을 위해 손을 잡았다. 양 기관은 전국 거점 국립대 학생들이 실생활 문제를 AI 에이전트로 해결하는 실무형 교육 프로그램을 함께 추진하며, 지역 AI 교육 기회 확대에 나선다. 네이버 커넥트재단은 지난 26일 서울대에서 AI 인재 양성과 교육 기회 확대를 위한 업무협약을 체결했다고 밝혔다. 이번 협약을 통해 양 기관은 AI 시대에 필요한 교육 프로그램을 공동 개발·운영하고, 연구와 학술 활동을 통해 새로운 교육 모델을 발굴할 계획이다. 첫 협력 사업은 ‘AI 에이전트 챌린지’다. 전국 거점 국립대 10개교 소속 대학생 200명을 대상으로 진행되며, 학생들이 일상과 지역사회에서 마주하는 문제를 정의하고 이를 해결하는 AI 에이전트를 직접 설계·구축하는 방식으로 운영된다. 단순 이론 교육보다 문제 정의, 데이터 활용, 프롬프트 설계, 서비스 구현 등 실무형 역량을 키우는 데 초점을 맞췄다. 이번 협력은 AI 인재 수요가 빠르게 늘어나는 상황에서 지역 대학 학생들에게도 고급 AI 교육 기회를 넓히려는 시도로 풀이된다. 정부도 국정과제로 거점 국립대 집중 육성과 AI 인재 양성을 추진하고 있다. 정부는 이른바 ‘서울대 10개 만들기’를 국정과제로 확정하고, 대학생과 대학원생 대상 AI 융복합 교육 과정을 확대해 전문 인재를 양성하겠다는 방침을 밝힌 바 있다. 네이버 커넥트재단은 그동안 소프트웨어와 AI 교육을 통해 미래 기술 교육의 저변을 넓혀왔다. 재단은 누구나 AI를 활용해 일상의 문제를 해결할 수 있도록 배움의 기회를 연결한다는 목표를 내세우고 있으며, 최근에는 AI 기초 개념과 에이전틱 AI 협업, 산업 현장의 AX, 프롬프트 작성 실습 등을 담은 교육 콘텐츠도 공개했다. 해외 교육 협력 경험도 있다. 네이버 커넥트재단은 네이버 베트남과 함께 베트남 대학생 대상 AI 해커톤을 진행했으며, 하노이과학기술대학, 하노이 국립공과대학, 호치민기술대학교 등 베트남 전역 대학생 1900여명이 참여한 바 있다. AI 에이전트는 최근 산업계와 교육계 모두에서 주목하는 분야다. 기존 생성형 AI가 질문에 답하거나 문서를 만드는 수준이었다면, AI 에이전트는 사용자의 목표를 이해하고 필요한 도구를 호출해 여러 단계를 수행하는 방향으로 발전하고 있다. 삼성전자가 대학생·대학원생 대상 AI 에이전트 챌린지를 운영한 사례에서도 볼 수 있듯, 기업들은 문제 정의부터 실험, 분석, 보고서 작성까지 수행하는 자율형 AI 시스템 역량을 차세대 인재의 핵심 능력으로 보고 있다. 서울대와의 협업은 교육 프로그램의 전문성과 확장성을 높이는 계기가 될 전망이다. 서울대는 AI 연구와 공학 교육 역량을 바탕으로 지역 대학 학생들이 실제 프로젝트를 수행할 수 있도록 교육 설계와 멘토링에 참여할 것으로 보인다. 서울대 공대는 이미 초지능형 AI 에이전트 핵심 기술 개발과 산학 협력 연구를 추진하고 있으며, 복잡한 문제를 창의적으로 정의하고 도전하는 인재 양성을 강조해왔다. 공기중 네이버 커넥트재단 이사장은 “커넥트재단은 학계와 기업을 연결하는 등 누구나 AI 역량을 갖출 수 있도록 교육 기회를 전국 단위로 넓혀가고 있다”며 “서울대와의 협업으로 각 지역의 우수한 대학생들이 AI 시대를 이끄는 인재로 도약할 수 있도록 지원하겠다”고 말했다. 이번 협약은 기업 재단과 대학이 함께 지역 AI 인재 양성 모델을 만드는 사례라는 점에서 의미가 있다. AI 교육이 수도권 일부 대학과 기업 중심으로 쏠릴 경우 지역 산업의 AI 전환 속도는 더딜 수밖에 없다. 네이버 커넥트재단과 서울대의 AI 에이전트 챌린지가 실제 프로젝트 성과와 후속 교육 과정으로 이어진다면, 지역 대학생들이 AI 실무 역량을 갖추고 산업 현장으로 진입하는 통로가 될 수 있다.2026-05-29 12:08:33
-
KT, AI 고객센터 혁신 성과…KSQI 15년 연속 우수 콜센터 선정 [경제일보] KT가 생성형 인공지능(AI)을 활용한 고객센터 고도화에 속도를 내고 있다. AI 기반 상담 시스템 확대와 비대면 서비스 경쟁력 강화를 앞세워 고객 응대 품질 개선에 나서는 모습이다. 27일 KT는 한국능률협회컨설팅(KMAC)이 주관하는 '2026 한국산업의 서비스품질지수(KSQI)' 콜센터 부문에서 15년 연속 우수 콜센터로 선정됐다고 밝혔다. KSQI는 매년 고객이 체감하는 서비스 품질 수준을 수치화한 지표를 기반으로 비대면 채널 서비스 성과를 종합 평가해 우수 콜센터를 선정한다. KT는 이동통신 분야에서 15년 연속, 초고속 인터넷 분야에서 12년 연속 우수 콜센터에 이름을 올린 것으로 알려졌다. KT는 이번 선정에 자사의 AI 기반 상담 시스템 고도화 전략이 영향을 미쳤다고 설명했다. 최근 통신업계는 생성형 AI를 활용해 고객센터 운영 효율성과 상담 품질을 동시에 높이는 AICC(AI 고객센터)를 구축하고 있다. 단순 문의 응대를 넘어 고객 의도를 파악하고 업무를 자동 수행하는 자율형 상담 체계 구현을 핵심 과제로 선정하는 것으로 분석된다. 앞서 KT 고객센터는 지난 2017년부터 자체 개발한 AI 기술을 도입해 상담 시스템 고도화를 추진해 온 바 있다. 최근에는 '챗GPT'와 '클로드' 등 글로벌 생성형 AI 기술까지 접목하며 비대면 서비스 역량 강화에 나섰다. 현재 KT는 AI 보이스봇과 챗봇을 중심으로 24시간 365일 고객 응대 체계를 운영 중이다. AI 보이스봇 '지니'는 자연어 기반 음성 응대를 제공하고 있으며, 복잡한 문의는 전문 상담사로 연결하는 하이브리드 구조를 적용해 상담 효율을 높인 것으로 평가된다. KT는 거대언어모델(LLM) 기반 챗봇도 고객센터에 도입해 고객센터 AX를 고도화하고 있다. KT는 해당 기술을 통해 모바일과 웹 등 다양한 채널 환경에서도 일관된 상담 경험을 제공하고 있다고 설명했다. 내부적으로는 상담사 지원 시스템인 '상담 어시스트'를 운영하고 있다. 실시간 답변 추천과 상담 내용 요약 기능 등을 제공해 고객 대기 시간을 줄이고 상담 업무 효율 향상을 지원하고 있다. 최세준 KT 고객 전략본부장 상무는 "이번 KSQI 15년 연속 우수 콜센터 선정은 AI 기술 혁신을 선제적으로 도입해 온 노력의 결실"이라며 "앞으로도 고객센터를 단순 민원 처리 채널을 넘어 AI가 고객 의도를 이해하고 업무를 직접 수행하는 '에이전틱 AICC(자율형 AI 고객센터)'로 지속 발전시켜 나가겠다"고 말했다.2026-05-27 13:57:40
많이 본 뉴스
영상
Youtube 바로가기
![[데스크칼럼] 거제 조선소의 은퇴 풍경, 숙련이 떠나면 제조업 미래도 흔들린다](https://image.ajunews.com/content/image/2026/10/23/20261023102610396990_518_323.png)