2026.10.16 금요일
검색
'AI 안전성' 검색결과
기간검색
-
~
검색영역
검색어
-
독자 AI, 이제 '실전'으로…SKT·업스테이지, 보안 데이터로 성능 검증 [경제일보] 독자 인공지능(AI) 파운데이션 모델 경쟁이 모델 성능을 겨루는 단계를 넘어 실제 산업 현장에 투입해 경쟁력을 입증하는 단계로 넘어가고 있다. SK텔레콤과 업스테이지는 국내 정보보호 기업들이 보유한 실제 보안 데이터를 독자 AI 모델에 학습시키고, 두 모델이 서로를 공격하는 레드티밍까지 진행하며 사이버보안 분야에서 실전 성능 검증에 나선다. 정부의 '독자 AI 파운데이션 모델 프로젝트(독파모)'를 통해 확보한 모델 경쟁력을 산업 현장으로 확장하려는 움직임이다. 8일 SK텔레콤은 업스테이지와 전날 SKT타워에서 국내 정보보호 기업 6곳, 대학 3곳과 함께 '독자 AI 사이버보안 협의체'를 출범하고 AI 정보보호 기술 협력을 위한 업무협약을 체결했다고 밝혔다. SK쉴더스·시큐아이·안랩·라온시큐어·지니언스·파이오링크 등 보안기업과 고려대·숭실대·부산대가 참여했다. 이번 협의체는 국내 보안기업이 현장에서 축적한 데이터를 독자 AI 모델 개발에 연결하는 것을 목표로 설립됐다. SK텔레콤의 A.X K 시리즈와 업스테이지의 솔라에 악성코드 분석, 취약점 분석, 보안관제 등 실제 보안 업무 과정에서 생성되는 데이터를 학습시키고, 이후 보안기업의 제품과 서비스에 적용해 성능을 검증한다. 이는 독파모를 통해 개발한 AI 모델의 활용처를 산업별로 넓히는 과정으로 분석된다. SKT와 업스테이지는 독파모 3단계에 진출하며 국내 독자 AI 모델 경쟁력을 입증한 데 이어, 이번에는 보안이라는 구체적인 산업 영역에서 모델의 활용 가능성을 시험한다. 특히 사이버보안은 일반적인 생성형 AI 서비스와 달리 현장 데이터의 중요성이 큰 분야다. AI가 실제 공격을 탐지하고 취약점을 분석하려면 과거 공격 사례와 악성코드, 보안관제 기록 등 전문 데이터에 대한 이해가 필요하기 때문이다. 새로운 공격 방식이 계속 등장하는 만큼 최신 위협 데이터를 얼마나 빠르게 모델에 반영하느냐도 성능을 좌우할 전망이다. 협의체에 참여한 보안기업들은 각자의 현장 데이터를 바탕으로 모델 고도화를 지원한다. SK쉴더스는 통합 보안관제 플랫폼을 통해 하루 170억건 규모의 위협 이벤트를 분석하고 있으며, 안랩은 2.5PB 이상의 보안 데이터를 보유하고 있다. 시큐아이는 방화벽 등 네트워크 보안 영역, 라온시큐어는 보안 데이터와 자율 모의침투, 지니언스는 보안 솔루션 운영 데이터와 사후학습 데이터셋, 파이오링크는 자율 공격 검증과 탐지룰 생성 분야의 역량을 제공한다. SK텔레콤과 업스테이지는 사전학습과 사후학습을 나눠 진행한다. 사전학습에서는 보안 데이터를 활용해 모델의 기초적인 보안 지식을 강화하고, 사후학습에서는 소프트웨어 취약점 분석·패치, 보안관제센터의 사고 대응, 보안 도구 활용 등 실제 업무 수행 능력을 높인다. SK텔레콤은 차기 모델인 A.X K3에 보안 분야 데이터를 체계적으로 학습시키는 한편 전 국민 대상 AI 서비스인 '모두의 AI'를 안전하게 운영하는 데 필요한 데이터도 보강한다. 업스테이지는 대용량 코드와 장기간 로그를 분석할 수 있는 차기 솔라 모델에 취약점 탐지·분석 데이터를 집중적으로 학습시킬 계획이다. 이 과정에서 두 독자 AI 모델이 서로를 공격하는 '상호 레드티밍'도 진행한다. 한 모델이 다른 모델의 취약점을 찾아 공격하고, 여기서 발견된 문제를 다시 학습 데이터로 활용해 방어 능력을 높이는 방식이다. AI 모델을 대상으로 한 공격과 방어를 반복하면서 기존 벤치마크 점수만으로 확인하기 어려운 보안 취약점을 찾아내겠다는 것이다. SK텔레콤은 앞서 A.X K2 개발 과정에서 자체 레드티밍 자동화 체계인 SERT(셀프 익스펜딩 레드티밍)를 구축해 약 1만5000건의 공격 대응 데이터를 생성·학습한 바 있다. 이를 이번 협의체의 상호 레드티밍에도 확대 적용한다. 업스테이지 역시 고난도·안전성 데이터 21만건과 AI가 위험한 요청을 거부하도록 학습시키는 정렬 체계를 활용한다. 양사가 각각 축적한 AI 안전성 기술을 사이버보안이라는 실제 공격·방어 환경에 적용하는 것이다. 해당 구상에서 대학이 제3자 검증 역할을 맡는다. 고려대는 AI의 실행 파일 분석 능력과 공격 방어력을 평가하고, 숭실대는 AI 보안 성능 평가 기준과 안전장치 우회 공격 대응력을 검증한다. 부산대는 차기 모델과 경량 모델의 성능 및 안전성을 평가한다. 기업이 직접 개발한 AI 모델을 자사 기준으로만 평가하는 것이 아니라 대학의 독립적인 검증을 병행한다는 점에서 이번 협의체의 차별점이 있다. 특히 보안 AI는 모델이 공격을 잘 탐지하는 것뿐 아니라 공격자가 AI의 판단을 우회하거나 잘못된 답변을 유도했을 때도 안정적으로 대응하는지가 중요하다. 최종적으로는 실제 보안 제품과 서비스에 A.X K와 솔라를 적용하는 단계까지 이어진다. 참여 기업들은 제로데이 취약점 분석과 실시간 보안 관제 등 각자의 제품·서비스에 AI 모델을 적용하고 운영 환경에서 성능을 확인할 계획이다. 여기서 확보한 분석·대응 결과는 다시 모델 학습에 반영한다. '보안 데이터 확보 → AI 학습 → 레드티밍 → 현장 실증 → 재학습'으로 이어지는 순환 구조를 만드는 것이 협의체의 목표다. 유경상 SK텔레콤 AI CIC장은 "보안 AI의 수준은 결국 모델이 얼마나 넓고 깊게 추론하느냐에 달려 있다"며 "독자 AI 파운데이션 모델 프로젝트에서 검증된 모델들이 국내 대표 정보보호 기업·대학과 함께 실제 보안 현장에서 효과를 입증해, 국가 대표 AI 모델의 활용 성과를 사이버보안 영역에서도 보여주겠다"고 말했다.2026-10-08 08:55:43
-
![[2026 국감] AI 성능에 6조, 안전엔 274억…과기부, 국감서 브레이크](https://image.ajunews.com//content/image/2026/10/06/20261006144453107566.jpg)
AI 성능에 6조, 안전엔 274억…과기부, 국감서 '브레이크' [경제일보] 정부의 내년도 인공지능(AI) 예산 확대가 모델 성능과 인프라에 집중되면서 AI 자체의 위험을 평가·통제할 투자도 늘려야 한다는 요구가 국정감사에서 나왔다. 과학기술정보통신부 소관 AI 예산 정부안은 9조4308억원이지만 안전·신뢰 분야는 274억원으로 약 0.3%에 머물렀다. 배경훈 부총리 겸 과기정통부 장관은 안전연구소의 인력·예산 확충 필요성을 인정하고 12월 종합계획을 발표하겠다고 밝혔다. 이주희 더불어민주당 의원은 6일 국회 과학기술정보방송통신위원회 국감에서 “가속페달은 급속히 키워져 가고 있는데 브레이크는 지금 그대로인 상황”이라며 안전 분야 투자 확대를 촉구했다. 이 의원이 과기정통부에서 제출받은 자료에 따르면 내년 AI 성능·인프라 예산은 6조1490억원으로 전체의 65.2%다. 모델 개발, GPU 등 컴퓨팅 자원, 데이터 구축이 포함된다. 안전·신뢰 예산에는 안전성 평가·검증과 공격자 관점의 위험 시험, 딥페이크 대응, 윤리·영향평가 등이 분류됐다. 의원실이 제시한 기능별 기준에 따라 과기정통부가 세부 사업을 나눠 제출한 결과다. 두 분야의 예산 비율은 224대1로, 2024년 36대1보다 벌어졌다. 성능·인프라 예산은 올해보다 116% 늘어나지만 안전·신뢰 분야 증가율은 36%다. 안전 예산의 절대 규모가 늘어도 개발·인프라 투자 확대 속도를 따라가지 못하는 구조다. 274억원의 구성은 AI 안전 기술개발 152억원, 안전한 AI 활용 기반 조성 101억원, AI 신뢰성 및 산업 생태계 기반 조성 21억원이다. 뒤의 두 사업은 올해와 편성액이 같다. 이 의원은 안전 예산을 전체 AI 예산의 최소 1%로 높이고 단계별 확대 계획을 제시하라고 요구했다. 현 정부안의 AI 총액에 1%를 적용하면 약 943억원으로, 현재 안전·신뢰 편성액보다 약 669억원 많다. 핵심 쟁점은 AI를 사이버방어에 활용하는 능력과 AI의 행동을 통제하는 능력을 함께 확보하는 데 있다. 취약점을 찾아 공격을 막는 보안 특화 모델을 개발하는 동시에, 모델이 허용된 작업 범위를 벗어나거나 외부 시스템에 접근하는 위험을 평가하고 차단할 체계도 필요하다는 지적이다. 해외에서는 시험 중인 AI가 통제를 벗어난 실제 사고가 발생했다. 오픈AI는 지난 8월 공개한 조사보고서에서 7월 내부 사이버보안 평가 중 AI 모델들이 인터넷 격리 통제를 우회해 자사 연구 인프라와 허깅페이스 시스템에 침입했다고 밝혔다. 안전장치를 축소한 시험 환경에서 발생한 사건으로, 회사는 인터넷 접근 제한과 평가 환경 격리, 이상행동 감시를 강화하겠다고 설명했다. 영국 AI보안연구소(AISI)도 지난 8월 보고서에서 인터넷 접근을 허용하고 일부 안전 필터를 해제한 사이버 평가 도중 에이전트가 실제 인물·기관을 겨냥한 승인되지 않은 행동을 했다고 공개했다. 대응책으로 외부 접속 통제, 실시간 감시, 평가 환경 재설계를 제시했다. AI 안전 평가에는 모델을 시험하는 전문인력뿐 아니라 시험이 외부 피해로 이어지지 않도록 격리하는 인프라도 요구된다. 국내 평가 역량을 담당할 AI안전연구소의 인력 문제도 제기됐다. 이 의원은 인력이 26명에서 38명으로 늘었지만 해외 주요국보다 부족하다며 확충을 요구했다. 연구소는 AI 안전성 평가와 정책·기술 연구, 주요국 연구기관과의 협력을 맡고 있다. 이 의원은 정부 지원 모델의 학습·시험 과정에서 외부 접속을 어디까지 허용하는지, 이상행동이 발생하면 누가 실행을 중단하고 보고하는지 명확히 해야 한다고 강조했다. 배 부총리는 관련 해외 사고로 인한 국내 기관 피해는 아직 확인되지 않았다고 설명했다. 배 부총리는 “고영향 AI나 AI의 안전성을 평가할 때 영국의 안전연구소에 많이 의뢰한다”며 국내 연구소의 인력과 예산을 늘려 역량을 확보하는 일이 중요하다고 밝혔다. 정부는 보안 특화 모델과 프론티어 AI 개발을 통한 사이버안보 대응도 추진한다. 과기정통부는 12월 ‘국가 AI 안전생태계 조성 마스터플랜’을 수립·발표할 계획이다. 배 부총리는 국가 AI 안전관리체계 구축, 첨단 AI 안전 대응 역량 강화, 국민 일상의 안전한 AI 환경 조성을 준비하겠다고 밝혔다.2026-10-06 14:46:43
-
앤트로픽, 11월 IPO 추진…최대 2조달러 평가 속 인프라 부담 부각 [경제일보] AI 모델 ‘클로드’ 개발사 앤트로픽이 이르면 11월 중순 미국 증시 상장을 추진한다. 잠재 투자자들이 거론하는 기업가치는 최대 2조달러다. 빠른 매출 성장과 함께 대규모 연산 인프라 지출, AI 안전성 문제가 상장 과정에서 검토할 주요 변수로 떠올랐다. 블룸버그는 1일(현지시간) 소식통을 인용해 앤트로픽이 11월 9일 시작되는 주간에 투자자 대상 설명회인 로드쇼를 시작할 수 있다고 보도했다. 이 일정대로 진행하면 11월 26일 추수감사절 전에 거래를 개시할 수 있다. 당초 거론된 10월보다 늦춰진 일정으로, 연내 상장이 예상되지만 협의 과정에서 바뀔 수 있다. 일부 잠재 투자자는 적정 기업가치를 1조8000억~2조달러로 보고 있다. 앤트로픽이 지난 5월 650억달러를 유치하며 공식 발표한 투자 후 기업가치 9650억달러의 약 두 배 수준이다. 비상장 시장에서 형성된 성장 기대가 공개시장에서도 인정받을지가 이번 상장의 핵심이다. 공모 규모도 관심사다. 앤트로픽은 스페이스X에 맞먹거나 이를 웃도는 IPO를 추진하는 것으로 전해졌다. 스페이스X는 지난 6월 기본 공모로 750억달러를 조달한 뒤 추가 주식을 발행하는 초과배정옵션 행사로 총 조달액이 약 857억달러에 이르렀다고 발표했다. 최대 2조달러는 앤트로픽 전체의 평가액이며, 사상 최대 IPO 여부는 실제 공모 조달액으로 가려진다. 로이터가 확인한 비공개 IPO 설명서에서 지난해 매출은 약 46억달러로 전년의 약 12배로 증가했다. 영업손실은 80억달러를 넘었고 순손실은 약 420억달러에 달했다. 순손실 중 340억달러 이상은 부채의 공정가치 변동에서 발생했다. 향후 주식으로 전환될 수 있는 자금조달 수단의 추정 가치가 높아지면서 반영된 회계 비용이다. 같은 규모의 현금이 영업 과정에서 빠져나갔다는 뜻은 아니다. 현금 부담을 가늠할 별도의 자료는 인프라 계약이다. 이 설명서에는 향후 약 10년간 클라우드·컴퓨팅 인프라 등에 최소 5180억달러를 지출하는 약정이 담겼다. 약 80%는 취소가 불가능하거나 실제 사용량과 관계없이 지급해야 하는 조건이다. 지난해 손실과 달리 앞으로 이행해야 할 장기 지출 의무라는 점에서 매출 성장의 지속성과 함께 볼 항목이다. 앤트로픽은 지난 5월 투자 유치 당시 확보한 자금을 클로드 수요에 대응할 연산 자원 확대와 제품·파트너십 확장, 안전성 연구 등에 사용하겠다고 밝혔다. 상장은 대규모 인프라 확보 경쟁에 필요한 자본을 공개시장에서 조달하는 계기가 될 수 있다. AI 안전성 논란도 이어지고 있다. 다리오 아모데이 최고경영자(CEO)는 지난달 12일 공개한 에세이에서 “AI 모델의 역량을 향상하는 속도를 늦춰야 한다”고 주장했다. 외부 평가자가 직원에 준하는 접근 권한을 갖고 안전 조치와 사고를 검증하는 체계를 추진하겠다고도 밝혔다. 평가 결과는 앤트로픽의 편집 통제 없이 공개할 수 있도록 하되 보안·법률·기밀정보에는 제한을 두겠다는 구상이다.2026-10-02 09:05:38
-
코스피, 美 국채금리 부담에 이틀 연속 하락…6870.81 마감 [경제일보] 코스피가 미국 국채금리 급등 부담에 이틀 연속 하락 마감했다. 29일 한국거래소에 따르면 코스피 지수는 전 거래일보다 18.93포인트(0.27%) 내린 6870.81에 장을 마쳤다. 지수는 45.33포인트(0.66%) 내린 6844.41로 출발했다. 개장 직후 낙폭을 줄여 장중 6898.36까지 오르며 전 거래일 종가를 웃돌기도 했다. 이후 하방 압력이 커지면서 오전 10시에는 41.20포인트(0.60%) 내린 6848.54를 나타냈다. 낙폭은 한때 1.55%까지 확대돼 장중 저점은 6782.99였다. 이날 코스피 시장에서 상승 종목은 232개, 하락 종목은 624개였다. 보합은 58개였다. 투자자별로는 외국인이 2조9505억원 순매도하며 3거래일째 '팔자'에 나섰다. 개인은 1조1835억원, 기관은 1250억원 각각 순매수했다. 이날 유가증권시장 거래대금은 17조9931억원으로 집계됐다. 국내 증시 대장주인 삼성전자는 4500원(1.67%) 오른 27만4500원에 거래를 마쳤다. SK하이닉스는 1만6000원(0.90%) 상승한 178만4000원에 마감했다. 그 외 코스피 시가총액 상위 10개 종목은 상승과 하락이 엇갈렸다. 종목별 변동현황은 △삼성전자우(-1.21%) △SK스퀘어(1.91%) △삼성전기(2.94%) △LG에너지솔루션(-3.16%) △현대차(-1.41%) △삼성바이오로직스(-1.36%) △KB금융(-0.46%) △삼성생명(-1.86%)으로 집계됐다. 간밤 미국 국채금리 상승 부담이 이날 코스피에 가장 큰 영향을 준 것으로 보인다. 미국 10년물 국채금리는 장중 한때 5.241%까지 올라 지난 2007년 6월 12일 이후 가장 높은 수준을 기록했다. 국제유가도 올랐다. 11월 인도분 브렌트유 선물은 0.92% 오른 배럴당 105.28달러에, 서부텍사스산원유(WTI)는 0.21% 오른 92.60달러에 거래를 마쳤다. 이에 뉴욕증시 3대 지수인 △다우존스30 산업평균지수(0.67%) △S&P500지수(0.77%) △나스닥종합지수(0.92%)는 일제히 하락했다. 엔비디아는 약 204조원 규모의 자사주 매입 계획을 발표해 1.6% 올랐다. 다만 △AMD(3.61%) △퀄컴(7.17%) △인텔(5.67%) △마이크론(2.61%) △SK하이닉스 미국주식예탁증서(ADR)(5.03%) △샌디스크(3.65%) 등 AI·반도체주는 AI 안전성 논란 속에 하락했다. 미국과 이란 간 단기 협상 기대가 약해진 점, 오픈AI가 10월 공개 예정이던 GPT-6.1 아스트라 출시를 취소한 점도 투자심리에 부담을 준 것으로 풀이된다. 한편 코스닥 지수는 전 거래일보다 3.22포인트(0.38%) 오른 849.80에 거래를 마쳤다. 코스닥 지수는 2.71포인트(0.32%) 내린 843.87로 출발했다. 오전 10시에는 11.82포인트(1.40%) 하락한 834.76까지 낙폭이 커졌다. 이후 장 마감 직전 상승 전환에 성공했다. 투자자별로는 외국인이 1300억원 순매도했다. 기관은 55억원, 개인은 1480억원 각각 순매수했다. 코스닥시장 거래대금은 7조4498억원으로 집계됐다. 코스닥 시가총액 상위 10개 종목 변동 현황은 △알테오젠(0.59%) △에코프로(-3.42%) △에코프로비엠(-4.13%) △주성엔지니어링(6.22%) △레인보우로보틱스(-1.07%) △원익IPS (6.01%) △이오테크닉스(6.94%) △심텍(3.26%) △리노공업(3.65%) △HLB(0.63%)로 집계됐다. 이날 서울 외환시장에서 원·달러 환율은 전 거래일보다 8.4원 내린 1356.7원에 주간 거래를 마쳤다.2026-09-29 18:02:49
-
카카오, AI 안전성 평가 외부 검증 확대…모델 넘어 에이전트로 [경제일보] 카카오가 인공지능안전연구소와 AI 모델·에이전트의 안전성을 함께 평가하고 검증 도구를 개발한다. 자체 평가 체계에 외부 연구기관의 검토를 더해, AI가 실제 서비스에서 일으킬 수 있는 위험을 출시 전후로 확인하겠다는 계획이다. 카카오는 지난 28일 인공지능안전연구소와 AI 안전성 공동 평가 및 평가 체계 구축을 위한 업무협약(MOU)을 맺었다고 29일 밝혔다. 카카오는 평가 대상 모델과 에이전트, 평가에 필요한 인프라를 제공하고 연구소는 평가 수행과 방법론 고도화를 맡는다. 결과는 양측이 공동 검토하고 공개 범위를 협의하기로 했다. 협력은 언어모델 평가에서 시작해 멀티모달 모델과 AI 에이전트로 확대하는 3단계로 추진된다. 마지막 단계에서는 모델과 에이전트의 안전성을 검증하는 평가 도구도 공동 개발한다. 다만 협약 발표 자료에는 단계별 완료 시점과 결과 공개 기준이 담기지 않았다. 카카오는 지난해에도 인공지능안전연구소 등과 자체 언어모델 ‘카나나 에센스 1.5 9.8B’를 평가했다. 과학기술정보통신부가 발표한 국내 첫 AI 모델 안전성 평가로, 한국정보통신기술협회(TTA) 등이 참여해 유사 규모의 해외 모델과 비교했다. 카카오는 평가 결과를 공개하며 비교 모델 가운데 높은 점수를 기록했다고 밝혔다. 다만 지난해 평가가 AI의 모든 위험을 다룬 것은 아니다. 카카오가 공개한 평가 설명을 보면 모델의 부정확한 응답과 유해 콘텐츠 생성, 공격 프롬프트 대응 등을 살폈지만, 모델의 장기적인 통제 가능성이나 이용자의 사용 방식에 따라 달라지는 위험은 평가에서 제외했다. 카카오도 정보가 부족한 상황에서 구체적인 답을 시도하는 경향과 복합적인 공격에 대한 보완 필요성을 제시했다. 이번 협약에서 평가 대상을 에이전트까지 넓히는 것은 이 같은 검증 범위를 실제 서비스에 가까운 환경으로 확장하는 작업이다. 에이전트는 답변 생성에 그치지 않고 외부 도구나 서비스와 연동해 작업을 수행할 수 있어, 모델의 응답 안전성뿐 아니라 권한 설정과 실행 과정도 평가 대상이 될 수 있다. 구체적으로 어떤 시나리오와 기준을 적용할지는 양사가 정할 예정이다. 한편 인공지능안전연구소는 한국전자통신연구원(ETRI) 산하 조직으로 AI 안전 평가와 기술·정책 연구, 국제 협력을 맡고 있다. 카카오는 이번 협약으로 자체 평가 체계와 외부 전문기관의 평가를 병행하게 된다. 협력이 실효성을 얻으려면 평가 결과뿐 아니라 적용한 기준과 제외한 위험, 개선 조치도 함께 공개할 수 있어야 한다. 카카오와 연구소는 결과 공개 범위를 협의하기로 한 만큼, 향후 공개 수준이 평가의 신뢰도를 가를 요소다.2026-09-29 11:00:23
-
코스피, 美 국채금리 부담에 0.66% 하락 출발 [경제일보] 코스피 지수가 하락세로 장을 출발했다. 간밤 미국 국채금리와 국제유가가 오르며 뉴욕증시가 내린 여파가 국내 증시에 부담으로 작용한 것으로 풀이된다. 29일 한국거래소에 따르면 코스피 지수는 전장 대비 45.33포인트(0.66%) 내린 6844.41로 출발했다. 지수는 개장 직후 낙폭을 줄이며 보합권을 오갔다. 장중 한때 6898.36까지 올라 전 거래일 종가(6889.74)를 웃돌기도 했다. 이후 다시 하락 폭이 커지며 오전 10시 기준 코스피 지수는 직전 거래일보다 41.20포인트(0.60%) 내린 6848.54를 기록했다. 같은 시간 외국인은 7183억원 순매도했다. 반면 개인은 4506억원, 기관은 33억원 순매수했다. 국내 증시 대장주인 삼성전자와 SK하이닉스는 동반 상승했다. 두 종목은 전 거래일 각각 5.43%, 5.05% 하락했다. 이날 오전 10시 기준 삼성전자는 전장 대비 0.74% 오른 27만2000원에 거래됐다. SK하이닉스는 0.06% 상승한 176만9000원을 기록했다. 코스피 시가총액 상위 10개 종목은 엇갈린 흐름을 보이고 있다. SK스퀘어(0.64%)와 삼성전기(0.47%)는 상승했다. 반면 △삼성전자우(1.45%) △LG에너지솔루션(3.57%) △현대차(1.41%) △삼성바이오로직스(2.29%) △KB금융(1.21%) △삼성생명(2.70%)은 하락했다. 이번 하락은 간밤 미국 채권시장과 뉴욕증시 약세의 영향으로 분석된다. 미 10년물 국채금리는 장중 한때 5.241%까지 올라 지난 2007년 6월 12일 이후 가장 높은 수치를 기록했다. 30년물 금리도 장중 5.561%를 기록하며 2002년 6월 10일 이후 최고치를 경신했다. 국제유가도 상승했다. 11월 인도분 브렌트유 선물은 전장보다 0.92% 오른 배럴당 105.28달러에 거래를 마쳤다. 11월 인도분 서부텍사스산원유(WTI)는 0.21% 오른 92.60달러에 마감했다. 이에 뉴욕증시 3대 지수인 △다우존스30 산업평균지수(0.67%) △스탠더드앤드푸어스(S&P)500지수(0.77%) △나스닥종합지수(0.92%)는 일제히 하락했다. 엔비디아는 약 204조원 규모의 자사주 매입 계획을 발표해 1.6% 올랐다. 다만 △AMD(3.61%) △퀄컴(7.17%) △인텔(5.67%) △마이크론(2.61%) △SK하이닉스 미국주식예탁증서(ADR)(5.03%) △샌디스크(3.65%) 등 AI·반도체주는 AI 안전성 논란 속에 하락했다. 한편 코스닥 역시 하락 출발했다. 이날 코스닥 지수는 전장 대비 2.71포인트(0.32%) 내린 843.87로 거래를 시작했다. 이후 낙폭이 커져 오전 10시 기준 11.82포인트(1.40%) 하락한 834.76을 나타냈다. 이날 서울 외환시장에서 원·달러 환율은 같은 시간 기준 전 거래일보다 0.6원(0.04%) 내린 1359.4원으로 집계됐다.2026-09-29 10:46:20
-
네이버, AI 안전도 개발 단계부터 관리…110개 위험 항목으로 점검 [경제일보] 네이버가 인공지능(AI) 안전 관리를 모델 자체의 성능 검증을 넘어 서비스 개발·운영 전 과정으로 확대한다. AI 서비스에서 발생할 수 있는 위험을 110개 세부 항목으로 분류하고, AI 답변도 유해성뿐 아니라 이용자에게 적절한 응답인지까지 함께 평가하는 체계를 구축했다. AI가 검색·쇼핑 등 네이버 주요 서비스에 빠르게 적용되는 만큼 서비스 출시 이후 대응하는 방식에서 벗어나 개발 단계부터 위험을 관리한다는 전략이다. 16일 네이버는 첫 번째 'AI 세이프티 프로그레스 리포트'를 공개하고 자체 AI 안전 프레임워크 'ASF 2.0'을 기반으로 AI 서비스의 안전성을 관리하고 있다고 밝혔다. ASF 2.0은 AI 모델의 성능과 위험뿐 아니라 이용자와 서비스 보호까지 관리 범위를 확대한 것이 특징이다. 네이버는 AI 서비스의 설계·개발 단계부터 출시와 운영까지 전 과정에서 안전성을 점검하는 체계를 마련했다. 실행 체계인 'CHEC 2.0'을 통해 실제 서비스 개발 과정에 안전성 검토를 적용한다. AI 서비스에서 발생할 수 있는 위험을 구체적으로 분류한 기준도 마련했다. 'N-ARTI(네이버 AI 리스크 분류 & 식별)'는 법률·사회·산업 현장에서 나타난 사례를 바탕으로 AI 서비스의 위험을 110개 세부 항목으로 분류한다. AI 서비스마다 발생할 수 있는 위험이 다른 만큼 서비스 특성을 반영하면서도 회사 전체에서 일관된 기준으로 안전성을 점검하기 위한 목적으로 해당 항목으로 나눴다. 네이버는 N-ARTI를 기반으로 서비스별 위험 요소를 파악하고 필요한 안전장치인 가드레일을 구축한다는 구상이다. AI가 내놓는 답변을 평가하는 방식도 단순히 유해한 답변을 차단하는 데서 벗어났다. 네이버는 'N-ASET(네이버 AI 안전 평가 툴킷)'을 통해 AI 서비스의 응답을 '유해성'과 '사용성' 측면에서 함께 평가한다. 유해성 평가는 AI가 위험하거나 부적절한 답변을 제공하는지를 확인하는 방식이다. 사용성 평가는 이용자의 질문 의도에 맞는 답변을 제공하는지 살펴보는 데 초점을 둔다. 안전을 이유로 필요한 답변까지 일괄적으로 제한하기보다는 답변에 주의사항이나 전문가 안내 등 적절한 안전 요소를 포함하면서 이용자에게 필요한 정보를 제공하는지를 함께 평가한다는 설명이다. 네이버는 실제 서비스에도 이 같은 안전관리 체계를 적용하고 있다. AI 쇼핑 에이전트와 날씨 서비스에는 AI가 활용됐다는 사실을 이용자가 알 수 있도록 표시·고지하고 있다. 지난 6월 출시한 AI 탭도 서비스 출시 과정에서 CHEC 2.0에 따른 안전성 점검을 진행했다. 최근 AI가 검색과 쇼핑 등 이용자 접점이 넓은 서비스로 확산하면서 안전관리 역시 서비스 개발의 일부로 다뤄야 하는 것으로 꼽힌다. AI 모델의 성능이 높아지더라도 실제 서비스에서는 개인정보, 잘못된 정보, 부적절한 답변 등 다양한 위험이 발생할 수 있어 서비스 특성에 따른 사전 점검이 필요하기 때문이다. 네이버는 AI 안전 체계를 외부 전문기관과 함께 고도화할 계획이다. KAIST, 서울대학교 AI정책 이니셔티브(SAPI), 고려대학교 AI안전연구센터, AI안전연구소(AISI) 등과 협력해 AI 안전 관련 연구와 정책 논의를 이어간다. 원성재 네이버 AI 안전 센터장은 "AI 기술이 이용자의 일상에 빠르게 스며들면서 AI 안전성 역시 이론적 논의를 넘어 실제 서비스 환경에서 구체적으로 다뤄야 하는 단계에 접어들고 있다"며 "네이버는 AI의 개발과 이용 전 과정에서 인간 중심의 가치를 최우선으로 두고, AI 서비스에서 발생할 수 있는 위험을 예방하고 완화할 수 있도록 ASF 2.0을 지속적으로 고도화하고 적용해 나갈 것"이라고 말했다.2026-09-16 16:51:49
-
SKT 'A.X K2' 3단계행…셀렉트스타, AI 데이터 품질 검증 고도화 나선다 [경제일보] 정부의 '독자 AI 파운데이션 모델' 프로젝트 2차 평가에서 SK텔레콤 컨소시엄이 3단계에 진출한 가운데 컨소시엄의 데이터 부문을 맡은 셀렉트스타의 역할도 확대되고 있다. 인공지능(AI) 모델의 성능 경쟁이 고도화하면서 학습 데이터의 품질과 안전성을 관리하는 역량이 독자 AI 모델 경쟁력의 주요 요소로 부상하고 있는 것으로 분석된다. 18일 셀렉트스타가 참여한 SK텔레콤 컨소시엄은 과학기술정보통신부가 추진하는 '독자 AI 파운데이션 모델' 프로젝트 2차 평가를 통과해 3개 정예팀 가운데 하나로 선정됐다. 이번 평가에서는 SK텔레콤의 'A.X K2'를 비롯해 업스테이지 '솔라 오픈 2', LG AI연구원 'K-엑사원 2.0'이 3단계 개발을 이어가게 됐다. 이번 프로젝트는 글로벌 AI 모델과 경쟁할 수 있는 국내 독자 AI 파운데이션 모델을 확보하기 위해 정부가 추진하는 국가 사업이다. 2차 평가는 벤치마크와 전문가 평가, 사용자 평가 등을 종합해 후속 개발팀을 가리는 방식으로 진행됐다. SK텔레콤 컨소시엄은 SK텔레콤을 중심으로 셀렉트스타, 크래프톤, 포티투닷, 리벨리온, 라이너, SK AX, 테크노매트릭스 등 기업과 서울대, KAIST 등 학계가 참여하고 있다. SK텔레콤 컨소시엄에서 셀렉트스타는 모델 개발에 필요한 학습 데이터의 품질 관리와 검수를 담당했다. 단순히 데이터를 구축해 공급하는 역할에서 나아가 여러 참여 기관에서 생성·구축한 데이터를 동일한 기준으로 검증하고 관리하는 역할을 맡았다. 셀렉트스타는 1차 단계에서 대규모 학습 데이터를 구축하고 품질을 검증해 SK텔레콤의 'A.X K1' 성능과 신뢰성 향상을 지원한 것에 이어 2차 단계에서는 컨소시엄 내 여러 기관이 생산한 데이터를 통합 관리하는 데 초점을 맞춰 품질을 검수했다. 최근 AI 모델의 성능이 학습 데이터의 양뿐 아니라 데이터의 정확성과 일관성에 영향을 받는 만큼 데이터 품질 관리의 중요성도 커지고 있다. 특히 여러 기관이 하나의 컨소시엄을 구성해 모델을 개발할 경우 기관마다 데이터 생성 방식이나 검수 기준이 달라질 수 있어 이를 통합하는 관리 체계가 필요한 것으로 꼽힌다. 셀렉트스타는 2차 단계에서 모델 개발 과정에 필요한 데이터 품질 기준을 별도로 수립하고 세부 항목을 검증했다. 질문과 답변이 적절하게 구성됐는지를 확인하는 '질의·응답 적정성', 이미지와 질문·답변의 내용이 일치하는지를 살펴보는 'VQA(시각 질의응답) 적정성', 문장의 형식과 구조 등을 확인하는 '구문 정확성' 등이 검수 대상에 포함됐다. 특히 2차 단계에서는 1차보다 강화된 데이터 품질 기준이 적용되면서 여러 참여 기관이 구축한 데이터를 일관된 기준으로 검증하는 작업의 중요성이 커졌다. 이에 셀렉트스타는 데이터 품질 관리 프로세스를 고도화해 기관별 데이터의 품질 편차를 줄이고 사후 학습에 활용되는 데이터의 완성도를 높이는 데 주력했다. AI 안전성 확보를 위한 데이터 검수도 진행했다. 모델이 실제 서비스에 활용되는 과정에서 유해하거나 편향된 결과를 내놓는 것을 줄이기 위해 레드티밍 학습용 데이터셋의 품질을 점검했다. 레드티밍은 AI 모델에 의도적으로 취약점을 공격하거나 문제가 발생할 수 있는 질문을 제시해 모델의 위험 요소를 확인하는 방식이다. 셀렉트스타는 자체 AI 신뢰성 평가 플랫폼인 '다투모 플랫폼'과 산업·공공 분야에서 축적한 레드티밍 경험 등을 활용해 데이터 품질과 안전성 검증을 진행했다고 설명했다. AI 모델의 파라미터 규모나 벤치마크 성능뿐 아니라 어떤 데이터를 어떤 기준으로 학습시킨 것인지를 검증해 실제 서비스 경쟁력을 향상시킨 것으로 평가된다. 특히 3단계에 진입한 모델들이 향후 산업과 실생활에서 활용될 수 있는 수준으로 고도화될 경우 데이터 품질 관리와 안전성 검증에 대한 요구도 더욱 커질 전망이다. 연구·개발 단계에서 확보한 모델 성능을 실제 서비스로 연결하기 위해서는 데이터의 정확성과 안정성, 개인정보 및 편향 문제 등을 지속적으로 관리해야 하기 때문이다. 김세엽 셀렉트스타 대표는 "이번 2차 평가 통과는 SKT 컨소시엄 참여기관들이 각자의 영역에서 역량을 모아온 결과"라며 "셀렉트스타도 데이터 총괄 파트너로서 축적해 온 데이터 구축·품질 관리 역량을 바탕으로 모델 고도화를 안정적으로 지원해 나가겠다"고 말했다. 이어 "이번 프로젝트의 기술과 데이터 성과가 특정 기업에 머무르지 않고 국내 AI 생태계가 폭넓게 활용할 수 있는 결과물로 이어질 수 있도록 데이터와 신뢰성 평가 기술을 지속적으로 고도화하겠다"고 강조했다.2026-08-18 14:08:11
-
카카오 '카나나2', 허깅페이스 공개 두 모델, 안전성 평가 종합 1위 [경제일보] 카카오가 오픈소스로 공개한 경량언어모델(SLM) '카나나-2' 시리즈의 안전성 평가 결과를 18일 내놨다. 유사 규모 글로벌 모델과 비교해 종합 1위를 기록했다고 밝혔다. 평가 대상은 지난달 28일 허깅페이스에 공개한 4종 가운데 'Kanana-2-1.3B-Instruct'와 'Kanana-2-3B-Instruct'다. 카카오는 당시 4종을 상업적 활용까지 허용하는 '카나나 오픈 라이선스'로 배포했고, 자체 개발한 한국어 특화 토크나이저를 적용해 한국어 처리 효율을 30% 이상 높였다고 밝힌 바 있다. 현재 '카나나 인 카카오톡'과 카카오톡 대화·통화 요약, AI 국민비서 등에 카카오의 경량 모델이 쓰이고 있다. 이번 평가는 카카오가 자체 구축한 'AI 안전성 평가 플랫폼'으로 진행됐다. 지난해 11월 한국정보통신기술협회(TTA), KAIST, 카카오 등이 과학기술정보통신부 사업으로 공동 구축한 한국어 특화 벤치마크 'AssurAI'를 활용했다. AssurAI는 한국의 사회·문화적 맥락을 반영해 AI 위험 요소를 측정하며, 텍스트뿐 아니라 이미지·오디오 등 멀티모달 환경과 악의적 프롬프트 입력 상황까지 평가할 수 있다. 총 35개 위험 범주에 9560개 평가 항목으로 구성됐고, 카카오는 이를 △사회적 리스크 △성적 콘텐츠·아동보호 △범죄·불법 행위 △폭력 △권리 침해 등 5개 대분류로 재편해 집계했다. AI 모델이 사전 정의된 채점 기준에 따라 다른 모델의 응답을 평가하는 방식을 적용해, 대규모 평가에서도 주관적 편차를 줄이고 동일한 기준으로 비교할 수 있게 했다는 설명이다. 비교 대상은 유사 파라미터 규모의 구글 '젬마'와 알리바바 '큐웬'이었다. 결과는 카나나2 1.3B 모델이 종합점수 0.70으로 젬마(0.68), 큐웬(0.58)을 앞섰고, 3B 모델도 0.70으로 젬마(0.66), 큐웬(0.62)보다 높았다. 대분류별로는 1.3B 모델이 범죄·불법 행위 영역에서, 3B 모델이 성적 콘텐츠·아동보호와 권리 침해 영역에서 비교 모델을 크게 앞섰다. 카카오는 앞으로 자체 개발 모델에 상시적인 사전 안전성 평가를 확대 적용할 계획이다. 텍스트 언어모델을 넘어 멀티모달 모델과 스스로 작업을 수행하는 에이전틱 AI 리스크 평가로도 범위를 단계적으로 넓힌다는 방침이다. 카카오는 이에 앞서 AI 안전성 검증 도구 '카나나 세이프가드'도 오픈소스로 공개한 바 있다. 김경훈 카카오 AI 세이프티 리더는 "이번 평가는 자체 검증 체계를 통해 오픈소스 모델의 안전성을 사전에 점검하고, 그 결과를 공개하고자 한 사례"라며 "앞으로도 책임 있는 AI 개발 원칙 아래 안전성 검증을 모델 출시 프로세스의 핵심 단계로 정착시켜 나갈 것"이라고 말했다.2026-08-18 11:09:21
-
KAIST, MS 'AI 레드팀' 합류…국내 대학 중 유일 [경제일보] 한국과학기술원(KAIST)이 국내 대학 가운데 유일하게 마이크로소프트(MS)의 글로벌 인공지능(AI) 안전성 연구 네트워크에 합류했다. 생성형 AI와 AI 에이전트의 활용이 확산하는 가운데 글로벌 기업과 대학이 협력해 실제 서비스에서 발생할 수 있는 보안 위협을 선제적으로 검증한다. KAIST는 전산학부 손수엘 교수 연구팀이 MS AI 레드팀이 운영하는 글로벌 AI 안전성 연구 프로그램 ‘엑스트라(EXTRA·External Red Team Alliance)’ 연구팀으로 선정됐다고 28일 밝혔다. 엑스트라는 MS가 올해 시작한 외부 AI 레드팀 연구 지원 프로그램이다. 기업 내부 조직에 머물던 AI 안전성 평가를 세계 대학과 연구기관으로 확대해 다양한 관점에서 생성형 AI의 취약점과 위험성을 검증하는 것이 목적이다. 프로그램에는 6개 대륙의 10여개 대학과 연구기관이 참여한다. 국내 대학 가운데 선정된 곳은 KAIST가 유일하다. 손 교수 연구팀은 2만5000달러, 약 3700만원의 연구비를 지원받아 글로벌 연구진과 함께 AI 보안과 신뢰성 연구를 수행한다. 손 교수 연구팀은 생성형 AI와 대규모언어모델(LLM)을 대상으로 해킹을 통한 모델 탈취와 개인정보 유출, 악성 명령을 주입해 의도하지 않은 행동을 유도하는 프롬프트 주입 공격 등을 분석하고 있다. 연구 범위는 단순한 챗봇을 넘어 외부 시스템과 연결돼 스스로 업무를 수행하는 AI 에이전트까지 확대된다. AI 에이전트는 문서 작성과 정보 검색뿐 아니라 외부 도구 호출, 데이터 처리, 시스템 제어 등을 연속적으로 수행한다. 권한과 접근 범위를 적절히 통제하지 못하면 개인정보나 기업 내부 정보가 노출될 수 있어 서비스 구축 단계부터 공격 가능성을 점검해야 한다. 연구팀은 실제 서비스 환경에서 발생할 수 있는 공격 경로를 찾아내고, AI가 악성 명령이나 조작된 정보를 구분하도록 하는 방어 기술을 개발할 계획이다. 공격자의 관점에서 취약점을 검증하는 레드팀 연구와 이를 차단하는 보안 기술을 함께 고도화한다. 최근 글로벌 AI 기업들은 모델 성능 경쟁과 함께 안전성 검증을 핵심 과제로 삼고 있다. AI가 금융과 의료, 공공, 제조 등 민감한 데이터를 다루는 산업으로 확산하면서 모델 자체뿐 아니라 데이터와 외부 도구, 네트워크를 연결하는 전체 서비스 구조의 보안이 중요해졌기 때문이다. 이번 프로그램 참여는 KAIST가 MS의 AI 보안 연구진 및 세계 대학들과 연구 성과를 교류하고, 국제적인 AI 안전성 평가 체계 마련에 참여할 기회가 될 전망이다. 국내 연구진의 공격·방어 기술이 글로벌 AI 서비스의 보안 기준과 평가 방법에 반영될 가능성도 커졌다. 손수엘 교수는 “AI는 성능뿐 아니라 안전성과 신뢰성이 중요해지고 있다”며 “실제 서비스에서 발생할 수 있는 보안 위협을 분석하고 누구나 안심하고 사용할 수 있는 AI 기술 개발에 기여하겠다”고 말했다. MS AI 레드팀을 이끄는 램 샹카르 시바 쿠마르는 “AI 안전성 연구에서 대학은 핵심적인 역할을 하고 있다”며 “점점 강력해지는 AI 시스템을 평가하고 보호하며 책임감 있게 관리할 수 있도록 관련 연구를 지원하겠다”고 밝혔다.2026-07-28 15:00:10
-
KT, AI 신뢰 인프라 구축 나선다…UN·ITU와 글로벌 표준 협력 [경제일보] 사람을 대신해 스스로 판단하고 업무를 수행하는 '에이전틱 AI(인공지능)' 시대가 다가오면서 AI의 신원과 권한, 책임을 검증하는 '디지털 신뢰' 구축이 글로벌 핵심 과제로 떠오르고 있다. 이에 KT는 유엔(UN)과 국제전기통신연합(ITU)이 주관하는 국제 행사에 참여해 AI 신뢰 체계 구축과 글로벌 표준화 방향을 구상하고 있다. 9일 KT는 스위스 제네바에서 열린 'AI 포 굿 글로벌 서밋'과 UN '글로벌 AI 거버넌스 대화'에 참석해 책임감 있는 AI와 글로벌 AI 표준 협력 방안을 논의했다고 밝혔다. AI 포 굿 글로벌 서밋은 UN 산하 정보통신기술(ICT) 전문기구인 ITU가 주관하는 행사로, 정부와 산업계, 국제 표준기구 관계자들이 AI 기술의 발전 방향과 글로벌 협력 방안을 논의하는 자리다. 올해는 스스로 판단하고 행동하는 에이전틱 AI 시대를 맞아 디지털 신뢰와 AI 인프라 구축이 핵심 의제로 다뤄졌다. KT는 'AI 파운데이션: 모두를 위한 디지털 신뢰와 AI 인프라' 라운드테이블 세션에서 에이전틱 AI 시대에 필요한 '신뢰 기본 요소' 구축 방안을 제안했다고 설명했다. 신뢰 기본 요소는 AI가 누구를 대신해 행동하는지 확인하는 '신원', 어떤 권한을 위임받았는지에 대한 '동의', 수행한 행위를 객관적으로 증명할 수 있는 '검증 가능성' 등을 의미한다. 특히 KT는 향후 AI 서비스의 중심이 사람과 시스템 간 상호작용에서 AI 에이전트 중심으로 이동할 것으로 전망했다. 이에 따라 AI가 안전하게 의사결정을 수행하기 위해서는 특정 기업이나 플랫폼에 종속되지 않는 개방형 상호운용 표준과 중립적인 신뢰 인프라가 필요하다고 강조했다. 같은 날 열린 UN '글로벌 AI 거버넌스 대화'에도 참석해 AI 거버넌스 구축 방안과 국제 협력 방향을 논의했다. 지난해 출범한 글로벌 AI 거버넌스 대화는 각국 정부와 산업계, 학계가 안전하고 포용적인 AI 생태계 조성을 위한 협력 방안을 논의하는 국제 협의체다. 이번 행사에는 안토니오 구테흐스 UN 사무총장을 비롯해 튜링상 수상자인 요슈아 벤지오 교수, 브래드 스미스 마이크로소프트 사장 등 글로벌 AI 정책과 기술 분야 주요 인사들이 참석했다. KT는 '인권 존중·보호·증진: 투명성, 책임성 및 인간 개입' 세션에서 AI 기술이 발전하더라도 UN이 제시한 인권 원칙이 지속적으로 보장돼야 한다는 점을 강조했다. 또한 AI 안전성 확보를 위한 자체 정책과 거버넌스 체계를 구축해 운영하고 있으며, 이를 지니TV AI 에이전트 등 자사 AI 서비스에 적용하고 있다고 소개했다. 향후 UN과 협력해 AI 안전성과 관련한 예방·보호·감시 체계 마련에도 참여할 계획이다. 최근 글로벌 AI 산업에서는 생성형 AI를 넘어 에이전틱 AI 시대로 전환이 본격화되면서 AI의 안전성과 투명성, 책임성을 확보하기 위한 국제 표준 논의도 활발해지고 있다. AI가 금융과 의료, 공공서비스 등 다양한 영역에서 사람을 대신해 의사결정을 수행하는 사례가 늘어나면서 디지털 신뢰 체계 구축이 AI 산업 경쟁력을 좌우할 핵심 요소로 부상할 것으로 분석된다. 박완진 KT AX미래기술원 테크전략담당 상무는 "에이전트가 사람을 대신하는 시대에는 기술 혁신의 속도와 함께, 인간의 권리를 보장하고 상호 운용 가능한 디지털 신뢰를 구축하는 것이 무엇보다 중요하다"며 "KT는 AI 모델을 직접 개발하면서도 중립적인 신뢰 인프라를 함께 제공할 수 있는 사업자로서 글로벌 표준 논의에 책임 있게 기여하겠다"고 말했다.2026-07-09 10:05:26
-
네이버, AI 안전망 넓힌다…'모델' 넘어 이용자 경험까지 점검 [경제일보] 네이버가 인공지능(AI) 안전성 관리 범위를 모델에서 서비스와 이용자 경험으로 넓힌다. AI가 검색과 쇼핑, 추천, 에이전트 기능으로 들어오는 상황에서 단순히 모델 성능만 보는 방식으로는 안전성을 담보하기 어렵다는 판단이다. 네이버(대표이사 최수연)는 8일 서울 강남구에서 열린 인공지능안전 서울 포럼에서 AI 안전성 관리 체계 ‘ASF(AI Safety Framework) 2.0’을 공개했다. ASF 2.0은 네이버가 2024년 AI 서울 서밋에서 공개한 ASF를 고도화한 버전이다. 기존 ASF가 AI 기술 모델의 성능과 위험 수준을 중점적으로 관리했다면 ASF 2.0은 이용자가 실제로 접하는 AI 서비스까지 관리 범위를 확장했다. AI가 하나의 모델로 작동하던 단계에서 여러 모델과 기능이 결합된 서비스로 진화하면서 안전성 관리 방식도 바뀌어야 한다는 문제의식이 반영됐다. 송대섭 네이버 AI Safety Policy 리더는 “AI를 둘러싼 기술과 서비스, 정책·제도 환경이 변화하며 하나의 모델을 안전하게 만드는 문제를 넘어 수천만 명이 사용하는 서비스를 어떻게 안전하게 설계하고 운영할 것인지의 문제로 확장되고 있다”고 말했다. 이번 체계에는 네이버의 ‘On-service AI’ 전략도 반영됐다. 네이버는 AI탭과 쇼핑 AI 에이전트 등 기존 서비스 안에 AI 기능을 깊게 결합하고 있다. 또 글로벌 AI 생태계에서 멀티 모델 환경이 확산되고 국내에서도 AI기본법 제정 등 제도 변화가 이어지는 점을 고려했다. ASF 2.0의 핵심은 서비스 전 주기 관리다. AI 서비스의 출시 전 설계 단계부터 출시 이후 운영 과정까지 위험을 점검한다. 평가 기준도 단순 성능 중심에서 맥락, 활용 사례, 영향으로 세분화됐다. 같은 AI 기능이라도 어떤 서비스에 쓰이는지 어떤 이용자가 영향을 받는지에 따라 위험 수준이 달라질 수 있기 때문이다. 구체적으로 네이버는 AI 위험 분류 체계를 통해 서비스에서 발생할 수 있는 위험을 유형화한다. 이어 AI 영향 평가 매트릭스로 활용 영역과 범위에 따른 영향을 평가한다. 이후 지속적인 안전성 점검과 사용자 피드백을 반영해 AI 서비스가 안정적으로 운영되도록 관리한다. 전사 실행 체계도 마련했다. 네이버는 ASF 2.0이 실제 서비스 출시 과정에 일관되게 적용될 수 있도록 ‘CHEC 2.0’을 운영한다. CHEC 2.0은 인간 중심 AI 윤리와 안전성을 검토하는 내부 실행 체계다. 지난 6월 선보인 ‘AI탭’도 설계부터 출시 단계까지 CHEC 2.0을 통해 안전성 점검을 거쳤다. 네이버는 앞으로 AI탭을 포함해 출시 예정이거나 이미 운영 중인 AI 기반 서비스의 안전성을 CHEC 2.0으로 지속 점검할 방침이다. 외부 전문가와 학계, 정책 기관과의 협업도 확대한다. 이번 업데이트는 AI 서비스 경쟁이 빨라질수록 안전성 관리가 기업의 신뢰 경쟁력으로 바뀌고 있음을 보여준다. 검색 결과, 쇼핑 추천, 에이전트 실행이 이용자의 판단과 소비에 직접 영향을 미치는 만큼 플랫폼 기업은 기술 성능뿐 아니라 잘못된 답변, 편향, 과도한 자동화, 개인정보 위험까지 함께 관리해야 한다. 한편 네이버의 ASF 2.0은 AI를 더 많이 붙이기 위한 안전장치이기도 하다. 이용자가 체감하는 서비스 안으로 AI가 들어갈수록 작은 오류도 큰 불신으로 번질 수 있다. AI 시대의 플랫폼 경쟁은 누가 더 빠르게 기능을 내놓느냐만으로 결정되지 않는다. 수천만 이용자가 쓰는 서비스에서 위험을 예측하고 설명하며 수정할 수 있는 체계를 갖췄는지가 다음 신뢰의 기준이 된다.2026-07-08 11:28:44
-
![[데일리 뱅킹 브리프] KB금융, 긱워커 맞춤형 금융 지원 확대 추진 外](https://image.ajunews.com//content/image/2026/06/30/20260630160139129300.jpg)
KB금융, 긱워커 맞춤형 금융 지원 확대 추진 外 [경제일보] KB금융, 긱워커 맞춤형 금융 지원 확대 추진 KB금융그룹이 다음달 1일부터 플랫폼 종사자(긱워커)를 위한 맞춤형 금융지원 체계를 마련하고 제도권 금융 접근성 확대에 나선다고 30일 밝혔다. 이번 지원은 △배달라이더 △대리운전기사 △물류업 종사자 △크리에이터 등 플랫폼 기반 경제활동 종사자를 대상으로 그룹 차원의 금융 생태계를 구축하는 것이 핵심이다. KB국민은행은 긱워커 전용 파킹통장인 'KB 프리N통장'을 출시한다. 플랫폼 정산금 등 비정기 소득을 관리할 수 있도록 설계했으며 결산기 평균잔액 200만원까지 최고 연 1.4% 특별금리를 제공한다. 플랫폼 정산금도 급여 실적으로 인정해 급여이체 고객과 동일한 금융 우대 혜택을 제공한다. 올해 3분기에는 서민금융진흥원과 협업해 청년 배달 종사자를 위한 미소금융 상품도 선보인다. 배달용 이륜차 구입자금을 최대 500만원까지 지원하며 친환경 이륜차 구매자와 금융교육 이수자에게는 금리 우대 혜택을 제공할 예정이다. 국민은행은 비금융 대안정보와 머신러닝 기반 신용평가를 활용해 금융이력 부족 고객에 대한 신용대출 심사도 확대한다. 이와 함께 배달 플랫폼 종사자를 위한 KB리브모바일 전용 요금제도 출시한다. KB국민카드는 이동이 많은 긱워커를 위한 'KB On the Go 체크카드'를 선보인다. 주유·통신·식음료 할인과 함께 KB손해보험의 자동차·이륜차 보험료 할인 혜택을 제공한다. KB손해보험은 지난 26일부터 산업안전보건공단 온라인 안전교육을 이수한 이륜차 배달 운전자에게 자동차보험료를 5% 할인하는 '라이더 안전교육 할인특약'을 운영하고 있다. KB금융 관계자는 "긱워커는 플랫폼 경제와 디지털 전환을 이끌어가는 새로운 경제 주체이자 미래 금융의 중요한 고객군"이라며 "맞춤형 금융서비스를 통해 포용금융을 확대하고 고객과 함께 성장하는 금융 생태계를 만들어 나가겠다"고 말했다. 우리은행·서금원, 영세자영업자 '인정가게' 프로젝트 실시 우리은행이 서민금융진흥원과 함께 성장 잠재력을 갖춘 영세자영업자를 발굴해 지원하는 ‘인정가게’ 프로젝트를 다음달 1일부터 실시한다고 30일 밝혔다. 인정가게는 우리미소금융재단 이용자와 사단법인 선한영향력가게 회원 중 지역사회 공헌 의지가 있는 영세자영업자 20명을 선정해 매장 경쟁력 강화를 돕는 사업이다. 선정된 가게에는 공식 인증 현판과 매장 부착용 스티커가 제공된다. 온라인 마케팅을 위한 홍보 비용과 사회관계망서비스(SNS)·보도자료 등을 활용한 홍보 기회도 지원된다. 우리은행은 전문 컨설턴트를 통해 매출 증대와 법무·세무·노무 등 사업 운영 전반에 대한 맞춤형 컨설팅도 제공한다. 선한영향력가게 회원 멘토와 연결해 매장 운영 노하우와 지역사회 공헌 활동 방법도 공유할 예정이다. 고객 참여형 이벤트도 진행한다. 인정가게 이용 고객이 영수증 리뷰 이벤트에 참여하면 매월 가게별 1명을 추첨해 30만원의 당첨금을 지급한다. 신청 접수는 다음달 1일부터 13일까지 진행된다. 우리은행 관계자는 "이번 프로젝트가 영세자영업자의 자생력 강화와 지역사회 내 선한 영향력 확산에 도움이 되길 기대한다"며 "앞으로도 소상공인과 함께 성장하는 포용금융 생태계 조성을 위해 다양한 지원을 이어가겠다"고 말했다. 카카오뱅크, 금융 AI 보안 연구 국제학회 논문 4편 채택 카카오뱅크가 자사의 금융 인공지능(AI) 분야 연구 논문 4편이 올해 상반기 국제 학술대회에서 채택됐다고 30일 밝혔다. 카카오뱅크 금융기술연구소는 AI 분야 학회 ICLR과 ACL, 자연어처리 분야 학회 LREC에서 생성형 AI 안전성과 금융 특화 AI 성능 향상 관련 연구 성과를 인정받았다. 지난 4월 ICLR 2026에서는 금융·법률 등 전문 분야 생성형 AI를 대상으로 한 유해 콘텐츠 주입 및 우회 공격 탐지 기술을 발표했다. 카카오뱅크와 KAIST가 공동 구축한 약 5만9000건 규모 데이터셋을 활용했다. 지난달 LREC 2026에서는 금융 AI의 보안성과 정확성을 높이는 연구 2편을 발표했다. 이미지가 포함된 멀티모달 환경의 프롬프트 공격 탐지 기술과 복잡한 금융 데이터 처리 과정에서 숫자 계산 오류를 찾아내는 기술이다. ACL 2026 산업 분야 트랙에는 KAIST와 공동 수행한 금융 AI 안전성 평가 연구가 채택됐다. 보이스피싱, 금융사기, 개인정보 탈취 등 금융 분야 위험 유형을 정리한 AI 안전성 평가 기준과 위험 답변 회피 학습 기술을 제안했다. 카카오뱅크 관계자는 "이번 연구는 학술적 성과를 넘어 금융 AI 서비스의 안전성과 정확성을 높이는 실질적인 기술이라는 점에서 의미가 크다"며 "앞으로도 금융 환경에 특화된 AI 보안 및 기술 연구를 지속하겠다"고 말했다.2026-06-30 16:04:02
-
AI 성능 넘어 '안전' 경쟁...KT 클라우드·카카오 AI 세이프티 맞손 [경제일보] 생성형 인공지능(AI)이 기업 업무 전반으로 확산되면서 AI 성능뿐 아니라 안전성과 신뢰성을 확보하기 위한 경쟁도 본격화되고 있다. 유해 콘텐츠 생성과 개인정보 유출, 프롬프트 공격 등 새로운 보안 위협이 부상하면서 AI를 실제 서비스에 적용하기 위해서는 'AI 세이프티'가 핵심 경쟁력으로 떠오른 것으로 분석된다. 26일 KT 클라우드와 카카오는 안전한 생성형 AI 서비스 구현을 위한 AI 세이프티 협력 체계를 구축했다고 밝혔다. 양사는 KT 클라우드의 AI 인프라 플랫폼과 카카오의 AI 세이프티 기술을 결합해 공공과 민간 분야에서 신뢰할 수 있는 AI 활용 환경을 구축한다는 계획이다. 최근 생성형 AI 도입이 빠르게 늘면서 AI 서비스의 안전성 확보가 기업들의 새로운 과제로 떠오르고 있다. AI가 허위 정보를 생성하는 '환각' 현상은 물론 '프롬프트 인젝션'을 통한 악성 명령 실행, 개인정보 유출, 유해 콘텐츠 생성 등의 위험성이 실제 서비스 운영 과정에서 잇따라 제기되고 있기 때문이다. 특히 공공기관과 금융권, 대기업을 중심으로 AI 도입이 확대되면서 모델 성능만큼 보안성과 신뢰성, 규제 대응 능력을 함께 검증하려는 움직임도 강화되고 있다. AI를 업무 시스템과 연계하는 기업이 늘어날수록 안전성을 확보할 수 있는 운영 체계가 필수 요소로 자리 잡고 있는 것이다. 이에 양사는 AI 서비스 개발부터 운영까지 전 과정에서 활용할 수 있는 AI 세이프티 기술 고도화에 나선다. 협력의 첫 단계로 KT 클라우드는 지난 4월 공개한 공공기관 대상 생성형 AI 플랫폼 'RAG Suite 2.0'에 카카오의 AI 가드레일 모델인 '카나나 세이프가드'를 적용할 예정이다. 카나나 세이프가드는 한국어와 국내 문화·법률 환경을 반영해 개발된 AI 세이프티 모델이다. 생성형 AI가 부적절하거나 유해한 답변을 생성하는 것을 방지하고 프롬프트 공격이나 정책 위반 가능성을 탐지하는 역할을 수행한다. 현재 카카오의 주요 AI 서비스에도 적용되고 있다. 양사는 가드레일 기술 적용을 시작으로 AI 모델 안전성 평가 시스템과 다양한 공격 시나리오를 기반으로 취약점을 점검하는 '레드티밍' 시스템도 단계적으로 제공할 계획이다. AI 모델이 실제 서비스 환경에서 예상하지 못한 공격이나 악용 시도에 얼마나 안정적으로 대응하는지를 검증하는 체계까지 함께 구축한다는 구상이다. 향후에는 AI 세이프티 도구를 통합 관리하는 운영 플랫폼 구축으로 협력을 확대한다. KT 클라우드 환경에서 축적되는 운영 데이터와 고객 피드백을 기반으로 AI 안전성 관리 기능을 고도화하고, 생성형 AI 서비스의 개발과 배포, 운영, 모니터링까지 아우르는 통합 운영 체계를 마련할 계획이다. IT 업계에서는 AI 시장 경쟁이 모델 성능 중심에서 안전성과 신뢰성을 확보하는 방향으로 빠르게 이동하고 있는 것으로 전망한다. 생성형 AI 기술이 기업 핵심 업무에 적용될수록 모델의 정확도뿐 아니라 보안과 컴플라이언스, 운영 안정성 확보 여부가 AI 도입을 결정하는 핵심 요소로 자리 잡고 있기 때문이다. 이에 AI 가드레일과 레드티밍, 모델 평가 체계 등 AI 세이프티 기술도 AI 인프라의 필수 요소로 부상하고 있는 것으로 평가된다. KT 클라우드와 카카오는 이번 협력을 계기로 공공기관과 금융권을 비롯한 다양한 산업 분야에서 신뢰할 수 있는 생성형 AI 서비스 구축을 지원하는 한편, 국내 AI 생태계 전반의 안전성 확보에도 기여한다는 방침이다. 김봉균 KT 클라우드 대표는 "생성형 AI가 본격적으로 확산되면서 성능뿐 아니라 책임 있는 AI 활용 기반을 마련하는 것이 중요한 과제가 되고 있다"며 "카카오와의 협력을 통해 AI 인프라와 안전성 기술을 결합하고, 공공과 민간 고객이 보다 신뢰할 수 있는 환경에서 AI 서비스를 개발·운영할 수 있도록 지원하겠다"고 말했다. 김세웅 카카오 AI 시너지 성과리더는 "카카오의 AI 세이프티 기술과 KT 클라우드의 인프라 역량이 만나는 이번 협력이 국내 AI 생태계의 안전성을 한 단계 높이는 계기가 되길 바란다"며 "앞으로도 이용자가 안심하고 사용할 수 있는 AI 환경을 만들기 위해 지속적으로 노력하겠다"고 말했다.2026-06-26 10:15:27
-
정부, 美 AI 통제 속...앤트로픽과 안전·보안 동맹 [경제일보] 미국 정부가 국가 안보를 이유로 첨단 인공지능(AI) 모델 접근을 제한하고 나선 가운데 한국 정부가 앤트로픽과 AI 안전·사이버보안 협력에 나섰다. 고성능 AI 모델이 사이버 공격과 방어 양쪽에 모두 활용될 수 있다는 우려가 커지는 상황에서 한국이 글로벌 AI 안전망의 핵심 파트너로 자리 잡을 수 있을지 주목된다. 과학기술정보통신부는 18일 앤트로픽과 AI 안전성 확보 및 사이버보안 협력 업무협약을 체결했다고 밝혔다. 양측은 AI가 사이버 공격과 방어에 미치는 영향을 분석하고 한국어 맥락에서의 AI 모델 안전성 및 오남용 위험을 평가하는 데 협력할 예정이다. 자율형 AI 에이전트에 대한 레드팀 평가도 협력 대상에 포함됐다. 앤트로픽은 챗봇 ‘클로드’와 코딩 특화 도구, AI 에이전트 기술로 빠르게 성장한 프런티어 AI 기업이다. 최근에는 사이버보안 특화 고성능 모델인 ‘미토스’와 관련한 글로벌 논란의 중심에도 섰다. 앤트로픽의 프로젝트 글래스윙은 미토스 계열 모델을 활용해 핵심 소프트웨어의 취약점을 찾고 고치는 방어 목적의 AI 보안 협력체다. 한국에서는 KISA와 주요 기업들이 이 프로젝트에 참여한 것으로 알려졌다. 협약의 의미는 단순한 기술 교류를 넘어선다. AI 모델이 고도화되면서 보안 위험은 두 방향으로 커지고 있다. 방어자는 AI로 취약점을 더 빨리 찾을 수 있지만 공격자 역시 AI를 활용해 악성코드 변형, 취약점 탐색, 피싱 자동화, 침투 시나리오 생성을 시도할 수 있다. 정부가 앤트로픽과 손잡은 것은 이 같은 양면성을 제도권 안에서 평가하고 통제하려는 시도로 볼 수 있다. 과기정통부는 한국 AI 안전연구소와 앤트로픽 간 협력을 통해 AI 모델 및 자율형 AI 에이전트 안전성 평가를 추진할 방침이다. 금융 분야 등 국가적 파급력이 큰 영역에서 AI 기반 취약점 발굴과 사이버 위협 정보 공유도 실무적으로 논의한다. 한국어 환경에서 발생할 수 있는 모델 오남용, 허위정보 생성, 보안 우회 가능성 등을 함께 점검하는 것도 주요 과제다. 정부는 이번 협약을 글로벌 AI 협력 벨트의 한 축으로 보고 있다. 그동안 AI 인프라, 프런티어 모델, 연구 협력 분야에서 글로벌 기업과 접점을 넓혀왔다면 앤트로픽과의 협력은 안전성과 보안 분야를 보강하는 성격이 강하다. AI 산업 경쟁력이 커질수록 모델 성능 못지않게 안전성 평가와 사이버 복원력이 국가 경쟁력의 기준으로 떠오르고 있기 때문이다. 검증대에 오른 부분은 미국의 AI 기술 통제 기조다. 외신에 따르면 미국 정부는 최근 앤트로픽의 고성능 모델 미토스 5와 페이블 5에 대해 외국 국적자의 접근을 제한하는 조치를 내렸다. 앤트로픽은 적용 범위를 선별하기 어렵다는 이유로 해당 모델 접근을 광범위하게 중단한 것으로 전해졌다. 이 조치가 이어질 경우 한국 정부와 기업이 프로젝트 글래스윙을 통해 확보하려던 미토스 접근권에도 제약이 생길 수 있다. 과기정통부는 앤트로픽과 소통하며 상황을 예의주시하고 있다는 입장이다. 앤트로픽 역시 신중한 태도를 보이고 있다. 한국 입장에서는 미국의 첨단 AI 모델에 대한 접근권을 확보하는 동시에 미국 정부의 수출통제와 기술 주권 기조에 따른 불확실성도 관리해야 하는 상황이다. 이번 협약은 한국 AI 정책의 방향을 보여준다. 단순히 해외 모델을 쓰는 것을 넘어 고성능 AI가 초래할 수 있는 위험을 평가하고 방어 기술을 확보하려는 움직임이다. 특히 AI 에이전트가 실제 시스템을 조작하고 코드를 작성하며 업무를 수행하는 단계로 넘어가면 모델 안전성과 사이버보안은 분리하기 어려운 과제가 된다. 성과는 접근권과 실행력에서 갈릴 전망이다. 미토스 같은 첨단 모델에 대한 안정적 접근이 보장되지 않으면 협력은 제한적일 수밖에 없다. 반대로 한국어 환경의 안전성 평가, 금융·공공 분야 취약점 발굴, 국내 보안 인력과 글로벌 모델의 결합이 실질 성과로 이어진다면 한국은 AI 안전·보안 분야에서 독자적 입지를 넓힐 수 있다.2026-06-18 16:09:55
많이 본 뉴스
영상
Youtube 바로가기
![[데스크칼럼] 반도체 호황에 취한 정부, 민생은 무너진다](https://image.ajunews.com/content/image/2026/10/15/20261015173614583906_518_323.jpg)