2026.09.29 화요일
검색
'AI 위험' 검색결과
기간검색
-
~
검색영역
검색어
-
카카오 '카나나2', 허깅페이스 공개 두 모델, 안전성 평가 종합 1위 [경제일보] 카카오가 오픈소스로 공개한 경량언어모델(SLM) '카나나-2' 시리즈의 안전성 평가 결과를 18일 내놨다. 유사 규모 글로벌 모델과 비교해 종합 1위를 기록했다고 밝혔다. 평가 대상은 지난달 28일 허깅페이스에 공개한 4종 가운데 'Kanana-2-1.3B-Instruct'와 'Kanana-2-3B-Instruct'다. 카카오는 당시 4종을 상업적 활용까지 허용하는 '카나나 오픈 라이선스'로 배포했고, 자체 개발한 한국어 특화 토크나이저를 적용해 한국어 처리 효율을 30% 이상 높였다고 밝힌 바 있다. 현재 '카나나 인 카카오톡'과 카카오톡 대화·통화 요약, AI 국민비서 등에 카카오의 경량 모델이 쓰이고 있다. 이번 평가는 카카오가 자체 구축한 'AI 안전성 평가 플랫폼'으로 진행됐다. 지난해 11월 한국정보통신기술협회(TTA), KAIST, 카카오 등이 과학기술정보통신부 사업으로 공동 구축한 한국어 특화 벤치마크 'AssurAI'를 활용했다. AssurAI는 한국의 사회·문화적 맥락을 반영해 AI 위험 요소를 측정하며, 텍스트뿐 아니라 이미지·오디오 등 멀티모달 환경과 악의적 프롬프트 입력 상황까지 평가할 수 있다. 총 35개 위험 범주에 9560개 평가 항목으로 구성됐고, 카카오는 이를 △사회적 리스크 △성적 콘텐츠·아동보호 △범죄·불법 행위 △폭력 △권리 침해 등 5개 대분류로 재편해 집계했다. AI 모델이 사전 정의된 채점 기준에 따라 다른 모델의 응답을 평가하는 방식을 적용해, 대규모 평가에서도 주관적 편차를 줄이고 동일한 기준으로 비교할 수 있게 했다는 설명이다. 비교 대상은 유사 파라미터 규모의 구글 '젬마'와 알리바바 '큐웬'이었다. 결과는 카나나2 1.3B 모델이 종합점수 0.70으로 젬마(0.68), 큐웬(0.58)을 앞섰고, 3B 모델도 0.70으로 젬마(0.66), 큐웬(0.62)보다 높았다. 대분류별로는 1.3B 모델이 범죄·불법 행위 영역에서, 3B 모델이 성적 콘텐츠·아동보호와 권리 침해 영역에서 비교 모델을 크게 앞섰다. 카카오는 앞으로 자체 개발 모델에 상시적인 사전 안전성 평가를 확대 적용할 계획이다. 텍스트 언어모델을 넘어 멀티모달 모델과 스스로 작업을 수행하는 에이전틱 AI 리스크 평가로도 범위를 단계적으로 넓힌다는 방침이다. 카카오는 이에 앞서 AI 안전성 검증 도구 '카나나 세이프가드'도 오픈소스로 공개한 바 있다. 김경훈 카카오 AI 세이프티 리더는 "이번 평가는 자체 검증 체계를 통해 오픈소스 모델의 안전성을 사전에 점검하고, 그 결과를 공개하고자 한 사례"라며 "앞으로도 책임 있는 AI 개발 원칙 아래 안전성 검증을 모델 출시 프로세스의 핵심 단계로 정착시켜 나갈 것"이라고 말했다.2026-08-18 11:09:21
-
BC카드, 금융권 최초 자체 개발 AI 플랫폼 오픈소스 공개 [경제일보] BC카드가 자체 개발한 인공지능(AI) 플랫폼 ‘BCGPT WebUI’의 소스코드를 공개했다고 28일 밝혔다. 금융회사가 핵심 AI 플랫폼을 오픈소스로 내놓은 것은 이번이 처음이다. 이는 정부의 소버린 AI(Sovereign AI) 정책에 호응하려는 행보로 풀이된다. 해외 기술 의존도를 낮추고 국내 금융 AI 생태계의 자립도를 높이겠다는 구상이다. 이번에 개방된 ‘BCGPT WebUI’는 Agentic AI를 기반으로 △문서 검색 △질의응답 △콘텐츠 생성 등을 하나의 환경에서 제공하는 통합 플랫폼이다. 가장 큰 특징은 설계 초기부터 국내 AI 관련 법규와 금융당국 가이드라인을 깊이 있게 반영한 점이다. 우선 국내 AI 법규를 충실히 따르기 위해 △AI 생성물 표시 배너 △AI 오류 발생 시 상담사 자동 연결 △답변 사실 검증 자동화 기능을 내장했다. 또한 금융 AI 7대 원칙에 입각해 위험 단계별 통제와 긴급 정지 기능을 탑재했다. 금융권 AI 위험 관리 기준을 바탕으로 △보안 검사 △품질 측정 △감사 기록 시스템도 갖췄다. 서비스를 먼저 내놓고 사후에 규제를 맞추던 기존 관행에서 벗어나 개발 첫 단계부터 법망을 지키는 규제 준수형 플랫폼으로 구현한 것으로 풀이된다. 아울러 망분리 규정도 엄격히 준수해 사내 업무망과 완전히 단절된 외부 개발망에서 프로젝트를 진행하며 공개 자산을 별도로 관리했다. 국내 기업 환경에 맞춘 성능 고도화도 이뤄졌다. 주요 적용 기술은 △다중 AI 교차 검증으로 답변 정확도를 끌어올린 다중 AI 협업 기술 △환각 현상을 원천 차단하는 자동 품질 검증 △해킹과 개인정보 유출을 7단계로 방어하는 다중 보안 △네이버를 비롯한 국내외 18개 검색 엔진 연동 등이다. BC카드는 이번 소스코드 개방을 통해 글로벌 개발자들의 피드백을 수용하며 서비스를 고도화할 방침이다. 검증을 마친 우수 코드는 기업용 AI 플랫폼 ‘MoAI’에 이식해 사업을 확장할 것으로 전망된다. 물리적으로 분리된 운영 체계를 구축해 외부 코드의 내부 시스템 유입도 완벽히 차단했다. 이를 바탕으로 AI 규제 대응력이 부족한 핀테크나 일반 기업을 공략하고 KT그룹 계열사와의 협업도 늘려갈 예정이다. 오성수 BC카드 상무(AI데이터본부장)는 “금융권 최초로 규제 준수형 AI 플랫폼을 공개해 국내 금융 AI 기술 자립과 오픈소스 생태계 활성화에 기여하고자 한다”며 “앞으로 글로벌 개발자들과 협력해 플랫폼을 고도화하고 AI 도입이 필요한 기업들을 대상으로 MoAI 솔루션 사업을 적극 확대할 계획”이라고 말했다.2026-07-28 09:15:17
-
네이버, AI 안전망 넓힌다…'모델' 넘어 이용자 경험까지 점검 [경제일보] 네이버가 인공지능(AI) 안전성 관리 범위를 모델에서 서비스와 이용자 경험으로 넓힌다. AI가 검색과 쇼핑, 추천, 에이전트 기능으로 들어오는 상황에서 단순히 모델 성능만 보는 방식으로는 안전성을 담보하기 어렵다는 판단이다. 네이버(대표이사 최수연)는 8일 서울 강남구에서 열린 인공지능안전 서울 포럼에서 AI 안전성 관리 체계 ‘ASF(AI Safety Framework) 2.0’을 공개했다. ASF 2.0은 네이버가 2024년 AI 서울 서밋에서 공개한 ASF를 고도화한 버전이다. 기존 ASF가 AI 기술 모델의 성능과 위험 수준을 중점적으로 관리했다면 ASF 2.0은 이용자가 실제로 접하는 AI 서비스까지 관리 범위를 확장했다. AI가 하나의 모델로 작동하던 단계에서 여러 모델과 기능이 결합된 서비스로 진화하면서 안전성 관리 방식도 바뀌어야 한다는 문제의식이 반영됐다. 송대섭 네이버 AI Safety Policy 리더는 “AI를 둘러싼 기술과 서비스, 정책·제도 환경이 변화하며 하나의 모델을 안전하게 만드는 문제를 넘어 수천만 명이 사용하는 서비스를 어떻게 안전하게 설계하고 운영할 것인지의 문제로 확장되고 있다”고 말했다. 이번 체계에는 네이버의 ‘On-service AI’ 전략도 반영됐다. 네이버는 AI탭과 쇼핑 AI 에이전트 등 기존 서비스 안에 AI 기능을 깊게 결합하고 있다. 또 글로벌 AI 생태계에서 멀티 모델 환경이 확산되고 국내에서도 AI기본법 제정 등 제도 변화가 이어지는 점을 고려했다. ASF 2.0의 핵심은 서비스 전 주기 관리다. AI 서비스의 출시 전 설계 단계부터 출시 이후 운영 과정까지 위험을 점검한다. 평가 기준도 단순 성능 중심에서 맥락, 활용 사례, 영향으로 세분화됐다. 같은 AI 기능이라도 어떤 서비스에 쓰이는지 어떤 이용자가 영향을 받는지에 따라 위험 수준이 달라질 수 있기 때문이다. 구체적으로 네이버는 AI 위험 분류 체계를 통해 서비스에서 발생할 수 있는 위험을 유형화한다. 이어 AI 영향 평가 매트릭스로 활용 영역과 범위에 따른 영향을 평가한다. 이후 지속적인 안전성 점검과 사용자 피드백을 반영해 AI 서비스가 안정적으로 운영되도록 관리한다. 전사 실행 체계도 마련했다. 네이버는 ASF 2.0이 실제 서비스 출시 과정에 일관되게 적용될 수 있도록 ‘CHEC 2.0’을 운영한다. CHEC 2.0은 인간 중심 AI 윤리와 안전성을 검토하는 내부 실행 체계다. 지난 6월 선보인 ‘AI탭’도 설계부터 출시 단계까지 CHEC 2.0을 통해 안전성 점검을 거쳤다. 네이버는 앞으로 AI탭을 포함해 출시 예정이거나 이미 운영 중인 AI 기반 서비스의 안전성을 CHEC 2.0으로 지속 점검할 방침이다. 외부 전문가와 학계, 정책 기관과의 협업도 확대한다. 이번 업데이트는 AI 서비스 경쟁이 빨라질수록 안전성 관리가 기업의 신뢰 경쟁력으로 바뀌고 있음을 보여준다. 검색 결과, 쇼핑 추천, 에이전트 실행이 이용자의 판단과 소비에 직접 영향을 미치는 만큼 플랫폼 기업은 기술 성능뿐 아니라 잘못된 답변, 편향, 과도한 자동화, 개인정보 위험까지 함께 관리해야 한다. 한편 네이버의 ASF 2.0은 AI를 더 많이 붙이기 위한 안전장치이기도 하다. 이용자가 체감하는 서비스 안으로 AI가 들어갈수록 작은 오류도 큰 불신으로 번질 수 있다. AI 시대의 플랫폼 경쟁은 누가 더 빠르게 기능을 내놓느냐만으로 결정되지 않는다. 수천만 이용자가 쓰는 서비스에서 위험을 예측하고 설명하며 수정할 수 있는 체계를 갖췄는지가 다음 신뢰의 기준이 된다.2026-07-08 11:28:44
-
![[데일리 증권업계 브리프] 키움증권 대학생 대상 투자 챌린지 개최…총상금 6000만원 규모 外](https://image.ajunews.com//content/image/2026/06/22/20260622101034615100.png)
키움증권 대학생 대상 투자 챌린지 개최…총상금 6000만원 규모 外 [경제일보] 키움증권 대학생 대상 투자 챌린지 개최…총상금 6000만원 규모 키움증권이 총상금 6000만원이 걸린 대학생 대상 투자 대회를 개최한다고 22일 밝혔다. 이번 대회는 동아리 대표가 모임을 만든 후 최소 4명에서 최대 10명의 회원을 모아 참여하는 단체전 형태로 치러진다. 참가 부문은 △국내 수익률 △해외 수익률 △국내 수익금 △해외 수익금 등 총 4가지로 나뉜다. 참가자 모집은 오는 7월 3일에 마감된다. 투자 대회는 오는 7월 7일부터 31일까지 약 4주 동안 펼쳐진다. 상금은 수익률 부문의 경우 1위 1000만원 2위 500만원 3위 300만원이 각각 지급된다. 수익금 부문은 1위 팀에게 500만원이 주어진다. 본 대회와 더불어 20대 청년들을 위한 서포터즈 행사도 함께 열린다. 참가자가 응원하고 싶은 동아리를 골라 서포터즈 신청을 마치면 최대 2만원 가치의 국내 주식 매수 쿠폰을 얻을 수 있다. 행사 기간에 키움증권 계좌를 최초로 개설한 신규 가입자에게도 2만원 상당의 주식 매수 쿠폰을 나눠준다. 응원하는 동아리가 수익률 상위 5위권에 들거나 수익금 1위를 달성하면 해당 서포터즈 전원은 치킨 교환권을 받게 된다. 행사와 관련한 구체적인 안내 사항은 키움증권 공식 누리집과 모바일트레이딩시스템(MTS) 홈트레이딩시스템(HTS)을 통해 확인 가능하다. 이번 행사는 20대 청년들 사이에서 지인들과 투자 경험을 공유하는 문화를 넓히기 위한 목적으로 마련됐다. 미래 주요 고객이 될 대학생들에게 자사 브랜드를 각인시키려는 의도도 엿보인다. 한편 키움증권은 코스콤 집계 기준으로 지난 2005년부터 지난해까지 21년 연속으로 국내 주식 시장점유율 선두를 지키고 있다. 키움증권 관계자는 "대학동아리 투자챌린지는 20대 투자자들이 부담 없이 투자에 입문하고 친구들과 함께 즐길 수 있도록 기획한 대회"라며 "응원하면 혜택을 받을 수 있는 서포터즈 이벤트를 통해 더 많은 청년들이 건전한 투자 경험을 쌓을 수 있도록 하겠다"고 말했다. 유안타증권, AI 맞춤형 투자 서비스 'AI PB' 오픈…시장 흐름 한눈에 유안타증권은 자사 모바일 트레이딩 시스템(MTS) '티레이더M'에서 맞춤형 투자 정보를 제공하는 AI PB 서비스를 새롭게 선보였다고 22일 밝혔다. 새롭게 도입된 AI PB는 기존 챗봇이나 단순 뉴스 요약 기능에서 한발 더 나아간 서비스다. 생성형 AI 기술을 접목해 투자 자료와 시장 뉴스를 심층적으로 분석한다. 이를 통해 사용자는 본인의 관심 종목과 전반적인 시장 흐름을 한 화면에서 직관적으로 파악할 수 있다. 주요 신규 콘텐츠는 △AI 시황 △AI 이슈 Pick △AI 종목 Why? △AI 뉴스 Pick △Trading Care 등이다. 우선 AI 시황은 실시간 뉴스와 자체 연구 자료를 토대로 국내 지수 변동 원인과 수급 동향을 짚어내 하루 7차례 시황 보고서를 발간한다. AI 이슈 Pick은 당일 등락률이 높은 상하위 섹터 정보를 직관적으로 보여주며 각 부문별 변동 배경과 투자 요점을 AI 코멘트와 함께 전달한다. AI 종목 Why?와 AI 뉴스 Pick은 사용자의 관심 종목과 보유 주식을 중심으로 작동한다. 공시나 수급 데이터 등을 기반으로 AI가 주가 변동 이유를 파악하며 실시간 뉴스 요약과 호재 악재 진단 같은 개인화된 탐색 환경을 구현한다. 금융 비서 역할을 맡은 Trading Care는 주식 매매 과정에서 필요한 중요 알림과 주요 일정을 챙겨 효율적인 의사 결정을 돕는다. 해당 기능들은 티레이더M 홈 화면이나 리서치·AI 메뉴에 접속해 곧바로 이용할 수 있다. 이번 고도화된 AI 기반 서비스 도입으로 향후 투자자들의 정보 탐색 편의성이 한층 향상될 것으로 풀이된다. 장성철 유안타증권 Digital Transformation본부장은 "'AI PB'는 필요한 정보를 고객이 직접 찾아 확인하는 방식에서 벗어나 AI가 먼저 투자자에게 투자 정보를 제공하는 직관적이면서 개인화된 투자 서비스"라며 "앞으로도 AI 기반 투자 편의 서비스를 지속적으로 고도화해 정보 탐색의 편의성을 향상시키고 고객별 관심사와 투자 상황에 맞는 콘텐츠를 제공할 수 있도록 노력하겠다"고 말했다. KB증권, 금융권 최초 'MCP 허브' 기반 AI 개발환경 구축…보안평가 '적합' KB증권은 금융권에서 처음으로 '모델 컨텍스트 프로토콜(MCP)' 허브를 기반으로 한 생성형 인공지능(AI) 개발 환경 구축에 나선다고 22일 밝혔다. 해당 플랫폼은 IT 부서 직원이 업무용 단말기에서 '클로드 코드' 같은 AI 코딩 도구를 안전하게 쓰도록 준비 중인 플랫폼이다. 최근 금융보안원이 주관한 '생성형 AI 연계 이용 보안대책 평가'에서 적합 판정을 받았다. 또한 금융위원회의 금융권 망분리 규제 완화 기조에 맞췄다. 이로써 사내 업무 환경에 생성형 AI를 들여와 개발과 운영 효율을 끌어올릴 것으로 보인다. 기반 기술인 MCP는 생성형 인공지능(AI) 모델 '클로드'를 개발한 미국의 AI 연구 기업 앤스로픽이 지난 2024년 11월 내놓은 개방형 프로토콜이다. AI 비서와 업무 시스템 등 다양한 데이터 저장소를 이어주는 표준 기술이다. KB증권은 MCP 허브로 실무에 필요한 각종 정보를 AI와 안전하게 연결할 방침이다. 연계 대상은 △소스코드 저장소 △형상관리 시스템 △IT 운영 플랫폼 △개발 표준 가이드 △내부 기술문서 등이다. 이를 통해 실무자는 자연어 명령만으로 △소스코드 작성 △코드 리뷰 △테스트 코드 작성 △장애 원인 분석 △시스템 설계 문서 작성 △운영 자동화 스크립트 작성 업무를 돕게 될 것으로 보인다. 이 과정에서 MCP 허브는 AI와 사내 시스템 사이를 통제하는 중앙 관문으로 작동해 사용자 권한과 목적에 맞춰 꼭 필요한 정보만 쓰도록 제한한다. 이를 통해 △정보유출 △권한 오남용 △부적절한 데이터 입력 같은 생성형 AI 위험 요인을 줄인다는 설명이다. 보안 체계로는 △개인정보와 중요정보 입력 차단 △사용자 권한 기반 접근통제 △AI 질의응답 이력 관리 △실시간 모니터링 △이상행위 대응 절차 등을 적용했다. KB증권은 이번 금융보안원 적합 판정을 시작으로 생성형 AI 활용 영역을 점진적으로 넓혀갈 계획이다. 단순 코딩과 문서 작성 부담을 덜어내 개발자가 설계나 품질 개선 같은 핵심 고부가가치 업무에 몰두하도록 돕는 환경이 만들어질 것으로 보인다. KB증권 이동윤 IT본부장은 "이번 평가 결과는 생성형 AI를 금융회사 내부 업무에 안전하게 적용하기 위한 보안·통제 기반을 확인받았다는 점에서 의미가 있다"며 "앞으로도 MCP Hub 기반 AI 개발환경을 통해 보안성과 생산성을 함께 높이는 금융 IT 혁신 모델을 지속적으로 고도화해 나가겠다"고 말했다.2026-06-22 15:53:44
-
통화 중 위험 감지하면 보호자 알림…SKT, 에이닷 전화 '가족 케어' 도입 [경제일보] 보이스피싱 범죄가 빠르게 증가하면서 개인이 통화 상황에서 직접 대응해야 하는 기존 방식이 한계에 달한 것으로 나타난다. 이에 SKT는 인공지능(AI)을 활용한 탐지 기술 고도화를 통해 대응 구조를 바꾸고 있는 것으로 분석된다. 27일 SK텔레콤은 AI 통화 서비스 '에이닷 전화'에 보이스피싱 의심 통화를 탐지하면 보호자에게 즉시 알리는 '가족 케어' 기능을 추가했다고 밝혔다. 통화 중 AI가 위험 징후를 감지하면 사전에 등록된 보호자에게 문자(SMS)나 푸시 알림을 전송하는 방식으로, 보호자는 해당 서비스를 설치하지 않았거나 다른 통신사를 이용하더라도 알림을 받을 수 있다. 이번 기능은 단순한 탐지 기능을 넘어 제3자의 개입을 전제로 설계된 것이 특징이다. 기존 보이스피싱 대응은 이용자 개인의 판단에 의존하는 구조였지만 이번 신규 기능은 이용자가 심리적으로 압박받는 상황에서도 주변인이 상황을 인지하고 대응할 수 있도록 설계됐다. 해당 기능은 지난 22일 서울시 강남구 코엑스에서 진행된 '월드IT쇼 2026' 현장에서 시연과 함께 공개됐다. 현장에서는 통화 중 특정 키워드와 대화 흐름을 기반으로 AI가 위험 상황을 감지하고 보호자에게 실시간으로 알림이 전달되는 과정이 시연됐다. 앞서 월드IT쇼 현장에서 SK텔레콤 관계자는 "에이닷 전화는 디바이스에 내장된 AI를 통해 실시간으로 통화를 분석해 보이스피싱 여부를 파악해 경고한다"며 "다음 주부터 해당 경고를 미리 설정된 보호자에게 알림을 전달하는 가족 케어를 선보일 예정"이라고 말한 바 있다. 이번 기능이 등장한 배경에는 보이스피싱 수법의 변화가 있다. 최근 범죄는 수사기관이나 금융기관을 사칭하거나 가족의 사고를 가장하는 등 감정적 압박을 동반하는 방식으로 진화하고 있다. 통화 중 즉각적인 판단이 어려울 수 있는 구조로 AI가 위험을 탐지하더라도 이용자가 이를 무시하거나 인지하지 못할 경우 피해로 이어질 가능성이 높은 것으로 분석된다. SK텔레콤에 따르면 통화 전 단계에서 'AI안심차단' 기능을 통해 올해 1분기에만 약 3562만건의 보이스피싱·스팸 수신을 차단했고 통화 수신 단계에서는 약 347만건에 대해 보이스피싱·스팸 주의 알림을 보낸 것으로 집계됐다. 이번 '가족 케어' 기능은 탐지 정확도를 높이는 접근에서 나아가 대응 구조를 바꾸는 것으로 풀이된다. AI가 위험을 감지하는 데 그치지 않고 보호자에게 즉시 전달해 개입을 유도하는 구조로 실제 피해를 줄이도록 설계한 것으로 탐지 이후의 대응 단계까지 확장된 점이 기존 서비스와 차별화되는 특징으로 분석된다. 최근 통신사는 네트워크 제공과 스팸 차단 등 기본적인 보안 기능을 제공하는 데 머무르지 않고 AI 기반 서비스를 통해 이용자의 일상 안전까지 관리하는 방향으로 확장하고 있다. 에이닷 전화는 통화 전 단계에서 스팸을 차단하고, 통화 중에는 AI 탐지, 통화 이후에는 분석 기능을 제공하는 등 전 과정 보호 체계를 구축하고 있는 것으로 평가된다. 보이스피싱 대응이 기술 경쟁을 넘어 서비스 구조 경쟁으로 옮겨가고 있는 가운데 통신사의 AI 기반 안전 서비스 전략도 본격화될 것으로 분석된다. 향후에는 가족 단위 보호를 넘어 금융 서비스나 플랫폼과 연계한 대응 체계로 확장될 전망이다. 조현덕 SK텔레콤 에이닷 전화 담당은 "가장 위험한 순간에 가족과 기술이 함께 방어막이 돼야 한다는 생각으로 가족 케어 기능을 선보이게 됐다"며 "앞으로도 AI가 고객 곁에서 일상의 안전을 지키는 든든한 동반자가 될 수 있도록 서비스를 지속 발전시켜 나가겠다"고 말했다.2026-04-27 09:20:49
많이 본 뉴스
영상
Youtube 바로가기
![[사설] 자본시장 흔든 ETF 참사, 감독당국 책임 피할 생각부터 버려라](https://image.ajunews.com/content/image/2026/09/29/20260929103154859902_518_323.jpg)