2026.09.16 수요일
검색
'AI안전평가' 검색결과
기간검색
-
~
검색영역
검색어
-
네이버, AI 안전도 개발 단계부터 관리…110개 위험 항목으로 점검 [경제일보] 네이버가 인공지능(AI) 안전 관리를 모델 자체의 성능 검증을 넘어 서비스 개발·운영 전 과정으로 확대한다. AI 서비스에서 발생할 수 있는 위험을 110개 세부 항목으로 분류하고, AI 답변도 유해성뿐 아니라 이용자에게 적절한 응답인지까지 함께 평가하는 체계를 구축했다. AI가 검색·쇼핑 등 네이버 주요 서비스에 빠르게 적용되는 만큼 서비스 출시 이후 대응하는 방식에서 벗어나 개발 단계부터 위험을 관리한다는 전략이다. 16일 네이버는 첫 번째 'AI 세이프티 프로그레스 리포트'를 공개하고 자체 AI 안전 프레임워크 'ASF 2.0'을 기반으로 AI 서비스의 안전성을 관리하고 있다고 밝혔다. ASF 2.0은 AI 모델의 성능과 위험뿐 아니라 이용자와 서비스 보호까지 관리 범위를 확대한 것이 특징이다. 네이버는 AI 서비스의 설계·개발 단계부터 출시와 운영까지 전 과정에서 안전성을 점검하는 체계를 마련했다. 실행 체계인 'CHEC 2.0'을 통해 실제 서비스 개발 과정에 안전성 검토를 적용한다. AI 서비스에서 발생할 수 있는 위험을 구체적으로 분류한 기준도 마련했다. 'N-ARTI(네이버 AI 리스크 분류 & 식별)'는 법률·사회·산업 현장에서 나타난 사례를 바탕으로 AI 서비스의 위험을 110개 세부 항목으로 분류한다. AI 서비스마다 발생할 수 있는 위험이 다른 만큼 서비스 특성을 반영하면서도 회사 전체에서 일관된 기준으로 안전성을 점검하기 위한 목적으로 해당 항목으로 나눴다. 네이버는 N-ARTI를 기반으로 서비스별 위험 요소를 파악하고 필요한 안전장치인 가드레일을 구축한다는 구상이다. AI가 내놓는 답변을 평가하는 방식도 단순히 유해한 답변을 차단하는 데서 벗어났다. 네이버는 'N-ASET(네이버 AI 안전 평가 툴킷)'을 통해 AI 서비스의 응답을 '유해성'과 '사용성' 측면에서 함께 평가한다. 유해성 평가는 AI가 위험하거나 부적절한 답변을 제공하는지를 확인하는 방식이다. 사용성 평가는 이용자의 질문 의도에 맞는 답변을 제공하는지 살펴보는 데 초점을 둔다. 안전을 이유로 필요한 답변까지 일괄적으로 제한하기보다는 답변에 주의사항이나 전문가 안내 등 적절한 안전 요소를 포함하면서 이용자에게 필요한 정보를 제공하는지를 함께 평가한다는 설명이다. 네이버는 실제 서비스에도 이 같은 안전관리 체계를 적용하고 있다. AI 쇼핑 에이전트와 날씨 서비스에는 AI가 활용됐다는 사실을 이용자가 알 수 있도록 표시·고지하고 있다. 지난 6월 출시한 AI 탭도 서비스 출시 과정에서 CHEC 2.0에 따른 안전성 점검을 진행했다. 최근 AI가 검색과 쇼핑 등 이용자 접점이 넓은 서비스로 확산하면서 안전관리 역시 서비스 개발의 일부로 다뤄야 하는 것으로 꼽힌다. AI 모델의 성능이 높아지더라도 실제 서비스에서는 개인정보, 잘못된 정보, 부적절한 답변 등 다양한 위험이 발생할 수 있어 서비스 특성에 따른 사전 점검이 필요하기 때문이다. 네이버는 AI 안전 체계를 외부 전문기관과 함께 고도화할 계획이다. KAIST, 서울대학교 AI정책 이니셔티브(SAPI), 고려대학교 AI안전연구센터, AI안전연구소(AISI) 등과 협력해 AI 안전 관련 연구와 정책 논의를 이어간다. 원성재 네이버 AI 안전 센터장은 "AI 기술이 이용자의 일상에 빠르게 스며들면서 AI 안전성 역시 이론적 논의를 넘어 실제 서비스 환경에서 구체적으로 다뤄야 하는 단계에 접어들고 있다"며 "네이버는 AI의 개발과 이용 전 과정에서 인간 중심의 가치를 최우선으로 두고, AI 서비스에서 발생할 수 있는 위험을 예방하고 완화할 수 있도록 ASF 2.0을 지속적으로 고도화하고 적용해 나갈 것"이라고 말했다.2026-09-16 16:51:49
많이 본 뉴스
영상
Youtube 바로가기
![[데스크칼럼] 포스코 58년 만의 파업, 회사가 버틸 수 있는 합의 찾아야](https://image.ajunews.com/content/image/2026/09/16/20260916111711815284_518_323.png)