2026.09.16 수요일
검색
'AI쇼핑에이전트' 검색결과
기간검색
-
~
검색영역
검색어
-
네이버, AI 안전도 개발 단계부터 관리…110개 위험 항목으로 점검 [경제일보] 네이버가 인공지능(AI) 안전 관리를 모델 자체의 성능 검증을 넘어 서비스 개발·운영 전 과정으로 확대한다. AI 서비스에서 발생할 수 있는 위험을 110개 세부 항목으로 분류하고, AI 답변도 유해성뿐 아니라 이용자에게 적절한 응답인지까지 함께 평가하는 체계를 구축했다. AI가 검색·쇼핑 등 네이버 주요 서비스에 빠르게 적용되는 만큼 서비스 출시 이후 대응하는 방식에서 벗어나 개발 단계부터 위험을 관리한다는 전략이다. 16일 네이버는 첫 번째 'AI 세이프티 프로그레스 리포트'를 공개하고 자체 AI 안전 프레임워크 'ASF 2.0'을 기반으로 AI 서비스의 안전성을 관리하고 있다고 밝혔다. ASF 2.0은 AI 모델의 성능과 위험뿐 아니라 이용자와 서비스 보호까지 관리 범위를 확대한 것이 특징이다. 네이버는 AI 서비스의 설계·개발 단계부터 출시와 운영까지 전 과정에서 안전성을 점검하는 체계를 마련했다. 실행 체계인 'CHEC 2.0'을 통해 실제 서비스 개발 과정에 안전성 검토를 적용한다. AI 서비스에서 발생할 수 있는 위험을 구체적으로 분류한 기준도 마련했다. 'N-ARTI(네이버 AI 리스크 분류 & 식별)'는 법률·사회·산업 현장에서 나타난 사례를 바탕으로 AI 서비스의 위험을 110개 세부 항목으로 분류한다. AI 서비스마다 발생할 수 있는 위험이 다른 만큼 서비스 특성을 반영하면서도 회사 전체에서 일관된 기준으로 안전성을 점검하기 위한 목적으로 해당 항목으로 나눴다. 네이버는 N-ARTI를 기반으로 서비스별 위험 요소를 파악하고 필요한 안전장치인 가드레일을 구축한다는 구상이다. AI가 내놓는 답변을 평가하는 방식도 단순히 유해한 답변을 차단하는 데서 벗어났다. 네이버는 'N-ASET(네이버 AI 안전 평가 툴킷)'을 통해 AI 서비스의 응답을 '유해성'과 '사용성' 측면에서 함께 평가한다. 유해성 평가는 AI가 위험하거나 부적절한 답변을 제공하는지를 확인하는 방식이다. 사용성 평가는 이용자의 질문 의도에 맞는 답변을 제공하는지 살펴보는 데 초점을 둔다. 안전을 이유로 필요한 답변까지 일괄적으로 제한하기보다는 답변에 주의사항이나 전문가 안내 등 적절한 안전 요소를 포함하면서 이용자에게 필요한 정보를 제공하는지를 함께 평가한다는 설명이다. 네이버는 실제 서비스에도 이 같은 안전관리 체계를 적용하고 있다. AI 쇼핑 에이전트와 날씨 서비스에는 AI가 활용됐다는 사실을 이용자가 알 수 있도록 표시·고지하고 있다. 지난 6월 출시한 AI 탭도 서비스 출시 과정에서 CHEC 2.0에 따른 안전성 점검을 진행했다. 최근 AI가 검색과 쇼핑 등 이용자 접점이 넓은 서비스로 확산하면서 안전관리 역시 서비스 개발의 일부로 다뤄야 하는 것으로 꼽힌다. AI 모델의 성능이 높아지더라도 실제 서비스에서는 개인정보, 잘못된 정보, 부적절한 답변 등 다양한 위험이 발생할 수 있어 서비스 특성에 따른 사전 점검이 필요하기 때문이다. 네이버는 AI 안전 체계를 외부 전문기관과 함께 고도화할 계획이다. KAIST, 서울대학교 AI정책 이니셔티브(SAPI), 고려대학교 AI안전연구센터, AI안전연구소(AISI) 등과 협력해 AI 안전 관련 연구와 정책 논의를 이어간다. 원성재 네이버 AI 안전 센터장은 "AI 기술이 이용자의 일상에 빠르게 스며들면서 AI 안전성 역시 이론적 논의를 넘어 실제 서비스 환경에서 구체적으로 다뤄야 하는 단계에 접어들고 있다"며 "네이버는 AI의 개발과 이용 전 과정에서 인간 중심의 가치를 최우선으로 두고, AI 서비스에서 발생할 수 있는 위험을 예방하고 완화할 수 있도록 ASF 2.0을 지속적으로 고도화하고 적용해 나갈 것"이라고 말했다.2026-09-16 16:51:49
-
검색 대신 대화하는 AI…네이버, 상품 추천하는 '에이전트 커머스' 시동 [경제일보] 네이버가 쇼핑 인공지능(AI)을 단순 상품 검색 도구에서 사용자의 관심사와 구매 의도를 먼저 파악해 제안하는 에이전트형 서비스로 고도화하고 있다. 생성형 AI를 활용한 개인화 추천 기능을 강화하며 AI 커머스 경쟁력을 확대하고 있는 것으로 풀이된다. 1일 네이버는 자사 쇼핑 앱(애플리케이션) '네이버플러스 스토어'의 AI 쇼핑 에이전트를 업데이트하고 사용자 맞춤형 대화 제안 기능을 새롭게 선보인다고 밝혔다. AI 쇼핑 에이전트는 지난 2월 네이버플러스 스토어 앱에 베타 버전으로 처음 도입된 서비스다. 그동안 사용자의 관심사와 취향을 기반으로 상품을 탐색하고 요약해 주는 역할을 수행해 왔다. 이번 업데이트의 핵심은 AI가 사용자의 쇼핑 맥락을 보다 정교하게 이해하고 먼저 대화를 제안하는 것이다. 클릭과 찜, 장바구니 담기 등 쇼핑 활동 이력과 최신 트렌드 정보를 종합 분석해 이용자에게 적합한 상품 탐색 방향을 제시하도록 설계됐다. 이에 이용자는 앱 홈 화면에서 AI 쇼핑 에이전트가 먼저 건네는 대화를 따라 자연스럽게 쇼핑을 시작할 수 있게 될 전망이다. 사용자가 검색어를 직접 입력하기보다 AI가 관심사를 파악해 필요한 상품을 먼저 추천할 것으로 알려졌다. 복합 조건이 포함된 상품 탐색도 지원한다. '1인분 밀키트 중 10분 안에 완성되는 상품'이나 '3개 묶음을 1만원대에 구매할 수 있는 상품'처럼 세부 기능과 가격 조건이 포함된 추천 항목을 AI가 먼저 제시한다. 이용자는 복잡한 검색 조건을 일일이 입력하지 않고도 원하는 상품을 보다 빠르게 찾을 수 있다. 최근 생성형 AI 기술 발전으로 쇼핑 서비스 경쟁의 중심이 검색에서 추천으로 이동하고 있다. 단순히 상품 정보를 나열하는 방식에서 벗어나 AI가 이용자의 상황과 취향을 파악해 구매 의사결정을 지원하는 '에이전트 커머스' 경쟁이 본격화되고 있는 것으로 평가된다. 남지웅 네이버 PR 리더는 지난 4월 브리핑에서 "AI는 검색의 확장으로 검색 경쟁력 강화를 위한 네이버의 노력은 AI로 자연스럽게 이어졌다"며 "온서비스 AI 전략 선언 3년차인 올해는 에이전트 전환 원년으로 삼고 네이버 서비스 전반에 AI 에이전트를 도입해서 플랫폼 경쟁력을 강화해 나갈 예정"이라고 말했다. 특히 커머스 플랫폼들은 방대한 이용자 데이터를 기반으로 개인화 추천 역량을 강화하고 있다. AI가 상품 탐색과 비교, 추천까지 수행하면서 이용자의 탐색 시간을 줄이고 구매 전환율을 높이는 것이 주요 경쟁 요소로 떠오르고 있다. 네이버 역시 쇼핑 검색 데이터와 이용자 행동 데이터를 결합해 AI 기반 쇼핑 경험을 지속적으로 확대하고 있다. 회사는 향후에도 개인화 추천 기능과 AI 에이전트 기술을 고도화해 이용자의 쇼핑 편의성을 높인다는 계획이다. 이정태 네이버 쇼핑 검색&AI 리더는 "AI 쇼핑 에이전트는 단순히 상품을 찾아주는 검색형 도구를 넘어, 사용자의 쇼핑 맥락을 이해하고 다음 행동까지 제안하는 실행형 에이전트로 진화하는 단계"라며 "네이버가 축적해 온 쇼핑 데이터와 AI 기술을 바탕으로 국내 사용자들의 쇼핑 방식과 취향에 가장 최적화된 경험을 제공하고, 일상 속에서 더 스마트한 에이전틱 쇼핑을 경험할 수 있도록 지속적으로 기술을 고도화해 나가겠다"고 말했다.2026-06-01 10:34:38
많이 본 뉴스
영상
Youtube 바로가기
![[데스크칼럼] 포스코 58년 만의 파업, 회사가 버틸 수 있는 합의 찾아야](https://image.ajunews.com/content/image/2026/09/16/20260916111711815284_518_323.png)