검색결과 총 199건
-
스스로 계획하고 행동하는 AI…카카오, 인간 감독·비상 제어 기준 마련
[경제일보] 카카오가 스스로 계획하고 행동하는 인공지능(AI) 에이전트의 확산에 대응해 서비스 기획부터 운영까지 적용할 윤리 원칙과 통제 기준을 마련했다. AI가 외부 정보와 도구를 활용해 작업을 수행하는 과정에서 발생할 수 있는 권한 오남용과 개인정보 침해 등의 위험을 사전에 점검하고, 인간의 감독과 비상 제어를 서비스 설계에 반영하겠다는 취지로 풀이된다. 15일 카카오는 지난 13일 개발자 컨퍼런스 'if(카카오)26'에서 자율 에이전트 시대에 대응하기 위한 AI 윤리 원칙과 이행 가이드를 공개했다고 밝혔다. 카카오 AI 캠퍼스에서 열린 행사에서 카카오는 '윤리를 깨는 자율 에이전트, 어떻게 대응할까?' 세션을 통해 AI가 스스로 계획하고 행동하는 환경에서는 인간의 판단과 책임을 명확히 하고 윤리를 서비스 설계와 운영에 반영하는 실행 체계가 필요하다고 강조했다. 이번에 마련한 카카오의 AI 윤리 원칙 'SPIRIT'은 안전(Safety), 프라이버시(Privacy), 포용(Inclusivity), 책임(Responsibility), 이용자 주체성(Individual Autonomy), 투명성과 신뢰성(Transparency & Trustworthiness) 등 6개 항목으로 구성됐다. 카카오는 '대한민국 인공지능 윤리원칙'의 3대 가치와 7대 원칙을 주요 이행 기준으로 삼고, 자사 서비스 환경에 맞게 세부 내용을 보완했다고 설명했다. 카카오의 이번 윤리 원칙은 원칙을 선언하는 데 그치지 않고 실제 서비스에 적용할 수 있도록 실행 절차를 구체화했다는 것이 특징이다. 카카오는 해당 원칙을 'NORMA'라는 이행 체계로 정의했다. 공동 책임에 대한 조직적 의지를 바탕으로 복잡한 윤리 과제를 관리 가능한 단위로 나누고 실행 가능한 조치로 연결한다는 의미다. 카카오는 자율 에이전트가 일으킬 수 있는 위험을 통제 주도권, 목표, 권한, 참조 자원, 상호작용 등 5개 영역으로 구분했다. 각 영역의 위험에 따라 인간 감독과 비상 제어, 권한 통제, 데이터 보호 등의 대응 수단을 연결하도록 했다. 자율 에이전트는 사용자의 지시를 받아 정보를 찾거나 결과를 제시하는 수준을 넘어 여러 단계를 거쳐 작업을 수행할 수 있다. 이 과정에서 사용자가 의도하지 않은 행동을 하거나 필요한 범위를 넘어 정보와 도구에 접근할 수 있고 실제로 행동에 나선 사례도 있다. 에이전트가 어떤 권한으로 무엇을 수행할 수 있는지 사전에 정하고, 문제가 발생했을 때 사람이 개입하거나 작업을 중단할 수 있는 통제 체계가 중요해지는 이유다. 카카오는 이를 위해 'AI 윤리 이행 체크리스트'를 마련했다. 체크리스트는 서비스 속성 파악, 사전 리스크 스크리닝, 통제 항목 점검·판정 등 세 단계로 운영된다. 카카오는 해당 체크리스트를 연내 적용할 예정이다. 아동·청소년 보호도 새 점검 체계의 주요 영역이다. 카카오는 지난해부터 적용해 온 '디지털 아동·청소년 보호 체크리스트'에 더해 경제협력개발기구(OECD)와 유엔아동기금(유니세프)의 아동 온라인 위험 분류 체계인 '5Cs'를 참고해 AI 특유의 위험 점검 요소를 추가할 계획이다. 기존 온라인 서비스의 아동 보호 기준을 AI 환경에 맞게 확장하려는 조치로 분석된다. AI 서비스는 이용자와 자연어로 상호작용하고 응답을 개인화할 수 있는 만큼, 아동·청소년이 AI를 이용하는 과정에서 발생할 수 있는 위험을 별도로 살펴볼 필요가 있을 전망이다. 카카오는 새 체크리스트에 관련 요소를 반영한다는 방침이다. 이번 원칙과 가이드는 지난 7월 발족한 AI&기술윤리소위원회 외부 자문단 7인과 함께 이번달 초 마련했다. 외부 자문단은 국내외 규범과의 정합성을 검토했으며, 카카오의 AI 세이프티·개인정보·정보보안·서비스 관련 부서도 실무 관점에서 검토에 참여했다. 카카오는 지난 2018년 '알고리즘 윤리헌장'을 발표한 뒤 지난 2022년 카카오 및 주요 계열사가 참여하는 AI&기술윤리소위원회를 설립했다. 이후 그룹 공통의 '책임 있는 AI를 위한 가이드라인'을 마련하고 이용자 주체성 원칙을 추가하는 동시에 '안전한 AI를 위한 핵심 체크리스트'를 그룹 차원에서 의무화하는 등 관련 체계를 발전시켜 왔다. 김세웅 카카오 AI&기술윤리소위원회 위원장은 "외부 자문단과 내부 조직의 관점을 함께 담아 AI 서비스 전 주기에서 작동하는 리스크 검토 체계를 갖추게 됐다"며 "AI의 자율성이 커지는 만큼 사람의 판단과 책임을 분명히 하고, 이용자가 안심하고 사용할 수 있는 AI 서비스를 만들어 가겠다"고 말했다.
2026-10-15 09:54:23
-
-
-
-
-
-
사우디 공항 피습에 321명 사상…미국 참전 가능성에 중동 확전 우려
[경제일보] 미국이 예멘 후티 반군의 공격을 받는 사우디아라비아에 대한 군사 지원을 넘어 직접 참전할 가능성을 열어두면서 중동 정세가 다시 격랑에 휩싸이고 있다. 사우디 방어를 둘러싼 미국의 선택이 예멘 전쟁의 확전 여부를 가를 변수로 떠오른 가운데, 홍해 해상 물류와 에너지 공급망, 사우디의 글로벌 투자 유치 전략에도 부담이 커질 전망이다. 10일(이하 현지시간) 사우디아라비아는 수도 리야드의 킹칼리드 국제공항이 테러 집단인 후티 미사일 부대의 공격을 받았다고 밝혔다. 로이터 통신 등 외신에 따르면 사우디 민간항공청은 사망자 가운데 사우디 국민 4명과 외국인 8명이 포함됐으며, 부상자 일부는 위중한 상태로 최소 12명이 숨지고 309명이 다친 것으로 집계됐다. 공격 이후 공항 운영이 일시 중단됐고 항공편 취소와 지연이 잇따랐다. 이번 공격은 사우디의 민간 항공 인프라를 겨냥한 연쇄 공격의 일부로 분석된다. 같은 주 리야드 공항이 앞서 두 차례 공격을 받았고, 동부 담맘의 킹파드 국제공항 인근에도 발사체가 떨어진 것으로 전해졌다. 후티 반군은 사우디 영공을 군사작전 지역으로 규정하며 항공사들에 해당 영공을 피하라고 경고했다. 민간 공항을 겨냥한 공격이 반복되면서 사우디의 방공 역량과 핵심 기반시설 보호 능력도 시험대에 올랐다. 도널드 트럼프 미국 대통령은 공격 이후 후티 반군을 겨냥한 사우디의 군사작전에 미국이 합류할 가능성을 시사했다. 그는 미국이 사우디의 공습에 참여할 것이냐는 질문에 "그럴 수도 있다"며 "검토해보겠다"고 답했다. 사우디에서 발생한 일을 용납할 수 없다며 무함마드 빈 살만 왕세자와도 대화하겠다는 뜻을 밝혔다. 다만 미국의 직접 참전 여부나 구체적인 군사 대응 방식은 아직 결정되지 않았다. 미국의 선택에 따라 충돌 범위가 확대될 수 있을 것으로 분석된다. 방공 지원이나 정보 공유에 그칠지, 후티 반군의 미사일 발사 시설 등을 겨냥한 직접 타격에 나설지에 따라 전황은 달라질 수 있다. 미국이 군사 행동에 나설 경우 후티 반군의 보복 공격이 사우디 내 주요 시설이나 역내 다른 목표물로 확대될 가능성도 배제하기 어렵다. 전쟁의 파장은 홍해 해상 물류로도 이어질 수 있다. 홍해와 아덴만을 잇는 바브엘만데브 해협은 유럽과 아시아를 오가는 주요 해상 운송로 가운데 하나다. 앞서 이 일대에서 공격 위협이 커지면 선사들이 항로를 우회하거나 운항을 조정해 왔고, 운송 기간과 보험료 등 물류 비용에도 압력이 생긴 바 있다. 특히 에너지 수송과 관련 산업의 공급망이 영향을 받을 경우 중동 지역을 넘어 국제 교역 전반의 불확실성이 커질 수 있다. 사우디가 추진해온 국제 투자 유치 전략도 영향을 받을 전망이다. 사우디에서는 세계 석유업계 관계자와 정책 당국자가 모이는 세계석유회의(WPC)가 11일부터 오는 15일까지 열릴 예정이며, 오는 26일부터 29일까지는 대형 투자 행사인 미래투자이니셔티브(FII)가 예정돼 있다. 주최 측은 두 행사 모두 계획대로 진행한다는 입장을 밝혔다. 사우디는 관광과 국제 행사, 해외 자본 유치를 통해 석유 의존도를 낮추는 경제 다변화를 추진해왔다. 이런 상황에서 공항과 에너지 시설을 겨냥한 공격이 반복되면 투자자들이 사업 기회뿐 아니라 현지의 안전과 운영 위험까지 함께 따져볼 수밖에 없다. 당장 투자 위축을 단정하기는 어렵지만, 군사적 긴장이 장기화할수록 사우디가 내세운 안정적인 사업 환경과 국제 행사 개최 역량을 입증해야 하는 부담은 커질 전망이다. 아랍에미레이트 외교부는 성명을 통해 "이번 공격은 사우디아라비아의 주권을 명백히 침해하고 안보와 안정을 위협하는 행위"라며 "사우디아라비아와 전폭적인 연대를 표명하며, 사우디의 안보와 안정 유지를 위한 모든 조치를 지지한다"고 밝혔다.
2026-10-11 14:47:58
-
AI가 금융권 보안 사각지대 파고들었다…핵심 시스템 밖에서 뚫린 방어망
[경제일보] 인공지능(AI)을 활용한 사이버 공격이 국내 금융권을 잇달아 겨냥하면서 금융회사들의 보안 관리 체계가 시험대에 올랐다. AI 기반 도구가 취약점 탐색과 공격 작업을 효율화하면서 공격자의 숙련도가 높지 않더라도 여러 기관을 상대로 침투를 시도할 수 있는 것으로 분석된다. 특히 최근 사고가 금융 거래의 핵심 시스템보다는 대출모집인 서비스와 직원용 업무지원 시스템 등 주변 업무 환경에서 발생하면서, 보안 투자가 집중된 핵심 시스템 밖의 사각지대를 점검해야 한다는 지적도 제기되고 있다. 11일 금융권과 보안업계에 따르면 지난달 말부터 이달 초까지 신한은행·KB국민은행·하나은행·BNK부산은행과 예가람저축은행·웰컴저축은행·현대캐피탈 등 금융회사 7곳에서 해킹에 따른 정보 유출이 확인됐다. 신한은행에서는 대출 신청 관련 고객 정보 약 2만5000명분이 유출됐고, 예가람저축은행에서도 고객 약 4만명의 정보가 빠져나간 것으로 파악됐다. KB국민은행과 하나은행에서도 각각 고객 119명과 89명의 정보가 유출됐다. 이번 사고는 공격에 활용된 도구와 침입 경로가 기존과는 다른 특성을 지닌 것이 특징이다. 국내 보안업체 지니언스 시큐리티센터와 미국 사이버보안 기업 크라우드스트라이크는 공격자가 오픈소스 에이전틱 침투테스트 도구 '아르텍스'와 여러 AI 모델을 활용한 정황을 제시했다. 크라우드스트라이크는 공격자가 AI 도구와 기존 공격 기법을 결합해 여러 금융기관을 상대로 침투 활동을 벌인 것으로 분석했다. 보안 업계에 따르면 이번 공격 과정에서 다수의 흔적을 남기는 등 운영 보안이 허술했다는 점도 근거로 들며 비숙련자의 공격 가능성을 높게 보고 있다. AI가 공격자의 기술적 한계를 보완해 공격 속도와 범위를 확대했을 가능성이 있다는 설명이다. ◆ AI가 바꾼 공격 방식…숙련도보다 자동화 역량이 변수 에이전틱 AI 도구는 사용자의 지시에 따라 여러 작업을 연속적으로 수행하도록 설계된다. 보안 분야에서는 취약점 점검과 공격 경로 탐색 등에도 활용될 수 있다. 공격자가 이를 악용하면 개별 작업을 일일이 수행하는 부담을 줄이고, 여러 대상에 대한 공격 시도를 빠르게 반복할 수 있다. 이번 금융권 사고에서도 공격자가 아르텍스와 복수의 AI 모델을 연계하고, 서버와 접속 경로를 바꿔가며 국내 금융기관을 겨냥한 정황이 확인됐다. 크라우드스트라이크는 AI 도구가 공격자의 활동 속도를 높이는 데 기여한 것으로 분석했다. 보안업계에서는 AI가 공격의 진입장벽을 낮출수록 기존에 보안 점검 우선순위에서 밀렸던 시스템이 공격 대상이 될 가능성에 주목한다. 공격자가 반드시 최고 수준의 기술을 갖춰야 하는 것이 아니라, 관리가 허술한 시스템을 찾아내고 반복적으로 접근을 시도하는 것만으로도 침해 가능성을 높일 수 있기 때문이다. ◆ 핵심 거래망만 지켜선 한계…주변 시스템이 침입 경로로 금융회사별 침입 경로를 보면 보안 관리의 범위를 핵심 거래 시스템에 한정하기 어렵다는 점이 드러난다. 신한은행에서는 대출모집인 전용 서비스가, KB국민은행에서는 직원용 모바일 업무 지원 시스템이 공격받았다. 하나은행에서도 영업 지원 시스템을 둘러싼 침해 사고가 발생한 것으로 알려졌다. 이들 시스템은 금융 거래의 핵심 전산망과는 구분되지만 고객 정보나 업무 관련 데이터에 접근할 수 있어 보안상 중요한 것으로 꼽힌다. 핵심 거래 시스템을 보호하는 방어 체계를 갖추더라도 주변 업무 시스템의 접근 권한이 과도하거나 인증 절차가 허술하면 개인정보 유출로 이어질 수 있다. 보안 관리에서 중요한 것은 시스템의 명칭이나 업무상 중요도만으로 위험을 판단하지 않는 것이다. 고객정보를 조회할 수 있는 시스템이라면 해당 정보가 실제 업무에 필요한 범위에서만 제공되는지, 계정별 권한이 적절하게 제한돼 있는지, 비정상적인 대량 조회나 외부 접속이 발생했을 때 이를 탐지할 수 있는지 확인해야 한다. 외부 협력업체와 위탁 시스템도 점검 대상이다. 금융회사는 개발·유지보수·고객관리 등 여러 업무를 외부 업체와 수행하는 만큼 협력업체 계정과 원격 접속 경로가 보안 사각지대가 되지 않도록 관리해야 한다. 계약 당시 보안 요건을 확인하는 데 그치지 않고 계약 기간 중 접근 권한과 접속 기록을 점검하고, 업무 종료 후 계정을 회수하는 절차도 중요하다. 특히 개인정보가 여러 시스템과 업체에 분산돼 있다면 사고가 발생했을 때 유출 범위를 파악하는 데 시간이 걸릴 수 있다. 시스템 교체나 계약 종료 이후에도 과거 데이터가 남아 있는지, 불필요한 정보가 적시에 파기되는지 확인할 필요가 있다. 한 시스템의 침해가 다른 시스템으로 확산되지 않도록 권한과 네트워크를 분리하는 조치도 요구된다. 금융권의 연쇄 해킹과 외부 위탁 시스템을 둘러싼 사고는 보안의 경계가 더 이상 금융회사가 직접 운영하는 핵심 전산망에 머물지 않는다는 점을 보여준다. AI가 공격자의 작업을 효율화하는 환경에서는 시스템과 계정, 외부 업체까지 포함한 전체 업무 환경을 관리하고 침해 징후를 빠르게 차단하는 역량이 금융 보안의 핵심 과제로 떠오르고 있다. 과학기술정보통신부(KISA)는 "금융위원회 등 관계기관과 지속적으로 정보를 공유하고 있으며, 금융위원회·금융감독원 등에서 KISA 등 전문인력 지원을 요청할 경우, 즉시 현장에 투입할 수 있도록 인력과 대응체계를 사전에 준비하고 있으며, 사고 조사 과정에서도 관계기관과 긴밀하게 협력해 나갈 예정"이라며 "앞으로도 금융권을 포함한 민간 정보통신서비스에 대한 사이버위협 동향을 면밀하게 모니터링하고, 사이버 위협 정보의 신속한 공유와 관계기관 간 협력을 통해 유사 사고의 발생과 피해 확산을 방지하는 데 총력을 다할 계획"이라고 전했다.
2026-10-11 13:51:46
-
-
파마리서치, 리쥬란 브랜드 지킨다…가품부터 유사상표까지 대응
[경제일보] 파마리서치가 대표 브랜드 ‘리쥬란’의 지식재산권과 유통망 관리에 나섰다. 온라인에서 유통되는 가품을 인공지능(AI)으로 감시하고 정품인증 시스템을 통해 유통 경로를 추적하는 한편 유사 상표를 이용한 모방 행위에는 법적 대응을 이어가기로 했다. 파마리서치는 리쥬란의 브랜드와 소비자를 보호하기 위해 온라인 모니터링, 정품인증, 지식재산권 침해 대응을 아우르는 브랜드 보호 체계를 가동한다고 8일 밝혔다. 가장 최근에는 유사 상표를 둘러싼 법적 분쟁에서 승소했다. 서울중앙지방법원은 파마리서치가 PN(폴리뉴클레오티드) 성분 한방 약침 제조·판매 관계자들을 상대로 제기한 상표권 침해금지 소송에서 파마리서치의 손을 들어줬다. 재판부는 피고 측이 사용한 ‘미주란(MIZURAN·美主爛)’ 표장이 파마리서치의 등록상표 ‘리쥬란’과 외관과 호칭이 매우 유사하다고 판단했다. 두 제품의 수요자가 피부미용 주사 시술을 받는 소비자로 겹친다는 점도 판단 근거가 됐다. 또 피고 측이 한의원 등에서 PN 성분의 동일성을 내세우며 리쥬란과 직접 비교해 홍보한 점과 일반 소비자가 의료기관의 면허나 규제 차이를 명확하게 구별하기 어렵다는 점 등을 고려해 출처 혼동 가능성을 인정했다. 법원은 해당 표장이 표시된 제품의 용기와 포장 사용을 비롯해 양도·전시·광고 등을 금지하고 보관 중인 완제품 포장을 폐기하도록 했다. 파마리서치는 온라인 가품 유통에 대한 감시도 강화한다. 전문 보안·단속 기관과 협력해 국내외 이커머스 플랫폼과 오픈마켓, 소셜미디어 등을 대상으로 AI 기반 모니터링 시스템을 운영하고 있다. AI를 활용해 리쥬란의 디자인과 로고, 문구 등을 분석하고 이를 무단으로 사용한 가품이나 불법 게시물을 찾아내는 방식이다. 해외에서 모조품이나 비정상적인 유통 정황이 확인되면 현지 세관과 사법당국에 단속을 요청하는 방식으로 대응한다는 게 회사 측 설명이다. 정품 여부를 확인할 수 있는 시스템도 도입했다. 제품 포장에 위·변조 방지 기술을 적용한 정품인증 솔루션을 탑재해 의료진과 소비자가 모바일을 통해 정품 여부를 확인할 수 있도록 했다. 비공식 유통이나 불법 재판매에 대해서는 공급 중단과 경고장 발송, 민·형사상 법적 대응 등을 진행할 방침이다. 환자가 시술 전에 제품의 정품 여부를 확인할 수 있도록 소비자 대상 정품인증 캠페인도 이어갈 계획이다. 파마리서치가 브랜드 보호에 나선 배경에는 피부미용 시장에서 PN·PDRN 성분을 활용한 제품이 늘면서 제품 간 차이를 소비자가 구별하기 어려워질 수 있다는 판단이 있다. 피부에 직접 주입하는 의료제품의 경우 출처와 품질 관리 여부가 안전성과 직결될 수 있다는 설명이다. 파마리서치 관계자는 “같은 PN 성분을 표방하더라도 원료의 출처와 순도, 분자량, 제조방법, 품질관리 수준 등에 따라 제품의 안전성과 효능을 보장하는 데 차이가 있을 수 있다”며 “출처가 불분명한 제품은 이상사례 발생 시 추적과 안전관리가 어려울 수 있다”고 말했다. 리쥬란을 둘러싼 브랜드 보호 활동은 단순히 가품을 차단하는 수준을 넘어 유사 상표와 불법 유통까지 관리하는 방향으로 확대되고 있다. 파마리서치는 온라인 감시와 정품 확인, 법적 대응을 병행해 유통 과정에서 발생할 수 있는 소비자 피해를 줄이겠다는 방침이다.
2026-10-08 09:14:03
-
-
-
-
-