케이뱅크, 인터넷은행 최초 금융 특화 프라이빗 LLM 도입

[경제일보] 케이뱅크가 지난해 2월 체결한 KT·KT클라우드·업스테이지와의 업무 협약을 통해 인터넷 은행 최초로 금융 특화 프라이빗 대형언어모델(LLM)을 도입했다고 26일 밝혔다
 
프라이빗 LLM은 공개적으로 접근이 가능한 챗GPT, 딥시크 등과 달리 특정 조직이나 기업 내부에서만 사용하도록 설계된 인공지능(AI) 언어 모델이다. 기업이 원하는 전문 데이터를 학습시켜 신뢰성 높고 최적화된 정보를 생성할 수 있으며 내부 서버에서 운영되기 때문에 보안성이 뛰어나다.
 
케이뱅크는 프라이빗 LLM의 설계를 위해 금융 공공 기관, 금융 학회 등에서 발표한 책 1억권 분량의 금융 전문 데이터를 수집했다. 이후 사후 학습 과정을 통해 금융 도메인에 대한 전문성을 강화하고 범용적인 언어 처리 능력을 유지하도록 최적화했다.
 
또한 공신력 있는 금융 자격시험 23종에서 추출한 데이터로 LLM의 금융 지식수준을 측정하는 검증 과정도 거쳤다.
 
케이뱅크는 프라이빗 LLM을 통해 임직원이 사내 규정과 정보 등을 질문하면 이에 맞는 답변을 안내하는 대화형 AI와 자동으로 보고서를 작성해주는 기능 등을 제공해 내부 업무 프로세스를 혁신할 계획이다.
 
고객 편의 측면에서도 편리하고 스마트한 금융 생활을 지원하는 AI 가상비서의 도입을 검토할 예정이다.
 
케이뱅크 관계자는 “앞으로도 AI 혁신을 통해 비즈니스 영역을 확장하고 업무 생산성을 강화하며 ‘AI Powerd Bank’로 거듭나겠다”고 말했다.