금융 AI가 투자 결정하면 책임은…NH투자증권 세미나서 5대 과제 제시

인공지능이 단순히 금융상품을 검색하거나 정보를 정리해주는 수준을 넘어 실제 투자 판단과 거래 실행까지 담당하는 시대가 가까워지고 있다.

문제는 AI가 잘못된 판단을 내렸을 때다.

예를 들어 AI가 고객의 투자성향을 분석해 특정 금융상품을 추천했고, 그 결과 예상하지 못한 손실이 발생했다고 가정해보자. 이때 책임을 져야 하는 주체가 금융회사인지, AI 모델을 개발한 회사인지, 아니면 금융상품을 연결한 플랫폼인지 명확하게 구분하기 어려울 수 있다.

AI가 금융서비스에서 맡는 역할이 커질수록 기술의 정확도뿐 아니라 누가 어떤 권한을 가졌고, 어떤 기준으로 판단했으며, 사고가 발생했을 때 누가 책임을 질 것인지까지 함께 정해야 하는 이유다.

NH투자증권과 한국경제연구학회가 마련한 정책 세미나에서도 이러한 문제가 핵심 의제로 다뤄졌다.

NH투자증권·한국경제연구학회, 금융 AI 정책 세미나 개최

NH투자증권은 한국경제연구학회와 함께 2026년 8월 4일 서울 여의도에서 ‘AI 시대 금융산업이 가야 할 길: 혁신과 신뢰, 그리고 금융소비자 보호’를 주제로 정책 세미나를 개최했다.

세미나에는 학계와 금융회사, 감독당국 및 연구기관 관계자가 참여해 AI 에이전트가 금융서비스의 판단과 실행에 참여할 경우 필요한 정책 방향을 논의했다.

논의된 주요 정책 과제는 다음 다섯 가지로 정리할 수 있다.

정책 과제	주요 내용
AI 책임 체계	AI 소유자와 권한, 판단 기록을 관리해 사고 발생 시 책임 추적
데이터 비례 개방	보안과 내부통제 역량에 따라 데이터 접근 범위를 차등 적용
공동 검증 인프라	금융권이 함께 사용할 수 있는 AI·LLM 평가 및 표준화 체계 구축
소비자보호 제도 개편	금융소비자보호 제도에 AI 추천·설명·보안 위험 반영
시스템 위험 감독	동일 모델 의존으로 발생할 수 있는 시장 쏠림과 동조화 점검

이 내용들은 현재 시행이 확정된 규제가 아니라 향후 금융 AI 정책을 논의하기 위해 제시된 과제라는 점을 구분할 필요가 있다.

금융 AI에서 가장 먼저 해결해야 할 문제는 책임

AI가 금융상품 추천이나 투자 판단에 사용될수록 가장 먼저 부딪히게 되는 문제가 책임 소재다.

기존 금융서비스에서는 비교적 책임 구조가 명확하다.

금융회사 직원이 상품을 설명하고 고객에게 권유했다면 해당 과정에서 적합성 원칙이나 설명 의무를 제대로 지켰는지 확인할 수 있다.

하지만 AI가 개입하면 구조가 복잡해진다.

금융회사가 외부 AI 모델을 사용하고, 해당 AI가 또 다른 데이터 분석 시스템과 연결돼 고객에게 상품을 추천한다면 오류가 어느 단계에서 발생했는지 추적하기 어려울 수 있다.

예를 들어 잘못된 투자 추천이 발생했을 때 데이터 자체가 잘못됐는지, AI 모델이 데이터를 잘못 해석했는지, 금융회사가 잘못된 기준을 입력했는지, 또는 최종 서비스 화면에서 정보가 왜곡됐는지 각각 따져야 한다.

세미나에서 AI 에이전트의 소유 주체와 업무 범위, 판단 기록을 관리하는 등록제가 제안된 이유도 이 때문이다.

AI의 판단 과정을 기록해두면 사고 이후 책임을 따지는 데 도움이 될 뿐 아니라 문제가 반복되는 것을 예방하는 데도 활용할 수 있다.

AI 에이전트 등록제는 무엇을 관리하려는 것인가

AI 에이전트 등록제의 핵심은 AI 자체에 법적 인격을 부여한다는 의미가 아니다.

금융회사에서 사용하는 AI마다 누가 관리하는지, 어떤 업무를 수행할 수 있는지, 어떤 데이터를 사용할 수 있는지, 실제로 어떤 판단과 실행을 했는지를 기록하자는 개념에 가깝다.

예를 들어 고객 상담만 담당하는 AI와 고객 계좌에서 실제로 주식을 매매할 수 있는 AI는 위험 수준이 완전히 다르다.

단순 상담 AI가 잘못된 정보를 제공하면 고객이 다시 확인할 여지가 있지만 자동매매 AI가 잘못된 결정을 내리면 실제 자산 손실이 즉시 발생할 수 있다.

따라서 금융 AI를 모두 같은 수준으로 규제하기보다 AI가 가진 권한에 따라 감독 강도를 다르게 적용할 필요가 있다.

AI가 할 수 있는 일이 많아질수록 기록과 통제도 더 강해져야 한다는 의미다.

금융 데이터는 많이 개방할수록 좋은 것일까

AI의 정확도를 높이려면 많은 데이터가 필요하다.

금융 AI도 마찬가지다.

고객의 금융자산과 거래내역, 소득, 소비패턴 등을 종합적으로 분석할 수 있다면 더욱 개인화된 금융서비스를 제공할 가능성이 커진다.

하지만 금융 데이터에는 개인정보와 자산정보처럼 민감한 정보가 대량으로 포함돼 있다.

따라서 데이터가 많아진다고 해서 무조건 좋은 것은 아니다.

세미나에서는 금융회사의 보안과 내부통제 역량에 따라 데이터 접근 범위를 차등적으로 허용하는 방식이 제안됐다.

AI 기술을 사용할 수 있다는 이유만으로 금융 데이터에 접근하도록 하는 것이 아니라 실제로 데이터를 안전하게 관리할 수 있는 능력이 있는지를 함께 평가하자는 취지다.

이 방식이 현실화된다면 금융 AI 경쟁에서 기술력만큼 보안과 내부통제 능력도 중요한 경쟁력이 될 수 있다.

금융권 공동 AI 검증체계가 필요한 이유

AI 모델을 도입하는 금융회사가 많아질수록 또 다른 문제가 발생한다.

각 금융회사가 비슷한 AI 모델을 제각각 검증해야 한다는 점이다.

한 회사는 AI가 잘못된 정보를 만드는 환각 현상을 중요하게 평가하고, 다른 회사는 개인정보 유출 위험을 더 크게 볼 수도 있다.

이처럼 회사마다 평가 기준이 다르면 동일한 AI 모델을 사용하면서도 안전성에 대한 판단이 달라질 수 있다.

세미나에서는 금융권이 공동으로 활용할 수 있는 AI·LLM 검증 및 표준화 체계를 만드는 방안이 제안됐다.

평가 항목에는 잘못된 금융정보를 생성하는지, 특정 고객에게 반복적으로 불리한 결과를 제시하는지, 개인정보를 노출할 가능성은 없는지, 외부 공격에 얼마나 안전한지 등이 포함될 수 있다.

공동 검증체계가 만들어지면 금융회사마다 같은 검사를 처음부터 반복해야 하는 비용을 줄일 수 있다.

하지만 여기에서도 모든 AI에 동일한 기준을 적용하는 것은 적절하지 않을 수 있다.

금융상품을 단순히 설명하는 챗봇과 고객의 자산을 직접 운용하는 AI의 위험 수준은 다르기 때문이다.

따라서 공통 기준을 만들되 AI가 수행하는 업무에 따라 검증 강도를 다르게 적용하는 방식이 현실적인 대안이 될 수 있다.

AI 환각이 금융에서 더 위험한 이유

생성형 AI를 사용할 때 자주 언급되는 문제 가운데 하나가 환각이다.

AI가 실제로 존재하지 않는 정보를 사실처럼 만들어내는 현상이다.

일상적인 대화에서 잘못된 정보를 제공하는 것도 문제지만 금융에서는 피해 규모가 더 커질 수 있다.

예를 들어 AI가 존재하지 않는 금융상품 조건을 안내하거나 실제와 다른 금리를 알려주고, 투자상품의 위험등급을 잘못 설명한다면 소비자의 금전적 손실로 이어질 수 있다.

특히 자동화된 AI 에이전트가 고객의 질문에 답하는 것을 넘어 직접 거래까지 실행하게 되면 잘못된 정보가 실제 금융행동으로 바로 연결될 가능성이 있다.

따라서 금융 AI에서는 정확도뿐 아니라 AI가 확신할 수 없는 상황에서 어떻게 행동하도록 설계할지도 중요하다.

불확실한 정보를 억지로 답하는 것보다 사람의 확인이 필요하다고 판단해 업무를 넘기는 구조가 더 안전할 수 있다.

기존 금융소비자보호법으로 AI 추천을 다룰 수 있을까

현재의 금융소비자 보호제도는 대부분 사람이 금융상품을 판매하거나 설명하는 상황을 기준으로 만들어졌다.

금융회사는 고객의 투자 목적과 재산 상황 등을 확인하고 적합한 상품을 권유해야 하며 상품의 주요 위험도 설명해야 한다.

그런데 AI가 이 역할을 대신하면 기존 규정을 누구에게 적용해야 할지 애매해질 수 있다.

AI가 잘못된 상품을 추천했다면 금융회사가 설명 의무를 위반한 것인지, 플랫폼 사업자가 책임을 져야 하는지 판단해야 한다.

세미나에서는 이러한 변화를 반영해 금융소비자보호 제도에도 AI 관련 위험을 포함해야 한다는 의견이 제시됐다.

여기에서 중요한 것은 소비자에게 단순히 ‘AI가 추천한 상품입니다’라고 표시하는 것만으로 충분하지 않을 수 있다는 점이다.

추천에 어떤 정보가 사용됐는지, AI가 판단한 주요 기준은 무엇인지, 사람이 최종적으로 검토했는지, 잘못된 결과에 대해 이의를 제기할 수 있는 절차가 있는지까지 제공하는 방식이 필요할 수 있다.

AI 설명가능성이 중요한 이유

AI 금융에서 설명가능성이라는 개념도 중요한 과제가 될 가능성이 크다.

AI가 특정 고객에게 A상품을 추천하면서 다른 상품을 제외했다면 최소한 주요 판단 기준은 설명할 수 있어야 한다.

예를 들어 고객의 투자기간과 위험 선호도, 소득 수준 등을 고려해 특정 상품을 추천했다는 정도의 설명이 가능해야 한다는 것이다.

문제는 최신 AI 모델이 매우 복잡하다는 점이다.

수십억 또는 수천억개의 매개변수를 가진 모델이 어떤 내부 과정을 통해 특정 결론을 만들었는지 사람에게 완벽하게 설명하는 것은 현실적으로 어려울 수 있다.

따라서 금융권에서 요구하는 설명가능성은 AI 내부의 모든 연산을 공개하는 것보다 금융회사가 어떤 데이터와 기준을 사용했는지, 어떤 제한조건을 걸었는지, 최종 결정에서 사람이 어느 정도 개입했는지를 확인할 수 있는 구조에 가까워질 가능성이 있다.

여러 금융회사가 같은 AI를 쓰면 새로운 위험이 생길 수 있다

금융 AI에서 더 큰 문제는 개별 소비자의 손실만이 아니다.

여러 금융회사가 같은 AI 모델과 비슷한 데이터를 사용하게 되면 동시에 같은 판단을 내릴 가능성이 생긴다.

예를 들어 시장이 급락했을 때 여러 금융기관의 AI가 같은 위험관리 모델을 사용하고 있다면 동시에 특정 자산을 매도할 수 있다.

각 회사의 AI 입장에서는 합리적인 결정일 수 있지만 시장 전체에서는 대규모 매도가 한꺼번에 발생하면서 가격 하락을 더 키울 수 있다.

이러한 현상을 동조화 위험이라고 볼 수 있다.

세미나에서도 특정 AI 모델이나 데이터 제공회사에 금융권 전체가 과도하게 의존하면 시스템 차원의 위험이 발생할 수 있다는 점이 지적됐다.

따라서 앞으로 금융 AI 감독에서는 개별 금융회사의 모델이 안전한지만 확인하는 것으로 충분하지 않을 수 있다.

여러 금융기관이 동시에 같은 행동을 했을 때 시장 전체가 어떻게 움직이는지를 확인하는 공동 스트레스테스트도 필요해질 수 있다.

AI가 금융상품 선택의 관문이 될 가능성

AI 기반 검색과 비교 서비스가 확대되면 소비자가 금융상품을 선택하는 방식도 달라질 수 있다.

지금은 예금이나 보험, 투자상품을 찾을 때 은행이나 증권회사 앱에 직접 들어가는 경우가 많다.

하지만 앞으로는 AI에게 조건만 입력하고 여러 금융회사의 상품을 한 번에 비교하는 방식이 늘어날 수 있다.

예를 들어 사용자가 “1억원을 1년 동안 안전하게 운용하면서 금리가 높은 상품을 찾아줘”라고 요청하면 AI가 여러 금융회사의 상품을 비교해 추천할 수 있다.

이 구조가 일반화되면 금융회사보다 AI 플랫폼이 고객과 먼저 만나는 창구가 될 가능성이 있다.

금융회사 입장에서는 중요한 변화다.

과거에는 자체 앱과 영업점이 고객과의 주요 접점이었다면 앞으로는 외부 AI 플랫폼이 금융상품을 선택하는 첫 단계가 될 수 있기 때문이다.

그만큼 AI 플랫폼이 어떤 기준으로 상품의 순서를 정하고 추천하는지가 중요해진다.

추천 알고리즘의 편향이나 광고 여부를 소비자가 알 수 있도록 하는 기준도 필요할 가능성이 있다.

빅테크와 금융회사의 경쟁 구조도 달라질 수 있다

금융상품 검색과 비교가 AI 플랫폼으로 이동하면 금융회사와 빅테크 사이의 경쟁구조도 달라질 수 있다.

기존 금융회사는 예금과 대출, 투자상품 같은 금융상품 자체를 보유하고 있다.

반면 빅테크는 검색과 데이터 분석, 사용자 경험 설계에서 강점을 가지고 있다.

AI 시대에는 금융상품을 직접 만드는 것만큼 고객에게 어떤 상품을 먼저 보여주고 추천하는지가 중요해질 수 있다.

즉, 금융회사는 상품 공급자가 되고 AI 플랫폼이 고객 접점을 장악하는 구조도 가능하다.

이러한 변화가 현실화되면 금융회사는 좋은 금융상품을 만드는 것뿐 아니라 AI가 자사의 상품 정보를 정확하게 이해하고 비교할 수 있도록 데이터를 제공하는 능력도 중요해질 수 있다.

NH투자증권의 ‘2-Track AX’는 무엇을 의미하나

NH투자증권은 이번 세미나에서 사람과 AI의 협업을 중심으로 한 ‘2-Track AX’ 전략을 소개했다.

핵심은 모든 업무를 AI로 대체하기보다 AI가 잘할 수 있는 업무와 사람이 책임을 져야 하는 업무를 구분하는 방식으로 볼 수 있다.

데이터 분석이나 반복적인 정보 정리는 AI가 훨씬 빠르게 처리할 수 있다.

반면 고객의 대규모 자산을 움직이는 의사결정이나 법적 책임이 필요한 상황에서는 사람이 최종적인 승인과 감독 역할을 유지하는 것이 중요할 수 있다.

금융 AI 도입의 목표가 사람을 완전히 제거하는 것이 아니라 사람이 더 중요한 판단에 집중할 수 있도록 역할을 재구성하는 방향으로 갈 가능성이 높은 이유다.

AI 금융에서 사람의 역할이 오히려 중요해질 수 있다

AI가 발전할수록 사람의 역할이 줄어들 것이라는 예상이 많다.

하지만 금융에서는 오히려 AI의 권한이 커질수록 사람이 책임져야 할 영역을 명확하게 만드는 일이 중요해질 수 있다.

AI가 빠르게 분석하고 추천하더라도 최종 결정에 어떤 사람이 책임을 지는지가 불분명하면 사고가 발생했을 때 소비자 보호가 어려워진다.

특히 대출 승인이나 투자상품 추천, 자동매매처럼 고객의 재산에 직접 영향을 미치는 업무에서는 사람의 감독 절차가 일정 수준 남을 가능성이 높다.

따라서 금융권 AI 경쟁은 단순히 자동화율을 얼마나 높이느냐보다 어떤 업무까지 AI에 맡기고 어느 단계에서 사람이 개입할 것인지 설계하는 경쟁이 될 수도 있다.

5대 정책 과제에서 공통으로 보이는 방향

이번 세미나에서 제시된 다섯 가지 과제는 서로 다른 문제처럼 보이지만 공통된 방향이 있다.

AI의 사용 자체를 막는 것보다 AI가 어떤 권한을 가지고 어떤 데이터를 사용하며 어떤 판단을 내렸는지를 확인할 수 있는 구조를 만들자는 것이다.

AI 책임 체계는 누가 AI를 운영하는지를 확인하기 위한 장치다.

데이터 비례 개방은 데이터를 사용할 수 있는 기관의 책임 능력을 보는 문제다.

공동 검증체계는 AI 모델 자체의 위험을 확인하기 위한 것이다.

소비자보호 제도는 AI로 인해 피해를 입었을 때 고객을 보호하기 위한 장치다.

시스템 위험 감독은 개별 AI가 아니라 금융시장 전체에서 발생할 수 있는 위험을 관리하기 위한 방법이다.

결국 다섯 가지 모두 AI의 자율성이 높아지는 만큼 책임과 기록, 감독도 함께 강화해야 한다는 방향으로 연결된다.

앞으로 금융 AI 정책에서 확인해야 할 부분

가장 먼저 살펴볼 부분은 이번 세미나의 제안들이 실제 금융당국 정책으로 이어지는지 여부다.

현재 AI 에이전트 등록제나 금융권 공동 검증체계는 확정된 제도가 아니다. 향후 금융당국의 검토와 업계 의견수렴, 법령 개정 등의 절차가 필요하다.

두 번째는 AI가 실제 금융거래에서 어느 정도까지 자율적으로 행동하게 되는지다.

단순 상담과 정보검색 중심이라면 현재 규제체계에서도 상당 부분 대응할 수 있을 수 있다.

반면 AI가 고객의 계좌에서 직접 거래하거나 대출과 투자상품을 자동으로 선택하게 되면 훨씬 강한 책임 체계가 필요해질 가능성이 높다.

세 번째는 외부 AI 플랫폼과 금융회사 사이의 책임 분담이다.

앞으로 범용 AI나 금융 특화 AI가 여러 금융회사의 상품을 비교하고 거래까지 연결하게 된다면 기존 금융회사 중심의 소비자보호 체계도 다시 설계할 필요가 있다.

마지막으로 금융회사들의 특정 AI 모델 의존도도 살펴볼 필요가 있다.

몇 개의 AI 모델에 금융권 전체가 지나치게 집중될 경우 기술 장애나 잘못된 판단이 동시에 여러 금융회사로 확산될 수 있기 때문이다.

개인적인 견해

이번 정책 논의에서 개인적으로 가장 중요하게 보는 부분은 AI의 정확도보다 책임 구조다.

금융에서 AI가 틀린 답을 내놓는 문제는 단순한 정보 오류로 끝나지 않을 수 있다.

잘못된 추천이 실제 투자나 대출, 보험 가입으로 이어지면 고객의 자산에 직접적인 영향을 줄 수 있기 때문이다.

그래서 금융 AI에서 가장 중요한 질문은 “AI가 얼마나 똑똑한가”보다 “AI가 틀렸을 때 누가 책임지는가”가 될 가능성이 높다고 생각한다.

특히 앞으로 AI가 정보를 제공하는 수준을 넘어 거래까지 실행하게 된다면 권한과 책임이 반드시 함께 움직여야 한다.

AI가 더 많은 업무를 할수록 금융회사나 플랫폼이 책임에서 멀어지는 구조가 아니라 오히려 누가 해당 AI를 운영했고 어떤 조건으로 행동하도록 만들었는지를 더 명확하게 기록해야 한다.

또 하나 주목하는 부분은 시스템 위험이다.

AI 하나가 잘못된 판단을 내리는 것보다 여러 금융회사가 같은 모델을 이용해 동시에 같은 판단을 내리는 상황이 시장에는 더 큰 위험이 될 수 있다.

따라서 금융 AI 규제도 개별 소비자 보호를 넘어 금융시장 전체의 안정성까지 함께 보는 방향으로 발전할 필요가 있다고 본다.

결국 AI 금융의 성패는 자동화 수준이 아니라 혁신과 책임을 동시에 얼마나 잘 설계할 수 있느냐에 달려 있을 가능성이 크다.

※ 이 글은 NH투자증권과 한국경제연구학회 정책 세미나 및 공개자료를 바탕으로 내용을 정리하고 추가적인 해설과 분석을 더한 정보성 콘텐츠이며, 특정 금융상품이나 투자 행동을 권유하지 않습니다.

출처: NH투자증권, 한국경제연구학회 정책 세미나 발표자료 및 관련 공개자료