Nova — 베트남 증권 AI 법률 챗봇

상황

NOVA 는 베트남 증권·법률 도메인용 GraphRAG 챗봇으로, 법령 문서 노드 4,781건 위에서 LLM 쿼리 의존도를 5% 이하로 묶어 근거 없는 답을 내지 않게 설계했습니다. 신한증권 베트남(SSV)의 고객과 직원을 위한 법률·금융 정보 챗봇을 개발했습니다. 금융·법률 답변은 정확성이 필수이므로 근거를 함께 제시해야 하며, 규제상 투자 추천은 차단해야 합니다.

문제

일반 LLM 챗봇은 그럴듯한 오답을 생성하며 법령 근거를 제시하지 못하는 한계가 있습니다. 또한 LLM이 직접 DB 쿼리를 생성할 경우 보안, 비용, 정확도 측면에서 큰 위험이 따릅니다.

우리가 한 것

• Neo4j 지식 그래프, 벡터 검색, Claude API를 결합한 GraphRAG 구조로 설계했습니다.
• 쿼리 생성을 템플릿 매칭, 파라미터 DSL, LLM Text2Cypher의 3단계로 나누어 LLM 의존도를 5% 이하로 낮췄습니다.
• 환각 탐지(grounding score)와 투자 추천 3단계 차단 로직을 파이프라인에 적용했습니다.
• 도메인 로직을 YAML 패키지로 외부화하여 코드 수정 없이 다른 산업으로 교체 가능하게 했습니다.
• FinQA, FIBO, FinDKG를 결합한 17노드 21관계 금융 온톨로지를 설계했습니다.

결과

지표	값	비고
법령 문서 노드	4,781건	Neo4j LegalDocument
법령 임베딩	20,094건	multilingual-e5-large, 약 174분
유닛 테스트	122/122 통과	도메인 패키지 리팩터링 기준
Text2Cypher 의존도	5% 이하	템플릿 80% · DSL 15%
워크벤치 API	32개 엔드포인트	온톨로지·파이프라인·메트릭·피드백
온프레미스 회수기간	9~10개월	초기 투자 ₩100M, 연간 절감 ₩130M 추정

기간 · 규모 · 스택

• 기간: 2026-03 설계 착수 → 2026-05 법령 임베딩·온프레미스 제안
• 규모: Docker Compose 7 컨테이너(Neo4j 5 · Redis 7 · PostgreSQL 16 · API · worker · beat · Nginx), PostgreSQL 18 테이블
• 스택: Python · FastAPI · Neo4j · PostgreSQL+pgvector · Redis · Claude API · Docker · GraphRAG

이 사례가 말하는 것

틀리면 안 되는 도메인에서는 LLM을 답의 생성자가 아니라 검색·조립의 마지막 단계로만 사용합니다. 근거를 같이 내놓지 못하는 답은 내놓지 않습니다.