corecode:~$cd ./solutions/enterprise-ai
사내 문서 AI 챗봇 구축 — 틀리면 안 되는 곳에 쓰는 AI
금융·법률·규정처럼 한 번 틀리면 되돌리기 어려운 업무에 AI 를 넣습니다. 답과 함께 근거 조문을 내놓고, 근거가 없으면 답하지 않게 만듭니다.
이런 상황이라면
- ChatGPT 를 써 봤지만 사내 규정·약관을 물으면 그럴듯한 오답이 나온다
- 망분리라 클라우드 AI 를 쓸 수 없고, 그래서 AI 활용이 0 에서 멈춰 있다
- 데이터를 물으려면 매번 IT 팀에 SQL 을 부탁해야 하고, 답이 나오는 데 며칠 걸린다
우리가 만드는 것
사내 문서·약관 AI 챗봇 (GraphRAG)
문서를 지식 그래프와 벡터로 함께 색인하고, 답변마다 출처 조문을 붙입니다. LLM 이 쿼리를 직접 만드는 비율을 5% 이하로 묶어 환각과 비용을 줄입니다.
온프레미스 · 망분리 AI
로컬 LLM 과 로컬 음성인식으로 외부 API 호출 0 으로 운영합니다. 실제 약관·법령 877청크로 골든셋 11/11 을 검증한 구성입니다.
자연어 데이터 조회 (NL→SQL)
비즈니스 용어와 DB 스키마를 온톨로지로 분리해, 인사팀·경영진이 한국어로 데이터를 묻습니다. 실제 데이터는 LLM 에 보내지 않습니다.
검증 루프와 감사 기록
골든셋으로 정답률을 재고, 거절한 질문까지 사유와 함께 기록합니다. 잘 되는 시연이 아니라 감사에 견디는 운영을 목표로 합니다.
진행 방식
- 1
진단 (1주)
문서·데이터·망 환경을 보고 어떤 방식(GraphRAG · NL→SQL · 온프레미스)이 맞는지 정합니다. 골든셋 질문 10~20개를 함께 만듭니다.
- 2
설계 (1주)
온톨로지·인용 규칙·거절 규칙·감사 로그를 먼저 설계합니다. 모델은 마지막에 고릅니다.
- 3
구축 (2~4주)
파일럿을 실제 문서로 만들고 골든셋으로 정답률을 잽니다. 통과하지 못한 항목은 수치와 함께 보고합니다.
- 4
운영
질문 로그로 온톨로지를 키우고, 모델 교체 시 같은 골든셋으로 다시 잽니다.
규모와 기간
4주 파일럿부터 시작합니다. 문서 수·망 환경·연동 범위에 따라 견적이 달라지므로, 30분 상담에서 범위를 먼저 정합니다.
자주 묻는 질문
일반 챗봇(ChatGPT 등)과 무엇이 다른가요?
답변에 근거 문서·조문을 붙이고, 근거가 없으면 답하지 않습니다. 지식 그래프와 벡터 검색을 함께 쓰는 GraphRAG 구조라 문서 간 관계를 따라가는 질문에도 답합니다.
망분리 환경에서도 되나요?
됩니다. 로컬 LLM · 로컬 음성인식으로 외부 API 호출 0 으로 운영한 구성이 있습니다. 실제 약관·법령 877청크로 골든셋 11/11 을 검증했습니다.
환각(그럴듯한 오답)은 어떻게 막나요?
세 겹입니다. ① LLM 이 쿼리를 직접 만드는 비율을 5% 이하로 제한 ② 답변마다 grounding score 로 근거 유무 검사 ③ 골든셋으로 정답률을 수치로 관리.
우리 데이터가 외부로 나가나요?
온프레미스 구성은 나가지 않습니다. 클라우드 LLM 을 쓰는 구성에서도 실제 데이터가 아니라 온톨로지 개념과 집계값만 보내고, 개인정보는 마스킹합니다.
얼마나 걸리나요?
4주 파일럿이 기본입니다. 진단 1주 · 설계 1주 · 구축 2~4주이며, 문서 수와 연동 범위에 따라 달라집니다.
우리 문서로 30분 안에 확인해 보세요
귀사의 문서 몇 건과 질문 10개면, 어떤 방식이 맞는지 상담에서 바로 말씀드릴 수 있습니다.