LLM 에이전트가 기업 데이터베이스를 직접 조회할 때 잘못된 답변을 내놓으면 비즈니스 위험이 커집니다. 빠른 답변보다 중요한 것은 신뢰할 수 있는 데이터입니다. NVIDIA가 공개한 Auto-Ontology 프레임워크는 데이터베이스 옆에서 작동하며 에이전트에게 정확한 맥락을 제공합니다. 메타데이터를 읽어 비즈니스 용어, 검증된 SQL 수식, 테이블 조인 관계를 그래프 형태 온톨로지로 변환합니다.

데이터베이스 메타데이터를 온톨로지로 변환하는 방식

Auto-Ontology 구축 작업은 소스 추출에서 출발하여 세 단계를 거쳐 진행합니다. 수집 서비스가 카탈로그를 프로파일링하고 테이블별로 비즈니스 용어를 매핑합니다. 이어서 외래 키와 실제 데이터 관계를 바탕으로 조인 및 스키마 관계를 추론합니다. 정의한 온톨로지는 PostgreSQL 환경에 pgvector 임베딩 형태로 저장합니다.

프레임워크는 Discover, Ground, Certify, Validate, Expose의 5가지 축으로 동작합니다. Ground 단계는 데이터베이스 전반에 걸쳐 개념당 하나의 표준 정의를 할당합니다. Certify 단계는 웹 UI나 API로 비즈니스 용어 및 SQL 표현식을 사람이 직접 수정하고 인증합니다. Validate 단계는 쿼리 실행 전 답변 가능 여부를 먼저 점검하고 생성한 SQL과 추론 단계를 반환합니다. Expose 단계는 MCP(Model Context Protocol) 기술과 REST API로 에이전트에 맥락을 전달합니다. 사람의 검증을 거친 온톨로지는 에이전트 환각을 줄여줍니다.

단순 스키마 주입과 Auto-Ontology 도구의 차이

기존 방식은 프롬프트의 context window 공간에 데이터베이스 스키마를 통째로 채워 넣었습니다. 스키마가 커질수록 토큰 소모가 급증하고 에이전트는 컬럼명에만 의존해 조인 조건을 임의로 지어냈습니다. Auto-Ontology 방식은 질의에 관련된 용어와 테이블만 선택해 조율합니다.

데이터에 존재하지 않는 질의가 들어왔을 때의 동작도 다릅니다. 예를 들어 광고비 데이터가 없는 Wide World Importers 샘플 데이터베이스에 광고 대비 매출액(ROAS)을 물으면 기존 에이전트는 억지로 쿼리를 만들어 냅니다. Auto-Ontology 기반 에이전트는 check_answerable 검사를 실행해 커버리지가 미달함을 확인하고 사용자에게 추가 설명을 요청합니다.

실행 구조와 벤치마크 평가

성능 검증용 리포지토리인 auto-ontology-eval 환경은 BIRD, BEAVER, FDABench-Lite 벤치마크를 활용합니다. 프롬프트에 스키마를 직접 주입한 대조군과 온톨로지를 참조하는 실험군을 비교 분석합니다. 실행 결과 일치율을 정밀 검증기로 측정해 온톨로지가 정확도를 얼마나 높였는지 확인합니다.

Docker Compose 환경으로 PostgreSQL, pgAdmin, 웹 애플리케이션을 빠르게 실행할 수 있습니다. .env 파일에 NVIDIA API 키와 데이터베이스 연결 문자열을 작성한 뒤 실행 명령을 입력하면 시맨틱 컴파일이 시작됩니다. 2015년 6월 펜실베이니아의 특정 상품 매출을 물으면 온톨로지가 용어 관계를 추론해 정확한 SQL 문장과 추론 과정을 답변으로 반환합니다.

엔터프라이즈 AI 에이전트의 데이터 정확도를 높이는 실질적인 기준을 보여줍니다. 신뢰할 수 있는 데이터 레이어가 시스템의 안정성을 높입니다.

요약

  • 데이터베이스 스키마 전체를 프롬프트에 넣는 대신 질문과 관련된 온톨로지 용어와 조인 관계만 추출하여 토큰 소모와 환각을 동시에 줄입니다.
  • 답변 불가능한 질문이 입력되었을 때 check_answerable 기능이 커버리지를 계산하여 잘못된 SQL을 실행하지 않고 에이전트가 재질의를 요청하게 만듭니다.
  • MCP 및 REST API를 통해 기존 온톨로지 모듈을 다양한 LLM 에이전트 프레임워크와 유연하게 결합할 수 있습니다.