김평권

MartDB 생성형 AI 데이터 에이전트 (GPT-4o)

KT

KT의 PostgreSQL MartDB에 RAG와 text-to-SQL로 자연어 질의에 답하는 GPT-4o PoC를 만들어 질의 소요를 수 시간에서 수 초로 줄였다.

과제
현업 이해관계자가 SQL 없이는 MartDB를 조회할 수 없고, 분석가의 수동 질의에 수 시간이 걸림.
설계
PostgreSQL MartDB를 Azure AI의 LLM과 연동. RAG와 text-to-SQL로 자연어 질의에 MartDB 근거로 답변. Streamlit PoC 인터페이스.
근거
운영 mart의 최신성을 위해 사전집계 대신 text-to-SQL을 선택하고, 스키마 용어 환각을 줄이기 위해 RAG로 grounding.
결과
운영 mart 대상 LLM 조회 타당성 검증. 질의 소요 수 시간 → 수 초.
스택
Azure AI Studio, GPT-4o, PostgreSQL, Streamlit, Python

관련 프로젝트

함께 보기