AI 환각을 넘어 신뢰성으로! RAG 2.0 기반 GLM, 검색 AI의 새 기준 제시

최근 인공지능(AI) 스타트업 컨텍스추얼 AI(Contextual AI)가 새로운 검색 증강 생성(RAG) 기술을 적용한 'RAG 2.0'을 기반으로 한 대형언어모델(LLM)을 공개했습니다. 기존 RAG의 한계를 극복한 이 모델은 사실 확인(팩트체킹) 능력이 뛰어나며, 구글, 앤트로픽, 오픈AI 등 기존 AI 모델보다 높은 정확도를 기록했습니다.

이번에 공개된 모델은 '근거(Groundedness) 기반 언어 모델(GLM)'이라는 이름을 갖고 있으며, 명확한 근거가 있는 정보만을 바탕으로 응답을 생성하는 것이 특징입니다.

RAG란 무엇인가?

RAG(Retrieval-Augmented Generation)는 정보를 검색(Retrieval)하고 이를 기반으로 생성(Generation)하는 방식의 AI 모델 구조입니다. 이는 기존의 AI 모델이 학습된 데이터만을 기반으로 답변을 생성하는 것과 달리, 실시간 검색을 통해 최신 정보를 반영할 수 있도록 설계되었습니다. 하지만 기존 RAG 시스템에는 몇 가지 문제가 있었습니다.

1. 조각난 시스템 구성: 검색 엔진, 데이터베이스, 언어 모델이 각각 독립적으로 작동하며 이를 연결하는 과정에서 최적화가 어렵습니다.
2. 사실 오류 문제(환각, Hallucination): 검색된 정보가 모델이 이해할 수 있도록 잘 연결되지 않으면 잘못된 정보를 생성할 가능성이 큽니다.
3. 복잡한 프롬프팅 필요: 원하는 결과를 얻기 위해 복잡한 입력을 설계해야 하는 경우가 많습니다.

RAG 2.0의 혁신적인 변화

컨텍스추얼 AI는 이러한 기존 RAG 시스템의 한계를 극복하기 위해 RAG 2.0을 도입했습니다.

1. 모든 요소를 하나로 통합한 최적화된 구조

기존 RAG가 여러 요소를 조합하는 방식이었다면, RAG 2.0은 검색과 언어 모델이 하나의 통합 시스템으로 학습됩니다. 즉, 검색과 생성 모델을 동시에 훈련함으로써 성능을 극대화했습니다.

2. 스마트한 검색 전략 적용

RAG 2.0은 혼합 검색기(mixture-of-retrievers) 기술을 도입하여, 질문을 받은 후 가장 적절한 검색 전략을 먼저 결정한 후 실행합니다. 기존의 단순 키워드 검색보다 더욱 정교한 정보 수집이 가능합니다.

3. 정밀한 정보 선별 기능

세계 최고 수준의 '재순위 모델(re-ranker)'을 활용하여 검색된 정보 중 가장 중요한 내용을 선별하고, 이를 기반으로 언어 모델이 응답을 생성합니다. 이를 통해 사실성이 높은 답변을 보장합니다.

벤치마크 결과: GLM vs 기존 모델

컨텍스추얼 AI의 GLM은 대표적인 근거 기반 벤치마크인 FACTS에서 최고 성능을 기록했습니다.

• GLM: 88%
• 구글 제미나이 2.0 플래시: 84.6%
• 앤트로픽 클로드 3.5 소네트: 79.4%
• 오픈AI GPT-4o: 78.8%

이 결과는 기존 AI 모델보다 RAG 2.0 기반의 GLM이 훨씬 더 정확한 정보를 제공할 수 있다는 것을 시사합니다.

IT 기업들은 어떤 선택을 해야 할까?

1. 기존 AI 모델과의 차별화 전략 필요

전통적인 AI 모델을 활용하는 기업들은 단순 챗봇이나 문서 요약 수준을 넘어, 신뢰성 높은 AI 시스템을 구축하기 위해 RAG 2.0과 같은 새로운 기술을 적극적으로 도입할 필요가 있습니다.

2. 데이터 검증 및 신뢰성 강화

GLM이 강조하는 근거 기반 응답 방식은 금융, 의료, 법률 등 정확성이 중요한 산업에서 필수적인 요소가 될 것입니다. IT 기업들은 내부 데이터 검증 시스템과 결합하여 더욱 신뢰할 수 있는 AI 서비스를 구축할 기회를 가질 수 있습니다.

3. 새로운 AI 기반 서비스 개발

• 자동화된 리서치 및 보고서 생성: RAG 2.0을 적용하면 대량의 문서를 분석하고 신뢰할 수 있는 보고서를 자동으로 생성하는 것이 가능해집니다.
• 기업 내부 검색 최적화: 내부 문서나 데이터베이스에서 가장 관련성이 높은 정보를 빠르게 제공하는 AI 검색 시스템을 구축할 수 있습니다.

결론

컨텍스추얼 AI가 선보인 RAG 2.0 기반의 GLM은 AI의 사실 정확도를 한 단계 끌어올리는 중요한 전환점이 될 것입니다. 기존 AI 모델이 가진 한계를 극복하고 더욱 신뢰성 있는 AI를 개발하려는 기업들에게 RAG 2.0은 필수적인 선택이 될 가능성이 큽니다.

앞으로 IT 기업들은 이런 혁신적인 기술을 어떻게 활용할지 고민해야 하며, 신뢰성 높은 AI 시스템 구축을 위한 전략적 방향성을 설정해야 할 것 같습니다.