AI가 "대충 비슷한 것" 대신 "정확히 아는 것"을 찾아주려면
당신의 AI 비서, 정말 똑똑할까?
요즘 AI 챗봇에게 질문하면 그럴듯한 답을 척척 내놓습니다. "우리 회사 제품 A의 보증 기간이 어떻게 되지?" 하고 물으면 그럴싸한 답변이 돌아옵니다. 하지만 가끔은 틀린 정보를 자신만만하게 이야기하죠.
이게 바로 요즘 AI의 가장 큰 문제입니다. "그럴싸하게 들리지만 틀렸다" 는 것. 마치 시험 때 모르는 문제를 그럴듯하게 찍어서 쓰는 학생 같습니다.
왜 이런 일이 벌어질까요?
문제의 시작: "비슷한 것" 찾기의 한계
대부분의 AI 검색 시스템은 "Vector 검색" 이라는 방식을 씁니다. 이걸 쉽게 비유하자면:
Vector 검색 = 색깔로만 물건 찾기
도서관에 책이 수천 권 있는데, 사서가 책을 색깔별로만 정리했다고 상상해보세요. 빨간 책, 파란 책, 초록 책...
당신이 "셰익스피어의 햄릿을 찾아줘"라고 하면, 사서는 "음... 셰익스피어는 파란색 느낌이니까 파란 책들을 모두 가져올게요!" 하고 파란 책 100권을 쌓아놓습니다.
그 안에 햄릿이 있을 수도 있지만, 파란색 요리책, 파란색 여행 가이드, 파란색 만화책도 섞여 있습니다. 그럼 당신은 100권을 다 뒤져야 합니다.
이게 바로 지금 대부분의 AI가 하는 방식입니다. "의미적으로 비슷해 보이는 것" 을 찾아주지만, 정확히 필요한 것을 콕 집어내지는 못합니다.
더 큰 문제: "왜?"를 설명 못 한다
Vector 검색의 두 번째 문제는 이유를 설명할 수 없다는 것입니다.
실제 사례로 이해하기
제조 공장에서 제품 불량이 발생했습니다. AI 시스템에 물어봅니다: "이 불량의 원인이 뭐지?"
Vector 검색 방식:
- "불량"이라는 단어가 들어간 과거 문서 100개를 찾음
- "음... 비슷한 사례가 여기 있네요"
- 하지만 왜 그 사례가 관련 있는지 설명 못 함
- 실제 원인은 다른 곳에 있을 수 있음
이런 식으로는 재발 방지가 불가능합니다. 그냥 "비슷한 것 같은데..." 하고 끝나버리니까요.
해결책: "관계"를 아는 지식 그래프
이제 Knowledge Graph(지식 그래프) 방식을 이야기할 차례입니다. 이건 완전히 다른 접근입니다.
Knowledge Graph = 관계망으로 물건 찾기
같은 도서관에, 이번엔 똑똑한 사서가 있습니다. 이 사서는:
- 햄릿은 셰익스피어가 쓴 책이다
- 셰익스피어는 영국의 극작가다
- 햄릿은 비극이다
- 햄릿은 1600년경에 쓰였다
- 햄릿은 덴마크 왕자 이야기다
이 모든 관계를 알고 있습니다.
그래서 당신이 "셰익스피어의 햄릿"을 찾으면, 정확히 그 책만 콕 집어냅니다. 심지어 당신이 "덴마크 왕자가 나오는 셰익스피어 비극"이라고 애매하게 물어도 찾아낼 수 있습니다. 관계를 이해하니까요.
제조 현장에서의 실제 차이
이안토스카가 강조하는 것은 특히 규정 준수가 중요한 산업에서 이 차이가 치명적이라는 것입니다.
시나리오: 자동차 부품 불량 추적
Vector 방식 (문제):
불량 발생
→ "과거에 비슷한 불량 사례" 검색
→ 관련 없는 사례도 섞임
→ 정확한 원인 파악 실패
→ 동일 문제 재발
Knowledge Graph 방식 (해결):
불량 발생
→ 시스템이 자동으로 추적:
"이 부품은 → 3번 설비에서 →
A 작업자가 → B 공정으로 →
C 원자재 LOT로 → D 온도 조건에서 생산"
→ 정확한 원인 특정
→ 동일 조건의 다른 제품 즉시 파악
→ 재발 방지 조치
→ 규정 준수 자동 검증
차이가 보이시나요? 하나는 "추측"이고, 하나는 "추적" 입니다.
"그럴듯함"의 함정
이안토스카는 신랄하게 지적합니다. 현재 많은 기업들이 빠진 함정이 있다고:
"Vector 검색만 쓰는 건 AI를 하는 게 아니라, 의미적 추측 게임을 하는 것이다."
더 날카로운 지적도 있습니다:
"AI 벤더들은 당신이 계속 거대한 데이터 덩어리를 AI에게 던지길 원한다. 그래야 토큰을 더 많이 쓰고, 그들이 돈을 더 벌기 때문이다."
구조화된 지식 그래프로 정확한 정보만 찾아주면 AI에게 물어볼 데이터가 줄어듭니다. 하지만 그럼 AI 서비스 사용료가 줄어들겠죠. 누가 손해일까요?
그럼 어떻게 해야 할까?
이안토스카의 제안은 명확합니다: "둘 다 써라"
최적의 전략: 하이브리드 접근
1단계: Vector로 빠르게 범위 좁히기
"음, 이 주제와 관련 있는 영역은 여기네"
2단계: Knowledge Graph로 정확히 찾기
"정확한 원인은 이것이고, 관련된 모든 요소는 이것들이다"
3단계: 검증된 정보를 AI에게 제공
"이제 헛소리하지 말고, 이 정확한 정보로 답변해"
이 방식이면:
- 빠른 검색 (Vector의 장점)
- 정확한 결과 (Graph의 장점)
- 신뢰할 수 있는 AI 답변
- 비용도 절감
왜 지금 이게 중요한가?
AI가 점점 더 중요한 결정을 내리는 시대입니다.
- 의료 진단
- 금융 승인
- 제조 품질 관리
- 법률 자문
이런 분야에서 "그럴싸하게 추측" 은 용납될 수 없습니다. "정확하게 안다" 가 필수입니다.
이안토스카의 표현을 빌리면:
"규제가 있는 고위험 환경에서는 AI의 환각(Hallucination)이 허용되지 않는다. Knowledge Graph는 AI 에이전트의 양심 역할을 한다."
마치며: 똑똑한 AI를 만드는 법
결국 핵심은 이겁니다:
"AI에게 더 많은 데이터를 던지는 게 아니라, 더 똑똑한 방식으로 데이터를 조직해야 한다."
Vector 검색은 색깔로 물건을 찾는 것이고, Knowledge Graph는 관계망으로 물건을 찾는 것입니다.
당신이 도서관에 간다면, 어떤 사서를 원하시나요?
- "음... 이 책 파란색 같은데..." 하는 사서?
- "이 책은 셰익스피어가 1600년에 쓴 비극이고, 2층 B-15 서가에 있습니다" 하는 사서?
답은 명백합니다.
AI 시대에 진짜 경쟁력은 더 큰 모델이 아니라 더 똑똑한 구조에서 나옵니다.
당신의 회사는 어느 쪽을 선택하시겠습니까?
글쓴이 노트: 이 글은 Michael Iantosca의 "The Cult of Vector Search and the Forgotten Power of Graphs"를 기반으로, 제조 AI 융합 전문가의 관점에서 재해석한 것입니다.
