AI 검색: 하나의 질문이 정답 후보를 찾아가는 여정

모든 위대한 여정은 하나의 질문에서 시작된다.

 

이 글은 지금까지 흩어져 있던 '찾기(Finding)'의 조각들을 한 줄의 여정으로 다시 엮어,

질문이 도착한 순간부터 후보가 확정되는 순간까지를 한 번에 지나가게 만드는 정리입니다.

 

다만 길을 걷다 보면 낯선 표지판을 만나기도 합니다. RAG와 LLM 같은 단어들입니다.

여기서는 그 표지판의 사전적 의미보다, 이 여정에서 어디를 가리키는지부터 먼저 간략히 설명 하겠습니다.

RAG는 '근거를 먼저 찾고(Retrieval):
   - 그 근거를 바탕으로 답을 만든다(Generation)'는 구조를 말합니다.
LLM(Large Language Model, 대규모 언어 모델):
   - 그 근거를 읽고 문장으로 답을 만들어 내는 '답하기(Generation)'의 엔진입니다.

---

하나의 질문이 시스템에 도착하면, 정답을 향한 여정이 시작됩니다.

이 여정은 무작정 모든 정보를 뒤지는 대신, 가능성이 높은 곳에만 집중하는 전략으로 구성됩니다.

 

가장 먼저 시스템은 길을 잃지 않도록 🏷️ 메타데이터를 활용해 범위를 좁힙니다.

예를 들어 최신 날짜, 문서 종류, 카테고리 같은 조건으로 탐색 공간을 줄여서,

애초에 정답이 있을 수 없는 영역을 먼저 제외합니다.

 

이는 비용이 큰 단계로 들어가기 전에 전체 흐름을 안정시키는 첫 관문입니다.

---

범위가 정리되면 시스템은 🔤 키워드 검색으로 질문과 글자가 정확히 맞닿는 후보군을 확보합니다.

제품 코드나 고유명사처럼 형태가 중요한 질문에서는 이 신호가 가장 단단한 기반이 됩니다.

하지만 질문의 의도는 항상 글자와 일치하지 않기 때문에, 시스템은 두 번째 열쇠를 준비합니다.

 

질문 자체를 문서 조각과 같은 방식으로 '질의 🧠 임베딩'이라는 좌표로 바꾸는 것입니다.

이 좌표는 표현은 달라도 의미가 가까운 후보를 찾아내는 길을 열어줍니다.

---

이제 시스템은 🤔 의미 검색으로 단어가 달라도 문맥이 가까운 후보군을 넓게 모읍니다.

예를 들어 "달에 간 게 언제야?"라는 질문이 "1969년 최초 달 착륙" 같은 문서에 닿을 수 있는 이유가 여기에 있습니다.

이렇게 서로 다른 기준으로 모은 두 후보 목록은 이제 한쪽으로 기울지 않게 하나로 합쳐져야 합니다.

---

⚖️ 결합 단계에서는

점수를 조정해 섞는 방식(Linear)이나,

순위 정보로 섞는 방식(RRF) 처럼

서로 다른 신호가 공정하게 공존하도록 통합 목록을 만듭니다.

---

통합 목록이 만들어졌다고 해서 순서가 곧 최선인 것은 아닙니다.

마지막 정밀 감정 단계인 🎯 리랭킹이 상위권 후보를 더 정교하게 다시 읽고, 최종 순서를 확정합니다.

 

이 과정은 새로운 후보를 찾기보다,

이미 확보된 후보들 사이에서 "누가 진짜 1번인가"를 결정하는 단계입니다.

이로써 가장 정제된 최종 후보 목록이 완성됩니다.

---

이제 후보는 두 갈래의 길 앞에 섭니다.

하나는 이 근거를 LLM이 읽고 답을 만들 수 있도록

포장하고 제어하는 경로(🍱, 🧷)를 거쳐 답을 만드는✍️ 실행 경로이고,

 

다른 하나는 지금 결과가 타당한지 확인해 다음 개선으로 이어가는🧪 검증 경로입니다.

---

"최고의 후보는, 이제 최고의 답변이 될 준비를 마쳤다."

---

요약의 레퍼런스: 

✂️ 검색 품질의 첫 단추: '청킹(Chunking)' 완벽 이해하기
🏷️ 메타데이터 필터링: 더 똑똑한 AI 검색을 만드는 비밀
🧠 임베딩 만들기: AI 검색 준비의 마지막 퍼즐

✂️ 검색 품질의 첫 단추: '청킹(Chunking)' 완벽 이해하기

🏷️ 메타데이터 필터링: 더 똑똑한 AI 검색을 만드는 비밀

🧠 임베딩 만들기: AI 검색 준비의 마지막 퍼즐

 

🔤 키워드 검색(어휘 검색): 후보군을 만드는 가장 단단한 방법
🤔 의미 검색(시멘틱 서치): 임베딩으로 후보군을 만드는 두 번째 축
⚖️ 결합 로직: 후보군을 '공정하게' 합치는 하이브리드의 핵심 (Linear vs RRF)
🎯 리랭킹(Re-ranking): 후보를 다시 읽고 '진짜 순서'로 정렬하기
🧪 평가/개선(Evaluation & Improvement): 좋아졌는지 '증명'하고 다음 개선으로 연결하기

🔤 키워드 검색(어휘 검색): 후보군을 만드는 가장 단단한 방법

🤔 의미 검색(시멘틱 서치): 임베딩으로 후보군을 만드는 두 번째 축

⚖️ 결합 로직: 후보군을 '공정하게' 합치는 하이브리드의 핵심 (Linear vs RRF)

🎯 리랭킹(Re-ranking): 후보를 다시 읽고 '진짜 순서'로 정렬하기

🧪 평가/개선(Evaluation & Improvement): 좋아졌는지 '증명'하고 다음 개선으로 연결하기

---

 

해당 글은 AI 어시스턴트로 작성되었습니다.

NotebookLM과 Chat GPT를 사용하여 작성되었습니다.

---