把 PDF 全部上傳,期待 AI 變成公司百科,這是我最近被問最多、也最容易失敗的做法。問題通常不在模型,而在資料。RAG 的答案品質,上限是它檢索得到的那幾段文字;文件沒整理,模型再強,也只能拿錯的段落認真作答。
01RAG 在做什麼,先講清楚
RAG 是 Retrieval-Augmented Generation 的縮寫,名稱來自 Lewis 等人 2020 年在 arXiv 發表的論文。做法分兩段:先從外部資料檢索出相關段落,再把段落連同問題交給語言模型生成答案。論文的出發點很實際,模型參數裡的知識難以更新,也很難交代答案出處。
放到企業裡,流程是:文件切成段落、每段轉成向量存進索引、有人提問時找出最相近的幾段、組進提示詞讓模型回答。每一步都可能出錯,而且錯了不會跳錯誤訊息,只會給你一個看起來很合理的錯答案。
02失敗一:掃描檔與表格,檢索根本讀不到
很多公司的規章、合約、型錄是掃描成 PDF 的圖片,沒有文字層。直接上傳,系統切出來的段落是空白或亂碼,檢索永遠找不到。表格也是重災區,規格表轉成純文字後欄位對應全亂,型號 A 的耐壓值可能被接到型號 B 那一列。
根因是把檔案當成資料。上傳前先盤點一次:哪些檔案有文字層、哪些要先跑 OCR、哪些表格要另外轉成 CSV。價目、規格這類表格資料,我建議不要走向量檢索,直接查資料庫,準確度差很多。
03失敗二與三:舊版本混在一起,切段切斷了意思
人事規章改過三版,三份都留在資料夾裡,AI 檢索到舊版就照著回答。這不是模型幻覺,是你餵了過期資料。每份文件至少要有四個中繼欄位:文件名稱、版本、生效日、負責單位,檢索時只取現行版。
切段方式也常被忽略。固定每 500 字切一刀,條文的但書可能被切到下一段,檢索只拿到前半句,答案就變成相反的意思。改成依標題、條號切段,並在每段開頭補上所屬章節名稱,是最便宜的改善。
04失敗四:所有人都能問到所有文件
把全公司文件放進同一個索引,等於讓每個員工都能用問的方式讀到薪資辦法和董事會紀錄。檢索系統預設不懂權限,誰問就給誰。上線前沒人注意,上線後第一週就會被問出來。
做法是建索引時就帶上可讀權限標籤,檢索階段先過濾再排序,而不是答案生成完才遮蔽。第一版可以很粗,全員可讀、部門可讀、限主管三級就夠,之後再細分。
05失敗五:沒有考卷,就不知道有沒有變好
最常見也最致命的一種:系統上線了,沒有人知道它答對幾題。我會先要一份 50 題的考卷,每題附標準答案與出處頁碼,由真正會問這些問題的同事出題。每次調整切段、換模型、加文件,都重跑一次。
分數要拆成兩個:檢索有沒有找到對的段落、答案本身對不對。找不到,是資料與切段的問題;找到了卻答錯,才輪到提示詞或模型。分不清楚的團隊會一直換模型,問題卻一直卡在前半段。
06下週一可以做的事
不要一次做全公司。挑一個重複提問多的部門,例如人資的請假與報帳規定,文件控制在幾十份,把上面五件事做完,跑 4 週看考卷分數和實際使用次數,再決定要不要擴大。PDF 丟進去只要一分鐘,整理資料要好幾週,但慢的那一段才是你真正的資產。
資料來源
文中數字與法規均出自下列正式資料,引用時請以原始出處為準。