實用文章 · 企業知識庫
企業 AI 知識庫怎麼做?
先決定資料放在哪裡。
「想做一個公司內部的 AI 知識庫,同事一問就知道產品規格和價格規則。」老闆提這個需求時,通常最先問三件事:要花多少錢?怎樣做?資料會不會外流?
這三個問題其實是連在一起的:資料放在哪裡,決定了用哪種做法;做法定了,費用的大頭才清楚。這篇按這個順序講,最後附一個上線前的測試方法。
先講清楚:企業 AI 知識庫是什麼
企業 AI 知識庫 = 一批整理好的公司資料 + 一個會先「查資料」再回答的 AI。同事提問時,系統先從資料裡找出相關段落,再交給 AI 組織成答案,並標出依據哪一份文件。技術上常叫做 RAG(檢索增強生成)。
所以決定效果的,主要不是用哪個 AI 模型,而是資料本身是否準確、是否最新。資料要怎樣整理,可以先看公司內部知識庫怎麼搭:從一個資料夾開始。
三種做法,差別在資料放哪裡
| 做法 | 資料放在哪裡 | 適合誰 | 要注意 |
|---|---|---|---|
| A. 用 AI 工具內建的「專案」或知識庫功能 | 文件上傳到 AI 服務方的雲端 | 幾個人用、資料不敏感、想一週內開始 | 權限較粗;要先看清楚所用方案的資料條款 |
| B. 自己架設知識庫平台,接雲端模型 | 文件和索引放在公司電腦或伺服器;每次提問只把相關段落送給模型 | 多人共用、要分權限、資料量較大 | 要有人負責安裝、更新和備份 |
| C. 自己架設平台,連模型也在本地執行 | 全部留在公司內部 | 資料很敏感,或規定資料不能出公司 | 需要效能較好的電腦;本地模型的能力通常不如頂級雲端模型 |
做法 B、C 常見的開源平台有 Dify、MaxKB、Open WebUI 等;做法 A 則是各家 AI 工具的團隊方案內建功能。平台更新很快,選之前用你自己的資料試一次,比看功能表準。
「資料放本地」,要分三層看
- 原始文件:Word、Excel、PDF 放在哪裡。
- 索引:系統為了搜尋而建立的資料庫,放在哪裡。
- 提問時送出的內容:問題加上找到的段落,會送去哪個模型處理。
做法 B 的文件和索引都在本地,但每次提問仍會把相關段落送到雲端模型。很多中小企業最後用的就是這種「混合」做法:資料庫在自己手上,只有回答問題時用到的那幾段會送出去。
所以與其追求「全部本地」,更實際的做法是:證件、銀行資料、客戶個資這類敏感資料,不放進知識庫,或先脫敏再放。分級方法見哪些公司資料不能貼進 AI 工具。
費用由 4 部分組成
| 費用項目 | 怎樣計 | 說明 |
|---|---|---|
| 資料整理 | 內部人手,或按範圍請人做 | 通常是最花時間的一項,也最常被低估 |
| 工具或平台 | 開源平台軟件本身免費;AI 工具的團隊方案按人數月費 | 自己架設時,要算上電腦或伺服器的費用 |
| 模型用量 | 按 token 計費,用多少付多少 | 日常問答量不大時通常不高,可以先估範圍 |
| 維護 | 每月固定花一點人手時間 | 更新文件、檢查答錯的問題、管理權限 |
模型用量怎樣估,可以用AI 用量月費計算器算一個範圍。如果想請人搭建,作為參考,我們的 AI 工作台搭建包團隊版 HKD 9,800 起,包括最多 5 人使用的公司知識庫、1 個業務場景、資料分級和使用守則,以及交付後 2 週陪跑;模型用量另計,由你直接付給模型服務方。實際報價按資料量和範圍確定。
5 個步驟做出第一版
第 1 步:只選一類問題開始
例如「前線同事問產品規格和價格規則」。範圍越窄,越快看到效果,也越容易判斷答得對不對。
第 2 步:整理 30 到 50 份最常用的文件
每份寫清楚主題、適用範圍和更新日期,過期版本不放進去。Excel 類的資料先清一遍格式,做法見用 AI 清理 Excel 客戶表。
第 3 步:定好誰能看哪些資料
內部價格規則只給業務部,人事資料不放進去。先用資料夾分好,再對應到系統的權限設定。
第 4 步:用 20 條真實問題測試
從過去一個月同事真正問過的問題裡挑 20 條,逐條檢查答案。用下面這條指示,可以讓 AI 的回答更容易核對:
請只根據知識庫裡的資料回答。 回答格式: 1. 答案(不超過 5 句) 2. 依據:文件名稱和段落 3. 如果資料裡沒有,直接回答「知識庫中沒有這項資料」,不要推測。 問題: (輸入問題)
評分只看三項:答案對不對、出處對不對、資料裡沒有時會不會老實說沒有。20 條裡能直接用的少於 16 條,先回頭補資料,不要急著擴大範圍。
第 5 步:指定維護人,每月看一次答錯的問題
價格、條款一改,維護人當天更新文件。每月把答錯或答不出的問題列出來,大多數時候補一份文件就能解決。
常見問題
一定要先買向量資料庫或伺服器嗎?
不一定。用 AI 工具內建的知識庫功能,不用自己準備伺服器;自己架設的平台多數也已內建檢索功能。中小企業與其先研究技術名詞,不如先把 30 份最常用的文件整理好,再決定用哪種做法。
知識庫和共用資料夾有什麼不同?
共用資料夾要自己找文件、自己讀;AI 知識庫會替你找出相關段落,整理成答案並標明出處。兩者用的是同一批資料,所以資料夾整理好了,接 AI 只是下一步。
AI 答錯了怎麼辦?
先看出處:如果引用的文件本身過期或寫錯,就更新文件;如果資料裡根本沒有,就補一份;如果資料正確但 AI 理解錯了,把那份文件寫得更清楚,或把一份長文件拆成幾份短的。
資料一定不會外流嗎?
沒有任何做法能保證百分之百。使用雲端模型時,提問內容和找到的段落會傳到模型服務方。能做的是:敏感資料不放進知識庫、選擇資料條款清楚的方案、按職位設定權限,並保留誰問了什麼的紀錄。
小結
企業 AI 知識庫的做法和費用,都由「資料放在哪裡」決定:資料不敏感、人少,先用 AI 工具內建功能;要多人共用和分權限,自己架設平台接雲端模型;資料不能出公司,才考慮本地模型。無論選哪種,最花功夫、也最值得先做的,都是把 30 份最常用的文件整理好,再用 20 條真實問題驗收。
