實用文章 · 企業知識庫

企業 AI 知識庫怎麼做?
先決定資料放在哪裡。

新航線 ChartCourse AI · 2026 年 10 月 17 日 · 約 8 分鐘閱讀

「想做一個公司內部的 AI 知識庫,同事一問就知道產品規格和價格規則。」老闆提這個需求時,通常最先問三件事:要花多少錢?怎樣做?資料會不會外流?

這三個問題其實是連在一起的:資料放在哪裡,決定了用哪種做法;做法定了,費用的大頭才清楚。這篇按這個順序講,最後附一個上線前的測試方法。

先講清楚:企業 AI 知識庫是什麼

企業 AI 知識庫 = 一批整理好的公司資料 + 一個會先「查資料」再回答的 AI。同事提問時,系統先從資料裡找出相關段落,再交給 AI 組織成答案,並標出依據哪一份文件。技術上常叫做 RAG(檢索增強生成)。

所以決定效果的,主要不是用哪個 AI 模型,而是資料本身是否準確、是否最新。資料要怎樣整理,可以先看公司內部知識庫怎麼搭:從一個資料夾開始。

三種做法,差別在資料放哪裡

做法資料放在哪裡適合誰要注意
A. 用 AI 工具內建的「專案」或知識庫功能文件上傳到 AI 服務方的雲端幾個人用、資料不敏感、想一週內開始權限較粗;要先看清楚所用方案的資料條款
B. 自己架設知識庫平台,接雲端模型文件和索引放在公司電腦或伺服器;每次提問只把相關段落送給模型多人共用、要分權限、資料量較大要有人負責安裝、更新和備份
C. 自己架設平台,連模型也在本地執行全部留在公司內部資料很敏感,或規定資料不能出公司需要效能較好的電腦;本地模型的能力通常不如頂級雲端模型

做法 B、C 常見的開源平台有 Dify、MaxKB、Open WebUI 等;做法 A 則是各家 AI 工具的團隊方案內建功能。平台更新很快,選之前用你自己的資料試一次,比看功能表準。

「資料放本地」,要分三層看

  1. 原始文件:Word、Excel、PDF 放在哪裡。
  2. 索引:系統為了搜尋而建立的資料庫,放在哪裡。
  3. 提問時送出的內容:問題加上找到的段落,會送去哪個模型處理。

做法 B 的文件和索引都在本地,但每次提問仍會把相關段落送到雲端模型。很多中小企業最後用的就是這種「混合」做法:資料庫在自己手上,只有回答問題時用到的那幾段會送出去。

所以與其追求「全部本地」,更實際的做法是:證件、銀行資料、客戶個資這類敏感資料,不放進知識庫,或先脫敏再放。分級方法見哪些公司資料不能貼進 AI 工具。

費用由 4 部分組成

費用項目怎樣計說明
資料整理內部人手,或按範圍請人做通常是最花時間的一項,也最常被低估
工具或平台開源平台軟件本身免費;AI 工具的團隊方案按人數月費自己架設時,要算上電腦或伺服器的費用
模型用量按 token 計費,用多少付多少日常問答量不大時通常不高,可以先估範圍
維護每月固定花一點人手時間更新文件、檢查答錯的問題、管理權限

模型用量怎樣估,可以用AI 用量月費計算器算一個範圍。如果想請人搭建,作為參考,我們的 AI 工作台搭建包團隊版 HKD 9,800 起,包括最多 5 人使用的公司知識庫、1 個業務場景、資料分級和使用守則,以及交付後 2 週陪跑;模型用量另計,由你直接付給模型服務方。實際報價按資料量和範圍確定。

5 個步驟做出第一版

第 1 步:只選一類問題開始

例如「前線同事問產品規格和價格規則」。範圍越窄,越快看到效果,也越容易判斷答得對不對。

第 2 步:整理 30 到 50 份最常用的文件

每份寫清楚主題、適用範圍和更新日期,過期版本不放進去。Excel 類的資料先清一遍格式,做法見用 AI 清理 Excel 客戶表。

第 3 步:定好誰能看哪些資料

內部價格規則只給業務部,人事資料不放進去。先用資料夾分好,再對應到系統的權限設定。

第 4 步:用 20 條真實問題測試

從過去一個月同事真正問過的問題裡挑 20 條,逐條檢查答案。用下面這條指示,可以讓 AI 的回答更容易核對:

請只根據知識庫裡的資料回答。
回答格式:
1. 答案(不超過 5 句)
2. 依據:文件名稱和段落
3. 如果資料裡沒有,直接回答「知識庫中沒有這項資料」,不要推測。

問題:
(輸入問題)

評分只看三項:答案對不對、出處對不對、資料裡沒有時會不會老實說沒有。20 條裡能直接用的少於 16 條,先回頭補資料,不要急著擴大範圍。

第 5 步:指定維護人,每月看一次答錯的問題

價格、條款一改,維護人當天更新文件。每月把答錯或答不出的問題列出來,大多數時候補一份文件就能解決。

常見問題

一定要先買向量資料庫或伺服器嗎?

不一定。用 AI 工具內建的知識庫功能,不用自己準備伺服器;自己架設的平台多數也已內建檢索功能。中小企業與其先研究技術名詞,不如先把 30 份最常用的文件整理好,再決定用哪種做法。

知識庫和共用資料夾有什麼不同?

共用資料夾要自己找文件、自己讀;AI 知識庫會替你找出相關段落,整理成答案並標明出處。兩者用的是同一批資料,所以資料夾整理好了,接 AI 只是下一步。

AI 答錯了怎麼辦?

先看出處:如果引用的文件本身過期或寫錯,就更新文件;如果資料裡根本沒有,就補一份;如果資料正確但 AI 理解錯了,把那份文件寫得更清楚,或把一份長文件拆成幾份短的。

資料一定不會外流嗎?

沒有任何做法能保證百分之百。使用雲端模型時,提問內容和找到的段落會傳到模型服務方。能做的是:敏感資料不放進知識庫、選擇資料條款清楚的方案、按職位設定權限,並保留誰問了什麼的紀錄。

小結

企業 AI 知識庫的做法和費用,都由「資料放在哪裡」決定:資料不敏感、人少,先用 AI 工具內建功能;要多人共用和分權限,自己架設平台接雲端模型;資料不能出公司,才考慮本地模型。無論選哪種,最花功夫、也最值得先做的,都是把 30 份最常用的文件整理好,再用 20 條真實問題驗收。

想從一件具體的事開始?

告訴我們你最花時間的一項工作,我們先幫你判斷適不適合交給 AI、從哪一步做起。

諮詢方案 ↗看 AI 工作台搭建包 ↗