BYOK 與本機 AI 模型用於小說寫作:成本、掌控與隱私
了解在為小說寫作選擇 AI 設定時,託管點數、自備 API 金鑰、OpenAI 相容端點與本機 Ollama 模型有何不同。
BYOK 是指你連接自己的供應商金鑰或端點,而託管模型則使用平台管理的供應商。 正確的選擇取決於誰支付模型費用、請求會傳送到哪裡、你需要哪些模型,以及你願意維護多少設定。
託管模型與 BYOK 是不同的取捨
| 設定方式 | 誰支付模型供應商費用? | 主要優勢 | 主要責任 |
|---|---|---|---|
| 託管模型 | 平台,透過託管點數支付 | 最快完成設定 | 追蹤方案限制與可用模型 |
| BYOK 端點 | 你直接支付供應商 | 可選擇供應商與模型 | 保護金鑰並留意供應商帳單 |
| 本機 Ollama | 你的本機電腦 | 推論留在本機並掌控執行環境 | 安裝、更新並提供足夠硬體 |
在做出成本決策前,請先確認最新的定價與供應商條款。Token 價格、模型存取權與限制會變動;不要將部落格文章當成帳單合約。
連接供應商前該檢查的事項
- 確認端點與應用程式支援的介面相容。
- 使用權限盡可能最小,且設有消費上限的金鑰。
- 先以簡短請求測試,再傳送完整手稿脈絡。
- 確認供應商實際回傳的模型名稱與上下文視窗。
- 閱讀供應商針對你帳戶層級的資料保留與訓練條款。
- 如果曾在日誌、截圖或客服訊息中分享過金鑰,請移除或輪換金鑰。
NovelKnow 支援託管模型,以及相容 OpenAI 風格端點的自訂供應商與本機 Ollama 設定。供應商設定可用來測試連線並同步可用模型;實際選項會依目前部署而異。
隱私是資料流的問題
在傳送場景之前,請確認:
What is sent: selected prose, relevant Codex entries, prompt instructions, and generation context.
Where it goes: the connected provider or local runtime.
Who controls retention: the provider's current policy and your account settings.
What remains in NovelKnow: project data, provider configuration, and usage records covered by the app's privacy policy.
不要假設「本機模型」代表工作流程的每個部分都在本機執行,或「BYOK」代表供應商不會保留請求。請針對你選擇的設定,確認實際路由與條款。
長篇專案的實用設定
快速進行第一次工作階段時,可使用託管模型;當你需要特定模型或直接計費時,可使用 BYOK 供應商;當你的硬體與品質需求讓本機端點值得使用時,再使用本機端點。將手稿中穩定不變的事實保留在寫作工作區,但每次請求只傳送所需脈絡。
針對敏感素材,請先用虛構名稱與短段落測試工作流程。在使用未發表作品之前,先確認輸出內容、日誌、供應商儀表板與刪除控制項。
常見問題
BYOK 能讓 AI 使用完全免費嗎?
它能避開平台的託管點數費用,但所連接的供應商可能會針對請求收費。本機推論也有硬體與電力成本。
本機模型一定對隱私比較好嗎?
它可以縮短手稿經過的路徑,但前提是執行環境與周邊應用程式都在本機且經過安全設定。請確認實際的網路路由。
我應該每次都把整本小說傳給請求嗎?
不應該。請傳送場景目標、相關事實與必要脈絡。較小且有意識的脈絡更容易檢視,也可以減少意外洩漏。
把這篇指南用到你的下一場戲
在 NovelKnow 中一起管理大綱、人物設定與正文。從一個場景開始,審閱每次 AI 建議後再決定是否保留。