返回部落格

BYOK 與本機 AI 模型用於小說寫作:成本、掌控與隱私

了解在為小說寫作選擇 AI 設定時,託管點數、自備 API 金鑰、OpenAI 相容端點與本機 Ollama 模型有何不同。

NTNovelKnow Team
閱讀約 5 分鐘

BYOK 是指你連接自己的供應商金鑰或端點,而託管模型則使用平台管理的供應商。 正確的選擇取決於誰支付模型費用、請求會傳送到哪裡、你需要哪些模型,以及你願意維護多少設定。

託管模型與 BYOK 是不同的取捨

設定方式誰支付模型供應商費用?主要優勢主要責任
託管模型平台,透過託管點數支付最快完成設定追蹤方案限制與可用模型
BYOK 端點你直接支付供應商可選擇供應商與模型保護金鑰並留意供應商帳單
本機 Ollama你的本機電腦推論留在本機並掌控執行環境安裝、更新並提供足夠硬體

在做出成本決策前,請先確認最新的定價與供應商條款。Token 價格、模型存取權與限制會變動;不要將部落格文章當成帳單合約。

連接供應商前該檢查的事項

  1. 確認端點與應用程式支援的介面相容。
  2. 使用權限盡可能最小,且設有消費上限的金鑰。
  3. 先以簡短請求測試,再傳送完整手稿脈絡。
  4. 確認供應商實際回傳的模型名稱與上下文視窗。
  5. 閱讀供應商針對你帳戶層級的資料保留與訓練條款。
  6. 如果曾在日誌、截圖或客服訊息中分享過金鑰,請移除或輪換金鑰。

NovelKnow 支援託管模型,以及相容 OpenAI 風格端點的自訂供應商與本機 Ollama 設定。供應商設定可用來測試連線並同步可用模型;實際選項會依目前部署而異。

隱私是資料流的問題

在傳送場景之前,請確認:

What is sent: selected prose, relevant Codex entries, prompt instructions, and generation context.
Where it goes: the connected provider or local runtime.
Who controls retention: the provider's current policy and your account settings.
What remains in NovelKnow: project data, provider configuration, and usage records covered by the app's privacy policy.

不要假設「本機模型」代表工作流程的每個部分都在本機執行,或「BYOK」代表供應商不會保留請求。請針對你選擇的設定,確認實際路由與條款。

長篇專案的實用設定

快速進行第一次工作階段時,可使用託管模型;當你需要特定模型或直接計費時,可使用 BYOK 供應商;當你的硬體與品質需求讓本機端點值得使用時,再使用本機端點。將手稿中穩定不變的事實保留在寫作工作區,但每次請求只傳送所需脈絡。

針對敏感素材,請先用虛構名稱與短段落測試工作流程。在使用未發表作品之前,先確認輸出內容、日誌、供應商儀表板與刪除控制項。

常見問題

BYOK 能讓 AI 使用完全免費嗎?

它能避開平台的託管點數費用,但所連接的供應商可能會針對請求收費。本機推論也有硬體與電力成本。

本機模型一定對隱私比較好嗎?

它可以縮短手稿經過的路徑,但前提是執行環境與周邊應用程式都在本機且經過安全設定。請確認實際的網路路由。

我應該每次都把整本小說傳給請求嗎?

不應該。請傳送場景目標、相關事實與必要脈絡。較小且有意識的脈絡更容易檢視,也可以減少意外洩漏。

把這篇指南用到你的下一場戲

在 NovelKnow 中一起管理大綱、人物設定與正文。從一個場景開始,審閱每次 AI 建議後再決定是否保留。

我們用分析 cookie 了解哪些頁面在幫寫作者找到我們。

絕不涉及你的稿件 —— 寫作工作區內的頁面不做任何統計。 隱私政策