關於 AI，幾乎每個老闆都有一個根深蒂固的想法：要用 AI，就必須把公司資料上傳到別人的伺服器。客戶名單、報價單、員工薪酬紀錄，統統交到一個你永遠看不見的雲端。在過去，這個想法大致正確。但在 2026 年，它已經過時了。新一代 AI 模型可以完全在一部普通手提電腦上運行，資料一步都不用離開你的辦公室。
什麼是本地 AI？
本地 AI（Local AI）指直接在你自己的裝置上運行人工智能模型，例如手提電腦、桌面電腦或公司伺服器，而不是把問題傳送到 ChatGPT 之類的雲端服務。模型下載一次，儲存在你的機器裡，之後處理的所有內容都留在那部機器上。
用一個比喻：雲端 AI 像叫外賣，方便、味道好，但廚房是別人的，你點過什麼菜，對方一清二楚。本地 AI 則是自己的廚房，煮什麼、用什麼材料，只有你知道。
技術本質上，本地模型與你熟悉的聊天機械人是同一類東西，都是大型語言模型。唯一的分別是它住在哪裡：住在你擁有的硬件上，門鎖在你手中。
本地 AI 如何運作？
本地 AI 的運作只有三步：下載一個開放模型檔案，安裝一個免費程式來運行它，然後像用普通聊天機械人一樣跟它對話。模型檔案包含全部知識，程式負責把你的問題交給模型。設定完成後，連上網都不需要。
關鍵在於模型檔案。Google、Meta、Mistral 等公司會發布開放權重模型，即任何人都可以免費下載的 AI 模型，檔案大小一般由 2GB 至 20GB 不等。
運行工具同樣容易上手，最流行的有兩個：
--- Ollama：免費工具，一個指令就能下載並運行模型，適合略懂電腦的用戶。
--- LM Studio：免費桌面應用程式，介面就是一個熟悉的聊天視窗，專為從未接觸過指令的人設計。
安裝其中一個，選一個模型，二十分鐘後你就擁有一個私人 AI 助理，在飛機上、電梯裡、甚至斷網的日子都照常工作。
為什麼 2026 年本地 AI 突然變得實用？
本地 AI 在 2026 年變得實用，是因為模型大幅縮小之餘，能力沒有同步下降。最好的例子是 Google DeepMind 於 2026 年 6 月 3 日發布的 Gemma 4 12B：它能讀文字、圖像、音訊和影片，卻只需一部 16GB 記憶體的普通手提電腦就能運行。
過去幾年，本地模型只是技術愛好者的玩具，跑得慢、記性差，答案質素明顯不如雲端版本。這個差距現在急速收窄。
據 VentureBeat 報道，Gemma 4 12B 可以在一部典型的 16GB 企業手提電腦上完整分析音訊和影片，壓縮版本只佔約 7GB 儲存空間。The New Stack 則指出，它的測試成績接近體積大一倍以上的模型。它以 Apache 2.0 授權發布，即企業可以免費作商業用途。
市場資金也朝同一方向走。主打私隱的 AI 平台 Venice AI 在 2026 年 7 月完成 6,500 萬美元 A 輪融資，晉身獨角獸。當技術與資金指向同一處，趨勢就已成形。
本地 AI 對中小企有什麼實際好處？
本地 AI 為中小企帶來四項具體好處：資料完全私密、沒有隨用量增加的月費、離線照常運作，以及不受跨境網絡限制影響。對於須遵守《個人資料（私隱）條例》的香港公司而言，單是私隱一項已值得認真考慮。
一、資料永遠不離開公司。員工把客戶合約貼進公共聊天機械人的一刻，內容已傳到海外伺服器。用本地模型，合約就在它本來所在的那部電腦上處理。對診所、律師行、會計師樓、保險經紀和地產代理來說，這是「應該沒問題」與「物理上不可能外洩」的分別。
二、沒有愈用愈貴的帳單。雲端 AI 按用戶或用量收費，本地模型的成本只是電費。如果你的團隊每天要總結大量文件，省下的錢每月累積。
三、斷網照樣工作。颱風日網絡不穩、飛往外地參展、倉庫收訊差，本地模型一律照常運作。
四、過境不受影響。不少香港企業兩地營運，員工慣用的西方雲端工具在內地可能無法穩定使用。放在自己手提電腦上的模型，在中環和深圳表現完全一樣。
本地 AI 有什麼限制？
本地 AI 的能力不及最頂尖的雲端模型，需要一部較新的電腦，維護責任也落在你身上。一個 120 億參數的本地模型已相當出色，但處理複雜推理、超長文件和專門任務時，雲端旗艦模型仍然明顯較強。
三個取捨要心中有數：
--- 能力上限。寫一封日常電郵、總結一次會議，好的本地模型與雲端幾乎沒有分別；但要分析一份複雜合約或撰寫五十頁報告，雲端模型仍然穩勝。
--- 硬件門檻。運行一個像樣的模型大約需要 16GB 記憶體。近兩年購買的商務手提電腦大多合格，2018 年的舊機就會很吃力。
--- 沒有人替你更新。雲端模型每晚悄悄進步，本地模型則停留在你下載那一刻，直到你主動換新版本。公司裡要有人負責這件事。
對大多數公司來說，最實際的答案是混合使用：涉及敏感資料的工作交給本地 AI，不涉密而需要深度思考的工作交給雲端。
香港中小企如何開始使用本地 AI？
最快的起步方法：在一部較新的手提電腦上安裝 LM Studio，下載一個小型開放模型（例如 Gemma），用兩星期在真實但低風險的工作上試用。總成本是零，設定時間不足一小時，完全不需要技術背景。
一個合理的試行計劃如下：
--- 第一星期：安裝與試玩。把 LM Studio 裝在辦公室最新的一部電腦上，下載一個推薦模型，讓兩位同事用它草擬回覆、總結文件、中英互譯。
--- 第二星期：交給它敏感工作。這才是本地 AI 的真正價值：把你絕不會貼進公共聊天機械人的內容交給它，例如薪酬討論、客戶糾紛、供應商報價。
--- 然後作決定。質素滿意就擴展到更多電腦；不滿意，你損失的只是一小時的設定時間。
一個提醒：本地 AI 跟雲端 AI 一樣會出錯。任何要交給客戶或監管機構的內容，都應保留人手覆核。
關於本地 AI 的常見誤解
最常見的三個誤解是：本地 AI 需要編程知識、只適合大企業、免費模型不能商用。三個都不成立：現代工具點按即用，普通手提電腦已足夠，而 Apache 2.0 一類開放授權明文允許商業使用。
「我需要 IT 部門。」不需要。LM Studio 的安裝方式與普通桌面軟件無異。你懂得安裝打印機，就懂得安裝本地 AI。
「免費一定質素差。」Google、Meta、Mistral 發布開放模型是策略選擇，不是做善事。處理日常工作時，質素與付費雲端服務相當接近。
「商業使用不合法。」使用前應核對授權條款，但主流開放模型採用的正是為商業用途而設的寬鬆授權。Gemma 4 12B 使用 Apache 2.0，是軟件世界中對企業最友善的授權之一。
「用本地 AI 就自動符合私隱條例。」不是自動的。本地處理消除了風險最高的一步，即資料傳送到第三方伺服器，但那部電腦本身的存取權限，你仍然要管好。
結語：私密的 AI 已經是現實選項
本地 AI 把企業採用 AI 的最大顧慮「我不想資料放在別人的伺服器上」變成一個已解決的問題。在 2026 年，一個免費模型在中價手提電腦上處理草擬、總結和翻譯的質素，已達到兩年前需要付費雲端訂閱才有的水平。
問題不再是私密 AI 是否可行，而是你應該先把哪些工作流程交給它。建議由你守得最緊的那批文件開始，因為那正是本地 AI 最強的地方。
科技愈冷，愈需要有人與你同行。懂AI，更懂你 UD相伴，AI不冷。
踏出下一步
不確定本地 AI、雲端 AI 還是混合方案最適合你的業務？UD 深耕香港科技行業 28 年，由評估你的資料私隱需要，到安裝第一個 AI 助理，我們手把手教你完成每一步。
