开放权重 AI 模型究竟是什么?这里问的不是上周占据科技版面的政策争论,而是底下那条更实际的问题:世上是否真有一种 AI,你可以直接下载、放在自己的电脑上运行,然后从此不用再付月费?
简短的答案是:有。较长的答案,是关于钱躲在哪里。
什么是开放权重 AI 模型?
开放权重 AI 模型,是指开发者把训练完成的参数(即「权重」)公开让任何人下载的模型。你可以放在自己的硬件上运行、检视它、改造它。它不是一个让你登录使用的聊天机器人,而是一台引擎,出厂时没有连车身一起给你。
所谓权重,本质上只是一个极大的数字文件。这些数字就是模型在训练过程中学到的全部内容。把权重交给别人,等于把一个已经完成的大脑交了出去。
以餐厅作比喻。封闭模型是一道菜:你点菜,厨房始终不对外开放,你按盘计钱。开放权重模型则是有人在门口把食谱和材料清单交给你。你确实掌握了做法,但你依然需要一个厨房、一个厨师,以及煤气。
有一个名词必须分清。开放权重不等于开放源代码。绝大部分发布只公开权重,训练数据与完整训练代码通常仍然保密。
开放权重模型和免费版聊天机器人有什么不同?
免费版聊天机器人是一个有用量上限的托管服务;开放权重模型是一个由你自己托管的文件。用免费聊天机器人,服务器、日志与开关掌握在供应商手上。用开放权重,这三样都归你,连电费和那位负责维护的同事也一并归你。
对老板而言,真正有分别的有三点:
--- 谁掌握你的数据。托管服务会把你的文字传送到供应商那边;放在自己机器上的模型,资料根本不会离开房间。
--- 谁有权改动它。托管模型可以按供应商的时间表更新或下架;已下载的模型三年后的行为与今天完全一样,因为它只是一个放在你硬盘上的文件。
--- 成本落在哪里。托管服务按使用量计费;自行托管无论你用不用都要每月付钱,因为硬件本来就在那里。
如果你想进一步了解「AI 跑在自己机器上」与「跑在别人的数据中心」这个分别,可参考我们关于本地 AI 的指南。
为什么开放权重模型在 2026 年重新成为新闻?
2026 年 7 月 27 日,Anthropic 发表立场文件,首席执行官 Dario Amodei 明确表示公司「从未主张禁止开放权重模型」,并指「不具备危险能力的开放权重模型是一种公共财」。这番话之所以成为新闻,是因为外界一直假设情况刚好相反。
Amodei 提出两项忧虑。第一,威权政府可能建立超越美国水平的模型用于军事或监控用途,而在这种情况下权重是否公开并不重要,因为最危险的模型本来就会在保密状态下训练。第二,恶意行为者可能滥用强大模型进行网络攻击或生物攻击。
他没有主张禁令,而是提出三项措施:打击工业规模的模型蒸馏行为、对开放与封闭模型一律实施强制安全测试,以及收紧芯片管制。
老板为什么要理一份政策文件?因为「有没有好的模型可以下载」既是技术问题,也是政治问题。如果你把日常流程建在一个下载回来的模型之上,授权条款与出口政策就成为你自己风险清单上的项目,而不再是别人的事。
而 2026 年的实际情况是:可下载这一层的水平确实相当高。MindStudio 对 DeepSeek V4 的评测,把它在代理式任务基准上的分数,与 GPT-5.5 及 Claude Opus 4.7 并列。Google 的 Gemma 4 以 Apache 2.0 授权发布;Mistral 大部分产品线与阿里巴巴 Qwen 系列不少模型同样采用 Apache 2.0。
自己运行一个开放权重模型,实际要花多少钱?
按每个 token 计算很便宜,但以中小企的用量计算,每月成本却很贵。一项公开分析指出,若与价格较低的开放权重 API 比较,单张 H100 GPU 的收支平衡点约为每月 57 亿个 token。若对手是每百万 token 约 5 美元的 GPT-5 级别 API,另一项估算把交叉点放在每月约 2.56 亿个 token,而且前提是 GPU 使用率长期维持在六至七成。
这些数字要换算成你自己的业务才有意义,所以直接换算一次。
一百万个 token 大约相当于 75 万个英文单词。一家香港零售商每月处理 2,000 次客户对话,每次约 1,500 个 token,总共约 300 万个 token。这只是较低那个交叉点的百分之一多一点,而相对较高的那个交叉点,比例甚至不足千分之一。
换句话说,一般中小企几乎永远不会达到「自己买硬件比租用服务更便宜」的用量。若你想看清 token 的计算方法,我们关于 AI token 的说明文章有完整推演。
不过有一个重要例外,关键在模型体积。NVIDIA Research 估算,在构成大部分代理式工作负载的重复而狭窄的任务上,运行一个 70 亿参数模型,在延迟、能耗与运算成本上比 700 亿至 1,750 亿参数模型便宜约 10 至 30 倍。体积较小的可下载模型在本地运行时,回应时间为 50 至 200 毫秒,而云端模型往往需要数百毫秒。Gartner 预期到 2027 年,企业对小型、专门任务模型的使用量将是大型模型的三倍。
所以诚实的说法不是「开放权重更便宜」,而是「一个小型、专门、可下载的模型,在某一项特定的高用量任务上可以便宜非常多」。
香港中小企可以合法商业使用这些模型吗?
大部分情况可以,但授权条款比基准分数重要得多。Apache 2.0 与 MIT 授权几乎没有附加条件地允许商业使用。Meta 的 Llama 4 社群授权虽然允许商业使用,却附带可接受使用政策、命名要求,以及一条超过即须另行议约的门槛。
你会遇到的三大授权类别:
--- Apache 2.0。几乎任何用途都可自由使用、修改与分发。Google Gemma 4、Mistral 大部分产品线与不少 Qwen 模型属于此类,是商业部署上法律确定性最高的选择。
--- MIT。同样宽松。DeepSeek-R1 与 Microsoft Phi 系列采用 MIT 授权。
--- 社群授权。Meta 的 Llama 4 社群授权允许商业使用,但任何衍生模型的名称必须以「Llama」开头,并须在产品文件中标示「Built with Llama」;月活跃用户超过 7 亿的商业使用,则须与 Meta 另行议定授权。
还有一点对香港经营者特别重要,就是数据所在地。「把模型权重放在自己机器上运行」与「调用该模型的托管 API」是两回事。DeepSeek 的托管 API 由中国运营,对受监管或跨境业务而言会引伸数据所在地的问题;但下载同一份开放权重自行托管,就完全避开了这一点。
无论你选哪条路,根据香港《个人资料(私隐)条例》,你依然是收集及处理个人资料的资料使用者,责任不会因为模型的授权条款而转移。以上属一般资讯而非法律意见,任何重要决定应交由专业顾问审视。
关于「免费 AI」,大家最常误解什么?
谈这个题目时,以下四个误解几乎每次都会出现,而每一个都让某些人付过真金白银。
误解一:开放权重等于免费。免费的是授权。GPU、电费、监控,以及晚上九点负责修好它的那个人,都不免费。要编的预算是整套技术栈,不是那个下载文件。
误解二:开放权重等于私密。只有在你自行托管的情况下才成立。若你透过别人的托管 API 调用一个开放权重模型,那与使用任何其他供应商的信任问题完全一样,因为你的文字依然离开了公司。
误解三:开放权重与开放源代码是同一件事。大部分发布只公开完成后的权重,训练数据与完整训练流程仍然保密。你可以运行和改造模型,却无法审核它是怎样被造出来的。
误解四:可以下载的一定是次等货。这个说法已经失效。独立评测者现时把最顶尖的可下载模型,与近期的前沿发布并列在代理式任务基准上。真正剩下的差距在于支援、整合与问责,而不是原始能力。
什么情况下,开放权重模型才适合中小企?
有三种情况,而「为了省下聊天机器人的月费」不在其中。开放权重真正发挥价值的时候,是数据绝对不可离开公司、某一项狭窄任务的用量极高,或者你需要一个不会在你脚下被改动或下架的模型。
一个具体例子。观塘一家 11 人的物流公司,每月处理约 4,000 张派货单,每张都是同事用手机拍的照片,上面有客户姓名、地址与手机号码。公司只需要抽取资料,完全不需要对话。这种情况很适合在一台放在公司的机器上跑一个小型可下载模型:任务狭窄、用量高,而且个人资料从不离开办公室。
同一家公司的两位销售同事,每天要撰写十几份中英文报价。这部分工作反而应该交给托管服务:用量微不足道、对质素要求高,而且没有人愿意为了报价写得好看而去维护一台服务器。
同一家公司,两个不同的正确答案。实际情况通常就是这样。
下载任何东西之前,先问自己五条问题:
--- 说出那一项任务。如果你无法用一句话描述它,你还未到选模型的阶段。
--- 计算每月 token 用量。把每月互动次数乘以约 1,500 个 token,再与上文的交叉点比较。
--- 把整套成本计清楚。硬件或云端实例、储存、监控,以及负责维护那位同事的工时。
--- 先读授权,才看分数。一个分数高两分但附带命名义务的模型,在商业上是较差的选择。
--- 写下负责人的名字。星期二早上它突然停止运作时,由谁负责?如果这一栏是空白的,就选托管服务。
结论
开放权重模型在 2026 年是一个真实的选项,而且比大多数老板想像的好得多。但它不是一条让你不用再为 AI 付钱的路。账单只是搬了位置:由一张你可以随时取消的月结单,搬到你无法取消的硬件与人力上。
对大部分香港中小企来说,合理的立场是混合式的。多变、低用量、需要判断力的工作,租用托管服务;某一项重复、高用量、涉及敏感资料而且长期不变的工序,才考虑小型可下载模型。逐项任务去决定,不要按立场去决定。
如果这整个题目仍然让你觉得是「有服务器房的人才需要烦」的事,那是合理的反应,不是你的不足。懂AI,更懂你 UD相伴,AI不冷
不确定哪条路适合你的公司?
大部分老板其实不需要一个关于开放权重的结论。他们需要知道的是:自己手上哪一项工序已经适合交给 AI,哪一项现阶段根本不值得碰。这正是 AI 体检要回答的问题,而我们会手把手教你,由第一次评估到真正上线运作,全程陪你走每一步。
本文由 UD AI 团队审阅。UD 已陪伴香港企业走过 28 年的科技路。