数据能不能出国?
今天群里的讨论从一个很技术的问题开始——"本地大模型到底跑不跑得动"——最后落到一个新西兰专业服务业绕不开的现实:客户的数据,能不能发给海外的 AI?
起点:本地部署的硬件现实
有成员想自建本地大模型,一上来就被泼了冷水。真正的瓶颈,和大多数人以为的不一样:
"最开始建本地大模型,以为瓶颈是内存大小。最后会发现,瓶颈是内存带宽。" —— 一树空山
"我最早也是用 Mac 运行本地模型,能运行,但是输出 token 非常慢,无法用于生产。后来换了 AMD 的 Max 395 128GB。" —— 群友
也有人算了笔更务实的账:与其堆硬件,不如"买张 5090 试试,qwen3 就能跑,剩下的钱拿去订阅 Codex";何况"搭本地 AI 服务器,电费也是一笔开销"。一位注册房屋估价师听完的结论很有代表性——"看样子还是买 Plan、充 API 吧。"
如果故事到这里就结束,那本地部署只是个性价比问题。但真正的分歧,在下一个问题上。
真正的分歧:数据能不能出境
"说到这个,Claude business 和 Codex business 的 privacy policy 你们有研究过吗?或者有哪个律师朋友看过?" —— 胡小奕
这一问,把讨论从"性能"拉到了"合规"。对涉及个人信息(PII)的行业——估价、法律、会计、医疗——这不是选择题:
"因为牵涉到 data 发到海外的问题,很容易就触发了 PII 隐私这条,所以基本上有涉及到 PII 的 API 调用都不能用。" —— 胡小奕
估价师的回应道出了大多数人的无奈:政策我们只能接受,不接受就只能不用,唯一的权利是拿它和别家 AI 的政策对比——"但毕竟质量还是第一。"每天点一堆"确认",点的其实是把数据交出去的授权。
新西兰的合规底线
讨论转到本地法律时,有成员抬出了那条绕不开的线:
"新西兰《Privacy Act 2020》……比澳大利亚好一点点。用的时候两个模型设置不一样,一个是缺省就认可可以用于训练,另一个是可以选;但都说是放云端 30 天删除。" —— 韦红松
换句话说:"云端 30 天删除"不等于"数据没出境"。对受《Privacy Act 2020》约束的业务,数据一旦离开新西兰、进了别人的训练管道,风险就已经发生了。
三条现实路径
好在讨论没有停在焦虑上。群友们给出了三条正在被认真考虑的路:
数据不出国界,从根上规避 PII 出境。代价是前面说的硬件与电费成本,以及本地模型效果弱云端一档——但对内部文档、翻译、摘要类任务足够。
有成员翻了 AWS 文档:AWS Bedrock 已在新西兰提供本地推理方案,数据留在境内。用受监管的云服务商规避出境风险,是本地部署之外的另一条路。
俱乐部给客户的方案:软件先用公开数据训练、把流程跑通,再接入本地大模型处理敏感数据。把"能出境的"和"不能出境的"分开处理。
尾声还有个彩蛋:有成员分享了梁文锋 DeepSeek 投资者交流会的纪要,其中"开源、极致成本优化、押注本地算力"的判断,和今天群里"本地部署"的现实焦虑,隔着一层却奇妙地呼应——当把 AI 跑在自己手里成为刚需,成本和自主可控就成了绕不开的主线。