微软CEO纳德拉告诫企业：使用模型越频繁，就等于输送免费企业机密信息

微软CEO萨提亚·纳德拉（Satya Nadella）向所有拥抱人工智能（AI）的微软企业发出严厉警告，指出在享受AI红利的德拉同时，企业正面临严重的告诫隐性成本风险。

近日，企业纳德拉在X（原推特）平台发表题为《逆向信息悖论（The 使用送免Reverse Information Paradox）》的深度文章，剖析企业采用AI时的模型密信数据隐私陷阱，并直指当前前沿AI实验室在数据获取上的越频于输业机“双标”行为。

纳德拉撰文探讨企业采用AI时面临的繁等费企潜在陷阱。来源：X平台

从“信息悖论”到“逆向信息悖论”

纳德拉引用了1972年诺贝尔经济学奖得主肯尼斯·阿罗（Kenneth Arrow）的微软经典理论。阿罗曾描述过传统信息市场中的德拉著名悖论：“购买者在获得信息之前无法得知其价值，但一旦获得了信息，告诫他实际上就已经免费占有了它。企业”这意味着卖方为了出售知识，使用送免往往面临被迫免费赠送知识的模型密信风险。

然而，越频于输业机纳德拉认为，AI时代颠覆了这一逻辑，形成了“逆向信息悖论”：

• 买方风险：为了使用购买的AI产品，买方不得不主动输送知识。
• 双重付费：企业实际上在为智能支付两次费用——一次是金钱，另一次是更宝贵的私有知识。
• 性能代价：模型表现越出色，企业需要喂给它的私有数据就越多。

随着时间推移，这种不对称性加剧：卖方（AI提供商）对买方（企业用户）的了解日益加深，而买方对卖方的内部运作却知之甚少。

“智能尾气”：被忽视的知识泄露源

纳德拉强调，仅靠传统的数据保护手段已不足以应对这一挑战。AI模型的学习过程不仅依赖初始数据，更依赖于“智能尾气”（AI exhaust），包括：

1. 用户编写的提示词（Prompts）；
2. 智能体（Agent）所使用的工具链；
3. 模型出错时人类进行的纠正反馈。

这些经过交互产生的“尾气”包含了企业独有的逻辑与知识，是竞争对手无法通过购买获得的宝贵资产，但企业却在无意识中将其拱手相让。

更具讽刺意味的是，模型供应商一方面通过限制性条款防止客户对模型进行“蒸馏”，另一方面却保留从客户的使用和交互数据中进行学习的权利。

注：“蒸馏”原指将大模型能力压缩至轻量级模型的技术。目前，Anthropic、OpenAI和谷歌等头部AI公司均依赖互联网内容训练模型，并因此多次面临未经授权抓取内容的诉讼。

构建真正的“信任边界”

纳德拉指出，如果学习过程仅单向流动，经济价值将过度聚集在基础设施所有者手中，而非知识创造者手中。因此，企业必须建立严格的“信任边界”：

• 封闭循环：组织的数据、痕迹、评估、调整后的权重和记忆应在边界内共同积累。
• 绝对隔离：这是一个严密边界，未经许可，任何数据（包括智能“尾气”）均不得跨越。
• 核心诉求：企业应能在不放弃令其独一无二的核心知识的前提下使用AI模型。

言论背后的行业暗战

纳德拉此番言论的发布时机耐人寻味，外界普遍解读为针对Anthropic的隐晦批评。

• Anthropic“隐形代码”争议：此前有报道指出，Anthropic旗下的编程工具Claude Code嵌入了“隐形代码”。若用户启用网络代理，该工具会通过不可见修改系统提示词，秘密传输位置等信息。Anthropic随后回应称，这是今年3月启动的一项实验，旨在防止账户被转售商滥用及防范模型蒸馏。
• 马斯克的公开炮轰：今年2月，特斯拉CEO埃隆·马斯克（Elon Musk）曾在X平台批评Anthropic的数据收集方式，直言其“大规模窃取训练数据，并因此支付了数十亿美元的和解金”。

纳德拉的警告不仅是对技术伦理的探讨，更是对AI商业生态中数据主权归属的一次深刻反思。

(责任编辑：焦点)