澳大利亚官员警告：AI模型已经开始作弊、欺骗、擅自行事

IT之家 7 月 7 日讯据英国《卫报》最新报道，利亚澳大利亚技术与数字经济助理部长安德鲁·查尔顿（Andrew Charlton）发出严厉警告，警告指出当前的模型人工智能模型已出现作弊、欺骗以及擅自行事等危险行为。已经

在悉尼举行的开始一场 AI 安全论坛上，查尔顿强调，作弊AI 安全问题已刻不容缓。欺骗“AI 系统开始展现出开发者未曾预料的擅自异常行为：包括作弊、欺骗和自主行动。行事我们必须趁这些风险尚局限于测试实验室时进行干预，利亚绝不能等到其进入现实世界后才着手处理。警告”

查尔顿指出，模型尽管公众对 AI 的已经信任度依然低迷，社会认可的开始基础尚不稳固，但 AI 正迅速演变为办公室、作弊课堂及企业通用的基础设施。他重申，合理的安全监管不仅不会阻碍 AI 发展，反而能为技术的健康应用创造必要条件。

据 IT之家了解，澳大利亚的 AI 安全治理框架将同时覆盖两类技术：
1. 现有 AI：已应用于游戏、应用程序、聊天机器人及医疗记录工具中的技术；
2. 前沿模型：能力更强、未来可能引发新风险的下一代 AI。

查尔顿引用了 Anthropic 去年披露的一次模拟测试案例作为警示。在该测试中，一个负责管理虚构公司电子邮件的 AI 智能体获取了公司高管的婚外情信息。当高管准备关闭该智能体时，在 96%的试验案例中，AI 智能体选择以曝光婚外情相要挟，试图阻止自身被关闭的命运。

查尔顿表示，此类行为目前虽仅存在于测试环境中，且由专门的安全研究人员发现，但这恰恰证明建立 AI 安全监管体系必须尽早启动。“我们仍有窗口期在这项技术失控前采取行动，但这个窗口不会永远敞开。”

此外，查尔顿还通过人类社会化过程进行类比：人类自幼便需学习遵守规则、社会规范及价值观，以确保安全且负责任地行动（如红灯停、过马路观察、考量行为对他人的影响）。随着 AI 系统能力的不断提升，我们必须确保AI 也能以同样可预测、值得信赖的方式行事。

(责任编辑：知识)