四川射洪女子用AI批量炮制虚假文案被罚！南都曾起底产业链

7月11日，川射产业据“四川网警”官方公众号通报，洪女遂宁射洪市公安机关近日成功侦破一起利用人工智能技术编造并传播网络谣言的量炮链案件。犯罪嫌疑人董某（女）为谋取非法利益，制虚在近一年的假文时间里，借助AI工具大规模生成各类博眼球的案被虚假文案，并在多个网络社群及自媒体平台进行广泛传播。罚南目前，起底董某已被射洪公安机关依法予以行政处罚，川射产业并被责令立即删除所有不实信息。洪女

相关谣言内容已被官方辟谣。量炮链

警方郑重提示：网络空间并非法外之地，制虚AI技术绝不能成为造谣传谣的假文“挡箭牌”或“隐身衣”。广大网民应严守法律底线，案被自觉遵守网络法律法规，罚南做到不造谣、不信谣、不传谣，坚持理性、科学用网，共同维护清朗有序的网络环境。

此前，南都记者曾深入调查利用AI造谣牟利的乱象。近年来，此类黑产链条愈发猖獗。记者实测发现，网络上充斥着大量免费可用的“AI写作神器”和“视频生成器”。只需输入简单指令，涉及汛情、火灾等敏感领域的虚假文案即可瞬间生成；甚至能模仿官方口吻，炮制逼真的“警情通报”；普通景区照片经AI处理后，也能被篡改成“桥梁断裂”等惊悚视频。

南都此前相关报道。

暨南大学网络空间安全学院教授夏志华在接受南都记者采访时指出，面对海量AI生成内容，为有效应对系统性风险，必须构建“个人-平台-技术-监管”四维共治体系：
* 个人层面：提升媒介素养，主动核验可疑信息，从源头切断传播链；
* 平台层面：承担核心枢纽责任，部署AI检测系统，落实生成内容强制标识，健全“技术筛查+人工复核+用户举报”机制，并对造假账号实施信用惩戒；
* 技术层面：社区应研发高泛化性的鉴伪模型，公开共享前沿技术成果；
* 监管层面：完善立法以严惩AI造假行为，严厉打击跨境虚假信息犯罪。

采写：南都N视频记者 彭雨欣

(责任编辑：知识)