第1观察丨莫让AI成为谣言“帮凶”

“某超一线男星在澳门输光10.3亿元”。近日，这样一则信息，在网络平台搅起千层浪，各种猜测纷至沓来，多名男星不得不紧急辟谣。

众说纷纭之时，公安网安部门出手了，最终查明，该信息为一男子用AI软件编造的谣言。

男子徐某强，为博取流量、谋取非法利益，利用AI软件的智慧生成功能，很轻松地就编造出“顶流明星被曝境外豪赌输光十亿身价引发舆论海啸”的谣言信息，并通过互联网平台对外发布，造成谣言迅速传播扩散。

行政拘留8日的处罚，算是为这场闹剧画上句点，但是一条毫无根据的信息，能够在短时间内掀起一场互联网上的“海啸”，真相疲于追赶的背后，“AI向恶”显露出几点特性：低门槛、易伪装、强传播。

一方面，AI加持，使得在网络上编造和传播谣言的成本变得更低，另一方面，算法编织易于传播的话题，让plus版谣言更能击穿人的心理。所有技术都存在两面性，都有“双刃剑”效应。如何用人类智慧驾驭人工智能，趋利避害地使用技术，是AI时代的重要课题。

一个积极的信号是，《人工智能生成合成内容标识办法》将从9月1日起施行，届时，使用AI生成内容，比如文本、图片、音频、视频、虚拟场景等，都必须在规定的位置添加足够明显的标识。

平台方面，也要加强审核，着力发展反谣言工具，用“魔法”打败“魔法”。
法律划界、平台担责，唯有构建起多元共治的治理生态，才能在享受技术红利的同时，有效防范技术被滥用的风险。

原标题：第1观察丨莫让AI成为谣言“帮凶”

编辑：田露军

校审：罗再芳

总值班：杨飞