中新网10月29日电 据“公安部网安局”微信公众号消息,随着AI生成技术的普及,只需简单输入文字指令,就能生成以假乱真的图像、视频,这不仅让谣言传播门槛大幅降低,更让不少人在“猎奇”“博流量”的驱使下,触碰法律与道德的红线。近日,山东威海网安部门查获两起通过AI编造、传播网络谣言的违法行为。
案例一:近日,威海网民张某为提升账号关注度,博取流量、牟取私利,使用某AI工具编造了“在监狱直播带货”图片的谣言信息,并发布在某互联网平台,引发大量网民关注和讨论,扰乱公共秩序。

案例二:近日,在广东台风期间,威海网民迟某为博取眼球、吸引流量,编造“广东阳江两所教学楼因台风受损”虚假灾情视频画面,在某短视频平台发布,误导大量网民关注,严重扰乱社会公共秩序,引发恐慌,造成了不良社会影响。

公安机关依法给予张某和迟某行政处罚。
法律责任
根据《中华人民共和国治安管理处罚法》第二十五条的规定,散布谣言,谎报险情、疫情、警情或者以其他方法故意扰乱公共秩序的,处以五日以上十日以下拘留,可以并处五百元以下罚款;情节较轻的,处五日以下拘留或者五百元以下罚款。
风险隐患
通过类似案件看,一些AI谣言的背后已形成分工明确的灰色产业链。其具备“低成本量产”的特性,有资料显示通过AI单日最高可生成4000至7000篇虚假文章,成本仅为传统造谣的1%。AI谣言带来的风险隐患确实值得高度警惕,其风险隐患主要体现在:
一是与传统谣言相比,AI谣言因其技术特性,危害性呈指数级放大:
二是具有高仿真与强迷惑性,生成的文字、图片、音视频内容逼真,普通网民难以分辨。
三是进化与迭代能力强,AI谣言甚至能针对辟谣信息快速生成新版本进行反驳或迭代,形成“打地鼠”式的动态对抗,让治理防不胜防。
如何预防
作为信息接收者,可以通过以下方式识别潜在的AI谣言:
查源头:警惕那些没有明确作者、来源模糊或伪装成“网友投稿”“内部消息”的内容。可靠的信息通常有正规的新闻机构或官方信源背书。
看细节:对于图片和视频,仔细观察是否存在AI生成的典型痕迹,例如人物手指数量异常、光影效果不自然、视频口型与声音不同步或背景模糊扭曲等。
验逻辑:判断内容是否存在明显的事实错误或逻辑矛盾,比如时间线错乱(用未来的数据描述过去的事件)或地理信息错误。
用工具:善用权威辟谣平台进行查证,同时可以关注公安部网安局发布的相关警示信息。
63741
06852
2025-10-29 15:44:45
86301
36175
2025-10-29 15:44:45
97562
18437
2025-10-29 15:44:45
02695
72586
2025-10-29 15:44:45
40269
07369
2025-10-29 15:44:45
26075
30952
2025-10-29 15:44:45
06518
54063
2025-10-29 15:44:45
06591
07523
2025-10-29 15:44:45
35924
79045
2025-10-29 15:44:45
90682
72980
2025-10-29 15:44:45
49382
90368
2025-10-29 15:44:45
05381
02635
2025-10-29 15:44:45
06517
07942
2025-10-29 15:44:45
84695
21674
2025-10-29 15:44:45
35841
17826
2025-10-29 15:44:45
14072
51874
2025-10-29 15:44:45
28036
53947
2025-10-29 15:44:45
63725
02597
2025-10-29 15:44:45
89640
29758
2025-10-29 15:44:45
87125
62790
2025-10-29 15:44:45
64187
34879
2025-10-29 15:44:45
14703
60824
2025-10-29 15:44:45
56917
05764
2025-10-29 15:44:45
31596
57298
2025-10-29 15:44:45
27859
76453
2025-10-29 15:44:45
57602
50361
2025-10-29 15:44:45
35816
47051
2025-10-29 15:44:45
35967
47921
2025-10-29 15:44:45
27610
07564
2025-10-29 15:44:45
26375
19468
2025-10-29 15:44:45
35409
27908
2025-10-29 15:44:45
94057
46972
2025-10-29 15:44:45
29165
32701
2025-10-29 15:44:45
74395
68902
2025-10-29 15:44:45
03467
18254
2025-10-29 15:44:45
97801
10926
2025-10-29 15:44:45