近期，在西藏日喀则市定日县发生地震，灾情严重，令人深感痛心。然而，就在此时，少数人却企图利用AI技术散布虚假信息。这种行为令人愤慨。在救灾的关键时刻，全国人民都在关注灾区，这些人却故意制造混乱。这种行径绝不可接受。
定日地震灾情受关注
1月10日，西藏日喀则市定日县遭遇地震，消息传出后，社会各界高度关注灾情发展。人们普遍期待为受灾地区提供支援，各地救援队伍已做好出发准备。政府及公益组织均备好随时前往灾区救援，民众亦积极参与物资捐赠，体现了对灾区人民的深切同情。众多人士通过不同途径获取灾情详情，力求掌握灾区需求，以便提供最大限度的援助。
国内每逢自然灾害发生，民众均能团结一心，共同参与抗震救援工作。汶川、玉树等地震事件中，各地纷纷伸出援手。定日县地震亦唤起了类似的团结互助情怀。
AI造谣滋生
在当前这一特殊时期，令人惊讶的是，有人竟敢借助AI技术散布虚假信息。其中，大量谣言集中在虚构地震灾害场景，如那张描绘“小男孩被压在废墟下”的图片，实际上并非定日县地震的真实场景，却有人故意将其与地震联系起来进行传播。这种行为不仅误导了公众，还干扰了救灾行动。此类行为严重背离了社会道德，损害了抗震救灾的正面氛围。
网络平台上，此类谣言迅速扩散。传播速度之快，使得虚假的AI生成内容在短时间内便积累了众多浏览和转发，对社会造成了严重负面影响。
抖音发布治理公告
针对当前状况，抖音安全团队迅速作出反应，发布了关于“灾害期间AI生成内容不当使用”的治理公告。该公告彰显了抖音坚决抵制AI造假的立场。抖音平台对23652条与地震相关的虚假信息进行了严格处理，并发布了相关辟谣内容。这些措施有效限制了谣言的扩散，防止了大量民众受到错误信息的误导。
抖音，作为我国关键社交网络平台，用户众多，在信息传播领域具有显著影响力。其近期治理举措，对社交网络的整体健康发展树立了榜样。其他社交平台或许可借鉴此模式。
创作者的错误认知
抖音调查揭示，部分用户发布由AI生成的灾难图像时，持有不正确的观念。他们将其视为“艺术创作”，其意图在于“祈愿”。例如，某些用户认为，借助AI创造的强烈视觉冲击，能激发公众对灾区关注及祈福的意愿。
他们未能认识到，AI生成内容极易导致人们混淆真伪，这是一个关键问题。尤其在地震等紧急时刻，这类虚假图像可能误导公众。即便他们并无故意传播谣言的意图，但这样的行为客观上造成了谣言的恶劣影响。
平台规范细则
抖音强调在使用生成式人工智能技术时的相关规定。首先，发布者需对AI生成的内容进行明显标记，例如在图片或视频下方清晰注明为AI创作。其次，发布者需对内容产生的任何后果承担责任。此外，虚拟人亦需完成注册，其操作者必须进行实名验证。
平台严格禁止利用生成式人工智能生成并发布侵犯他人权益的内容，包括但不限于侵犯肖像权和知识产权。同时，禁止传播违反科学常识、虚假信息以及散布谣言。对于此类行为，平台将予以严厉处罚。在2023和2024年间，抖音已陆续发布了多份针对此问题的规范性公告。
造谣者受罚案例
以那张广为流传的“小男孩被埋”图片为例。该图于2024年11月18日首次发布，作者起初未提及地震，并称其为AI创作。随后，有网民如青海某网民，为吸引关注，将其与日喀则地震联系起来，造成视听混淆。最终，涉事者被当地警方依法行政拘留。此事件提醒广大网民，切勿传播虚假信息，更不应在灾害期间试图制造混乱。
针对如何有效遏制灾害期间AI造谣现象，您有何见解？期待您的积极参与和评论，同时，也欢迎您点赞并转发本篇文章。
