加强对AI技术的监管，不仅关乎个人的“脸面”，而且关乎行业的“体面”

在3月5日的政协小组讨论上，全国政协委员靳东回应了AI换脸导致的诈骗问题。他说：“一些喜欢我影视剧的观众，被AI换脸视频骗得很惨，这个性质非常恶劣。希望能建立更好的规则。”而近日，全国人大代表雷军也提交了关于加强“AI换脸拟声”违法侵权重灾区治理的建议。

靳东和雷军在各自领域都取得了很大成绩，他们虽然分属不同领域，但有一个共同的身份——AI换脸拟声“受害者”。

前几年，有诈骗团伙专门利用靳东的名气和影响力，通过在网上虚构名人、明星身份，比如用变声软件把自己声音修改成明星声音等手段，诱导被害人与“假明星”建立情感联系，再以投资、公益、恋爱等各种理由索要钱款。雷军同样被“AI换脸拟声”害得很惨：去年国庆节期间，“雷军AI配音”相关话题的视频内容播放量超过1.2亿，因为部分视频包含“恶意谩骂”内容，不少网友调侃称“被雷军整整骂了7天”。

伴随AI技术的飞速发展，丰富的应用场景令人目不暇接，正在日益深远地改变大家的工作方式和生活方式。与此同时，有了AI技术的加持，各种网络信息也变得更加真伪难辨。借助AI生成工具，有人利用深度伪造技术生成图片、录音、视频，以低质内容混淆视听、获取流量，更有甚者，利用AI谣言招摇撞骗从事违法勾当。

根据《互联网信息服务深度合成管理规定》，任何组织和个人不得利用深度合成服务制作、复制、发布、传播法律、行政法规禁止的信息，不得利用深度合成服务从事危害国家安全和利益、损害国家形象、侵害社会公共利益、扰乱经济和社会秩序、侵犯他人合法权益等法律、行政法规禁止的活动。《生成式人工智能服务管理暂行办法》则明确规定，国家坚持发展和安全并重、促进创新和依法治理相结合的原则，采取有效措施鼓励生成式人工智能创新发展，对生成式人工智能服务实行包容审慎和分类分级监管。

加强对AI技术的监管，建立数据安全与隐私保护法规，明确数据的使用规则和责任，不仅关乎个人的“脸面”，而且关乎行业的“体面”。靳东和雷军深受AI谣言所害，暴露了行业内部的一些问题：粗放式管理的模式中，某些AI生成软件几乎对网络谣言“不设防”；由于缺少必要的审核机制，一些内容平台对网络谣言后知后觉甚至不知不觉，因此造成网络谣言大规模扩散。

改变这样的局面，不仅需要加强法治监管，同时需要相关各方积极履行职责。对于AI生成软件来说，有必要对内容和关键词进行审核，守住生成式内容的第一关；对于内容平台来说，需要加强日常巡查、畅通举报机制，确保及时阻断问题内容传播。

在一个科技改变生活的时代，必须用健全的法律法规为技术应用构筑起安全防火墙。只有强化各方主体责任，才能防止AI技术跑偏，夯实以人为本、智能向善的人工智能发展生态。

红星新闻特约评论员 赵志疆

编辑 赵瑜