守好“AI应用”底线，让科技向善而行

赵本山小品、郭德纲相声、范伟采访，纷纷一口英伦腔……连日来，多个中国明星开口说英语的视频热传。不仅如此，憨豆先生、泰勒·斯威夫特、特朗普等一众外国名人政要也说起了中文，有的甚至唱起了“东北rap”。如此混搭形成强烈反差，迅速吸引大量围观。

网络视频截图

　　这些场景的出现，源于AI技术的广泛应用。还是那张熟悉的脸，却说着风格迥异的语言，摆着颇为有梗的动作，喜剧效果瞬间拉满。对此，有人好奇心爆棚，制作变脸变声视频求个点赞、图个乐呵；有人投机心作祟，定制类似视频为卖课卖货引流；有人利益心驱使，做起了AI换声视频的生意，“视频单价3元/秒”“最少30秒，最长5分钟”。一时之间，短视频平台上刮起了“换脸换声风”。

　　科学技术是推动社会进步的有力杠杆。人们追求“好玩、有趣”本无可厚非，但不分人群、不设限制的技术运用，也存在不少安全隐患。一方面，擅自使用“AI换声换脸”本就侵犯他人私益和公共信息安全，有的粉丝将AI换脸技术运用到明星身上，在朋友圈发布“与明星同框”的视频，令人“傻傻分不清楚”，殊不知这一行为实则侵犯了他人的肖像权、隐私权以及明星作品的信息网络传播权和录音录像制作者权。有的不法分子利用此技术，引发了女子地铁照被“一键脱衣”等事件，造成极大的社会负面影响。另一方面，“AI换脸”业已成为电信诈骗的高发形式，合成一段10秒的换脸视频只需要一两分钟，技术的发展使得视频聊天的实时变脸不是难事。不法分子套着“AI面具”去网恋、裸聊，大搞“杀猪盘”甚至进行犯罪，使得小学生为救父母被骗7万多、7秒视频连线被骗30万元、小伙为帮朋友10分钟被骗430万元等事件屡屡发生。不禁感慨，以前说无图无真相，有图也不一定有真相，现在轮到视频也不代表真相了。

　　技术本没有对错，使用者的应用赋予了技术道德价值。AI技术用之为善可以造福社会，不当滥用则会造成社会风险和损害。我们期待看到AI技术带来更多的惊喜，同时也希望有合理的规范来指导技术应用。在源头防控层面，要进一步加强公民个人信息保护，加大对公民信息尤其是生物特征等隐私信息的技术、司法保护力度；在技术应用层面，要进一步普及利用数字水印鉴伪等技术，特别是对AI生成的视频，需标注不可消除的“AI生成”水印字样，同时要拓展AI在“大数据寻人”等方面的应用空间，让技术真正成为人类的好助手；在法律制度层面，则要进一步完善人工智能等领域相关法律法规，引导“科技向善”，更好地为人类、为社会服务；在社会群体层面，我们应当采取包容审慎的态度，理性看待、正确对待，在保护好自身安全的同时，积极拥抱技术变革带来的新未来。

分享一个国内免费使用GPT4.0的AI智能问答工具：智答专家。支持AI文本、作图、语音、Sora视频。无需魔法，亲测有效，点击访问

标签：AI技术 ,AI换声,AI换脸
来源：南方网
发布时间：2023-11-06 14:05