守好“AI应用”底线,让科技向善而行

赵本山小品、郭德纲相声、范伟采访,纷纷一口英伦腔……连日来,多个中国明星开口说英语的视频热传。不仅如此,憨豆先生、泰勒·斯威夫特、特朗普等一众外国名人政要也说起了中文,有的甚至唱起了“东北rap”。如此混搭形成强烈反差,迅速吸引大量围观。

图片

网络视频截图

  这些场景的出现,源于AI技术的广泛应用。还是那张熟悉的脸,却说着风格迥异的语言,摆着颇为有梗的动作,喜剧效果瞬间拉满。对此,有人好奇心爆棚,制作变脸变声视频求个点赞、图个乐呵;有人投机心作祟,定制类似视频为卖课卖货引流;有人利益心驱使,做起了AI换声视频的生意,“视频单价3元/秒”“最少30秒,最长5分钟”。一时之间,短视频平台上刮起了“换脸换声风”。

  科学技术是推动社会进步的有力杠杆。人们追求“好玩、有趣”本无可厚非,但不分人群、不设限制的技术运用,也存在不少安全隐患。一方面,擅自使用“AI换声换脸”本就侵犯他人私益和公共信息安全,有的粉丝将AI换脸技术运用到明星身上,在朋友圈发布“与明星同框”的视频,令人“傻傻分不清楚”,殊不知这一行为实则侵犯了他人的肖像权、隐私权以及明星作品的信息网络传播权和录音录像制作者权。有的不法分子利用此技术,引发了女子地铁照被“一键脱衣”等事件,造成极大的社会负面影响。另一方面,“AI换脸”业已成为电信诈骗的高发形式,合成一段10秒的换脸视频只需要一两分钟,技术的发展使得视频聊天的实时变脸不是难事。不法分子套着“AI面具”去网恋、裸聊,大搞“杀猪盘”甚至进行犯罪,使得小学生为救父母被骗7万多、7秒视频连线被骗30万元、小伙为帮朋友10分钟被骗430万元等事件屡屡发生。不禁感慨,以前说无图无真相,有图也不一定有真相,现在轮到视频也不代表真相了。

  技术本没有对错,使用者的应用赋予了技术道德价值。AI技术用之为善可以造福社会,不当滥用则会造成社会风险和损害。我们期待看到AI技术带来更多的惊喜,同时也希望有合理的规范来指导技术应用。在源头防控层面,要进一步加强公民个人信息保护,加大对公民信息尤其是生物特征等隐私信息的技术、司法保护力度;在技术应用层面,要进一步普及利用数字水印鉴伪等技术,特别是对AI生成的视频,需标注不可消除的“AI生成”水印字样,同时要拓展AI在“大数据寻人”等方面的应用空间,让技术真正成为人类的好助手;在法律制度层面,则要进一步完善人工智能等领域相关法律法规,引导“科技向善”,更好地为人类、为社会服务;在社会群体层面,我们应当采取包容审慎的态度,理性看待、正确对待,在保护好自身安全的同时,积极拥抱技术变革带来的新未来。



分享一个国内免费使用GPT4.0的AI智能问答工具:智答专家。支持AI文本、作图、语音、Sora视频。无需魔法,亲测有效,点击访问

标签:AI技术 ,AI换声,AI换脸
来源:南方网
发布时间:2023-11-06 14:05