近年来,随着技术发展,AI(人工智能)换脸、拟声等以假乱真的程度越来越高,但同时,相关技术被滥用、被用于实施诈骗的情况不时发生。日前,某企业负责人因诈骗分子利用AI技术冒充好友,在10分钟内被骗走数百万元的案例冲上热搜,就是明证。
一些直播间利用当红明星的“脸”卖货,既是因为AI换脸技术可以实现形象实时替换,也是因为此举可以免费让“明星”代言,从而增加流量、提高销量。报道显示,购买AI实时换脸全套模型仅需3.5万元,这对于一些直播间而言,显然不是什么大成本。
需要正视的是,此类AI换脸技术应用于直播带货,可能涉嫌双重侵权。一来,若没有事先经过相关明星许可授权而利用其肖像直播盈利,涉嫌侵犯肖像权。根据我国民法典的规定,自然人享有肖像权,有权依法制作、使用、公开或者许可他人使用自己的肖像。任何组织或者个人不得利用信息技术手段伪造等方式侵害他人的肖像权。
二来,用AI技术更换明星的脸带货,会误导消费者。相关直播间并没有对AI换脸主播进行显著标识,而《互联网信息服务深度合成管理规定》明确,提供深度合成服务,可能导致公众混淆或者误认的,应当在合理位置、区域进行显著标识,向公众作出提示。
直播间用AI换脸技术让明星“代言”的苗头,应该引起重视。在这个问题上,相关平台负有不可推卸的责任。根据《互联网直播服务管理规定》,提供互联网直播服务,应当遵守法律法规,培育积极健康、向上向善的网络文化;落实主体责任,健全信息审核制度等。
新技术可能是流量利器,也可能是反噬利器。用《中国彩票手机客户端AppAPP》侵权的方式引流、牟利,早晚要付出代价。无论监管部门还是所涉明星,都不能放任如此乱象一再发生。