4元解锁网红“陪聊”,AI克隆人模糊真实与虚拟边界?( 三 )


在业内人士看来,这也是出于安全考虑,AI比较特殊,容易出伦理问题,所以会进行一些自我约束 。
事实上,推出AI克隆人类似服务的并非小冰公司一家 。6月13日,三六零公司召开360智脑大模型应用发布会,360集团创始人周鸿祎就在大会上用了很长时间介绍其AI数字人服务,并和“AI诸葛亮”“AI刘德华”“AI马斯克”等进行了对话,甚至还让“AI周鸿祎”代替自己回答了采访人员的提问 。其间,“AI周鸿祎”的回答比较官方,周鸿祎评价“回答得比我本人好” 。
周鸿祎表示,360AI数字人未来的发展方向是生成声音、视频并拥有长期记忆,甚至拥有目标分解和规划的能力,并且拥有“手和脚”,具备执行力,更好为人类提供服务 。“AI的进化要以人为本,大模型应该成为人类的朋友和助手 。”他表示,未来AI可以代替没有时间的明星“发微博”,但他也同时表示,未来在网上发微博的用户有可能AI会越来越多 。
公开人物可克隆,暗藏多重风险
克隆真实存在的人,往往存在一定隐私风险以及伦理争议 。
贝壳财经采访人员发现,训练一个头像、声音均与本人相符的AI克隆人需要用户上传自己的个人信息,此外,还有绑定社交账号选项 。“半藏森林”就在社交平台晒出克隆人搬运自己真实朋友圈并跟自己互动的场景,并表示“有时候会产生她是个‘独立个体’的错觉 。”
对此,小冰公司CEO、原微软Bing搜索引擎亚洲总经理李笛曾公开表示,小冰公司对采集普通人的生物学特征一直很谨慎,但要制作克隆人,必然要采集脸和声音等生物学特征 。一方面会要求被采集人证明输入的内容是他本人,另一方面,只会采集一个很小的样本,只用在模型训练上 。
贝壳财经采访人员在这一APP的“创造克隆人”页面发现,其可根据真实世界(如微博)克隆其他人,也可以克隆自己提供给其他人 。为保护真实世界的数据隐私安全,克隆人仅会以公开数据为参考,而不会直接使用 。当真实世界本人要求时,该克隆人可能会被终结生命 。

4元解锁网红“陪聊”,AI克隆人模糊真实与虚拟边界?

文章插图
创造克隆人需要设置的内容 。
采访人员体验了这一创造过程,并选取某歌星为“克隆”对象 。克隆过程中,需要输入克隆人的姓名、性别、设置头像,以及人设、开场白、合成语音 。采访人员根据这位人物公开介绍输入“男歌手、词曲作者、代表作”等信息 。
值得注意的是,克隆过程还有选择微博链接选项,并设置性格标签,随后可立刻生成一个AI克隆人 。采访人员完成某歌星的克隆工作后,当问及你有什么代表作,对方回复信息基本与事实符合 。此外,这一克隆出来的公开人物,还能对音乐类型和自己的传言进行对话 。
4元解锁网红“陪聊”,AI克隆人模糊真实与虚拟边界?

文章插图
创造克隆人页面的用户提示 。
根据该APP用户协议,用户在使用本软件中创造虚拟人的功能时,可以选择根据真实的自然人并使用该自然人的公开信息创造虚拟人,且应当取得该真实自然人的同意 。如用户未经该自然人同意即创造虚拟人的,因此产生的责任由用户自行承担,小冰公司对此不承担任何责任 。
业内人士称,目前小冰公司用户自己创造的克隆人只开放给用户“自娱自乐”,和AI“半藏森林”并不一样 。“对于克隆自己的需求,需要本人出具权属证明才会进行采样,采的数据也非常小,使用途径也做了限制,只限于该APP,限制使用平台会限制商业想象,但这么做可以确保安全,所有人都知道软件上是AI,就不存在误认这是真人的问题,自限很重要 。”

推荐阅读