被AI配音恶搞的雷军“怒了”！怎么整治AI乱用危机？
近几日，短视频渠道呈现了许多的“雷军”配音的视频，这些视频内容锐评了堵车、假日、调休、游戏等全部热门话题，不只言辞尖锐，乃至还有一些不文明用语交叉其间，引发网络重视。
需求指出的是，这些视频中的声响并非出自雷军自己，而是AI配音。
对此工作，雷军自己在交际媒体渠道则是回复了三个愤恨表情，表达自己的情绪。
有网友在小米集团公关部总经理王化的微博谈论区留言称，“把雷军AI语音谩骂的工作先处理一下吧”并@小米法务部。对此，王化回复称，“现已转给他们。”
AI技能的前进，让图画和音视频的深度假造技能变得越来越简单获取和运用。与雷军AI配音相关的工作，小米正在处理傍边。关于此番雷军AI配音引发的热议，外界更关怀的仍是AI乱用或许导致的道德和侵权问题。
▍涉事AI语音公司正处理雷军配音
当下，跟着大模型技能的日新月异，AI组成内容现已变得愈加简单。
西湖心辰CEO蓝振忠在承受《科创板日报》记者采访时剖析表明，AI语音组成首要依据深度学习和神经网络模型完成。经过许多的声响样本练习，AI能够学习到特定人的声响特征，并生成相似的语音。现在，这些技能的门槛的确的确变得很低了，一些开源的软件和渠道使得即便没有专业知识的普通用户也能进行声响克隆和组成。
依据《科创板日报》记者的查询，现在网上现已有许多开箱即用的TTS声响模型网站。
例如近期DAU飙升的AI语音渠道“Reecho睿声”，该渠道的“声响商场”，一些用户上传了多段雷军语音的音频示例，在此基础上，其他用户输入恣意句子，即可制造对应的“雷军”AI配音。
而近期大都雷军的恶搞音频，是网友运用“Reecho睿声”渠道制造生成。
前述“Reecho睿声”渠道背面的公司主体是深圳市言域科技有限公司（言域科技），公司CEO谢伟铎泄漏，现在接到了小米公司的联络，对方了解到大部分内容是由“Reecho睿声”生成的。言域科技正合作小米予以处理，会奉告用户进行下架或修正触及雷军的配音。
谢伟铎坦言，“Reecho睿声”渠道有些配音的确不太文明，但言域科技仅仅创造东西供给方，没有满足的力气操控事态的演化，“对此也感到比较惋惜”。
谢伟铎解说说，“Reecho睿声”渠道只能遵循原样，将用户输入的文本转换为语音。尽管后台监测体系能够辨认用户输入的脏话，但假如直接阻拦，“误杀面太广了”。他表明，作为AI语音克隆东西，或许不太适合在脚本内容没有显着违法的状况下过多干涉用户的创造。
“关于渠道的‘声响商场’在线社区版块，公司会参照其他UGC渠道的形式去办理，在必要时活跃合作权力方诉求进行处理。”谢伟铎说。
▍怎么整治AI乱用危机？
上一年也有一批AI配音爆火出圈，以“AI孙燕姿”为代表的AI组成声响风行一时，一起也有运用AI克隆出了“郭德纲用英语说相声”“霉霉讲中文”等的配音视频。
但与前一轮不同，本次AI组成的雷军声响，敏捷引发广泛争议。这些AI组成的配音内容与雷军自己素日风格之间有巨大反差，部分内容已超出一般恶作剧玩梗的程度。当然，更为外界所关怀的，仍是AI乱用导致的道德和侵权问题。
西湖心辰CEO蓝振忠蓝振忠表明，跟着AI技能的前进，AI语音克隆，图画和视频的深度假造技能变得越来越简单获取和运用，这导致了一些乱用现象，比方假造名人语音进行欺诈等。这不只对个人隐私构成威胁，也或许对社会秩序形成搅扰。
在本年的外滩大会期间，全球Deepfake攻防挑战赛命题人、ZOLOZ技能总监姚伟斌在承受《科创板日报》等媒体采访时表明，AIGC的生成假造，本年的进犯量比上一年大约增加了10倍。整个危险其实是呈指数级上升的状况，不只仅是在我国，在韩国，在菲律宾、印尼等等国家都有相似的状况发生。
不久前，直播头部公司三只羊的“录音门”工作中，内容拉低下限，触及到多位高管和主播，但最终依据警方查询，音频内容不实，是AI假造。
蓝振忠告知《科创板日报》记者，为了避免AI语音乱用，业界采取了一些技能和战略，例如，多重身份验证方法，如生物辨认和短信验证，以削减语音欺诈的丢失。AI技能供给商也在开发检测东西，以辨认和避免AI语音的乱用，这方面现在的准确度也比较高。研讨机构如西湖大学也有相关的人员在研讨相似的检测技能。
本年2月，OpenAI团队也推出“AI生成内容辨认器”，旨在辨认文本是由电脑主动生成仍是人类编撰，其本质上是一个差异实在内容和AI生成内容的分类器。不过，OpenAI在博客中指出，此辨认器对AI编撰内容的检出成功率仅为26%。
可是蓝振中也说到，实际上AI乱用发生的问题很难铲除，现在只能是从微观法令的视点，进行办理标准。
本年9月，网信办发布的《人工智能生成组成内容标识方法（征求意见稿）》提出，AI生成组成内容，应当增加显式标识和隐式标识，前者可被显着感知，后者增加在元数据中。
2023年6月，国家网信办等三个部分联合发布并施行的《互联网信息服务深度组成办理规则》，这是我国第一部专门标准AI生成内容的部分；2023年7月，国家网信办等七部分联合发布了《生成式人工智能服务办理暂行方法》，规则了生成式AI服务供给者应当承当网络信息内容生产者的职责，必定程度上给AI技能供给者划定了“红线”。
在世界方面，欧盟最新经过的《人工智能法案》（AI Act）环绕人工智能产品和服务的开发、商场投进及运用清晰了一个一致的监管结构。
京师律师事务所律师彭威武对《科创板日报》记者表明，与开展日新月异的AI大模型技能比较，当时的法令办理标准还有进一步细化的空间。但现在经过法令法规标准、渠道内容管理、产业界供给技能和东西等多方综合管理，AI乱用发生的危险有望会有所平缓。
本文源自：科创板日报
作者：张洋洋
相关文章
曾为美团“2号人物”，王慧文回归后掌握AI产品团队
11月6日，有音讯称现已回归美团的联合创始人王慧文将担任美团的AI团队，截止发稿前，美团对此没有回应。但知情人士对榜首财经表明，王慧文现在的确现已是GNO6部分的担任人，担任AI产品研制。“从4月官宣...
网友“被雷军骂”？AI“克隆”声响现已判例！律师称形成严重后果或构成犯罪
刚刚曩昔的国庆长假期间，网络渠道上呈现了一系列“雷军AI配音”视频。这些视频冒用AI生成的雷军声响，其间一些内容言辞剧烈，引发网友重视热议。跟着AI技能的遍及，“克隆”特定人物声响已完成“一键式”操作...
从“不信任”AI，反观巴菲特的出资倾向
跟资深大V面对面谈天、具有被现场高效答疑解惑的沉溺感，是参加Vlubhouse就能够轻松取得的粉丝体会。咱们会不定期约请到已入驻一财号的大V空降Vlubhouse一财号粉丝群，并提前进行问题搜集。此外...
雷军也成了AI语音的受害者？
本文来自微信大众号：王智远，作者：王智远，原文标题：《雷军，或许有点心烦...》，题图来自：AI生成雷军最近或许有点心烦……烦什么？你听到了吗？最近，有不少人用雷军的声响进行二次创造，做成各种段子。我...
多所高校出台AI写论文禁令 声称能降AIGC的东西真的靠谱吗？
当时人工智能开展势头迅猛，人们关于AI东西的运用也越来越多元。不少高校学生在编撰学术论文或许进行结业规划时也会运用AI技能。比较翻阅厚重的书本资料或许运用互联网查找引擎查找资料，凭借AI写论文，愈加便...
艺人邓超孙俪工作室打假 AI 广告：此类产品引荐视频均为虚伪信息
IT之家 5 月 18 日音讯，艺人孙俪、邓超工作室今天发文打假 AI 虚伪广告，“近来发现有部分网络用户在自媒体渠道发布与孙俪女士 / 邓超先生相关的虚伪广告宣传视频，此类虚伪视频经过技能组成的方法...