OpenAI研究实验室已经发布了文本生成的AI系统的完整版本，专家警告说，该系统可能用于恶意目的 。
该机构最初于今年2月发布了该系统GPT-2，但由于担心该程序的完整版本会被用于传播假新闻，垃圾邮件和虚假信息，因此拒绝了该程序的完整版本 。从那时起，它发布了更小，更简单的GPT-2版本，并研究了它们的接收情况 。其他人也复制了工作 。在本周的博客文章中，OpenAI现在表示“没有明显的滥用证据”，并已完全发布了该模型 。
GPT-2可以撰写虚假的新闻文章，故事，诗歌和代码
GPT-2是新一代文本生成系统的一部分，它们以最少的提示生成连贯的文本的能力给专家留下了深刻的印象 。该系统接受了从网络上抓取的800万个文本文档的培训，并且可以响应用户提供的文本片段 。例如，给它提供一个伪造的标题，它将撰写一个新闻故事;给它一首诗的第一行，它将提供一整节经文 。
确切地传达GPT-2的输出质量是很棘手的，但是该模型通常会产生令人信服的，令人信服的文字，这些文字通常可以使人看起来很聪明(尽管这并不是说GPT-2所做的事情涉及我们认为是认知的任何事情)。但是，在该系统上玩了足够长的时间，其局限性变得很明显 。它尤其遭受长期一致性的挑战;例如，在故事中始终使用字符的名称和属性，或者在新闻文章中使用单个主题 。
感受GPT-2的能力的最佳方法是自己尝试一下 。您可以在TalkToTransformer.com上访问Web版本，然后输入自己的提示 。(“变压器”是用于创建GPT-2及其同伴的机器学习体系结构的组成部分 。)
除了GPT-2的原始功能外，该模型的发布还值得关注，这是有关AI研究人员减轻其工作造成的损害的责任的持续辩论的一部分 。专家指出，对尖端AI工具的轻松访问可以使恶意行为者发动攻击 。例如，通过使用Deepfake制作复仇色情影片，我们已经看到了这种动态 。由于这种担忧，OpenAI限制了其模型的发布 。
【OpenAI发布了文本生成的AI 称它太危险了 无法共享】但是，并非所有人都对实验室的方法表示赞赏 。许多专家批评了这一决定，称该决定限制了其他人为减轻该模型的危害而进行的研究的数量，并且对人工智能的危险进行了不必要的大肆宣传 。
“这句话‘太危险了’被随便扔在这里没有很多的思想或实验的，”研究员Delip饶告诉濒临二月回来 。“我认为[OpenAI]花费的时间不足以证明它实际上是危险的 。”
推荐阅读
- 2个月的小猫一般多大
- CCleaner版本5.61：Top-Tool更新现在可供下载
- 埃及的由来
- 战国时期四大名将有哪些,战国时期4大名将
- 大型家禽 家禽有哪些
- 月子服如何选购 千万别买月子服
- 三星的专利申请：这就是Galaxy Fold 2的样子
- 几大洲几大洋分别是什么
- 代替别人签字后果