电脑配置报价，英雄联盟拉莫斯，阳光保险电话
原标题：号称用GPT-3开发的游戏，却活生生玩出了人性黑暗面
水木番 边策 发自 凹非寺
量子位 报道 | 公众号 QbitAI
那个“无所不能”的GPT-3，现在触及了人类道德的最底线。
2019年12月，美国犹他州初创公司 Latitude，推出了一款开拓性的在线游戏《人工智能地下城》(AI Dungeon)，灵感来源于经典游戏《龙与地下城》(Dungeons&Dragons)。
这款游戏一开始就用OenAI的GPT-3作为噱头。
玩家可以通过输入富有创造性的关键词，来创建冒险故事。
但是，没想到今年却活生生搞成了暗黑故事。
因为游戏竟出现了带有儿童色情的内容！
出现儿童色情内容
开始的画风是很正常，但游戏玩家玩着玩着，就开始采用一些很过分的词汇作为关键词输入。
输出的角色也就越来越暴力、色情，故事场景也越发离谱。
最近监控系统显示，一些玩家甚至通过游戏生成了涉及儿童性侵的故事。
这到底是道德的沦丧，还是人性的扭曲？
Latitude正面临着双重挑战
虽然Latitude拒绝透露有多少个故事包含性内容，但OpenAI说，AI Dungeon每天吸引着超过20,000名玩家。
上周有个AI Dungeon的玩家发布了一个安全漏洞，使游戏中生成的每个故事都可以公开访问。
他一下子就下载了四月份中四天内创建的数十万次冒险，分析了其中的18.8万个样本，发现其中31％包含性暗示的单词。
这种安全漏洞使一些玩家对Latitude审核内容的新方法气不打一处来。
更悲催的是，Latitude同时还面临OpenAI对其文本生成器进行更严格控制的挑战。
OpenAI发言人说，现在Latitude必须使用OpenAI的过滤技术。
目前，Latitude正在开始禁止曾使用带有儿童色情内容的玩家，OpenAI最近发出警告之后，Latitude也正在研究“必要的更改”。
正在整改
Latitude上周启用了新的审核系统，它采用了一种新的过滤器系统，想要防止GPT-3生成“未成年人的性内容” ，但在其用户群体中引发了大量抗议。
一个问题是它太灵敏了。
这个系统有时会禁止涉及儿童或例如“五岁”等短语相关的故事程序的生成。
另一个问题是它之前只管涉及成年人的虚构性爱作品，导致出现了现在的bug。
看来，未成年人的色情内容问题的解决的确不是那么容易。
去年有一段时间，玩家注意到Latitude试用过一个过滤器，会自动将出现的“强奸”一词替换为“尊重”，但目前这个功能已经被删除了。
Latitude在4月27日的公告声明中，强调了发布的测试系统重点是防止使用AI Dungeon创建儿童性虐待的内容。
而OpenAI的首席执行官Sam Altman在一份声明中说：“在某些情况下，内容调整的决策是困难的，但这个不是。这不是我们所有人想要的AI的未来。”
是的，的确不是我们想要的。
Latitude还在继续整改和调整。
但你觉得能完全控制现在的局面吗？
网友：GPT-3的“锅”，还是AI Dungeon的“锅”？
这一系列的迷惑操作在Latitude社区中炸开了锅。
本文地址：http://www.reviewcode.cn/youxikaifa/210403.html 转载请注明出处！
伍佰目录声明:本站部分文章来源于网络,版权属于原作者所有。如有转载或引用文章/图片涉及版权问题,请联系我们处理.我们将在第一时间删除！ 联系邮箱：tsk@qq.com
