人工智能过于强大 开发者称无法向公众发布

科技qqw212 2019-02-15 收藏 0 评论 0

北京时间2月15日报道,人工智能非营利组织OpenAI近日开发出了一种非常擅长编写文本的人工智能,它可以写小说,还能发布假新闻或在社交媒体上发帖子。你所要做的只是提供主题或写出开头的第一句话,然后人工智能将通过尝试编写类似人类的文本来完成剩下的工作。

OpenAI决定保守其背后的技术秘密,因为他们担心这种技术会被用来编写高质量的假新闻。

OpenAI研发人员当地时间2月14日在一篇博客文章中写道:“由于我们担心有人恶意应用该技术,所以我们不会发布这一经过训练的(AI)模型。”

与其他AI计算系统相比,这种名为GPT-2的人工智能只需获得一个简短的文字提示,就能写出“前所未有的高质量”文本。例如,人工智能可以写出大量虚构的故事。它还可以完成家庭作业。

尽管结果并不总是有意义,但人工智能的书写内容在50%的情况下看起来非常像人类所写,非常自然。

OpenAI模拟撰写的小说故事

那么该人工智能技术是如何工作的呢?OpenAI在其博客中解释说:“GPT-2的训练目标很简单:通过给定文本中的所有前面单词来预测下一个单词。”为了预测下一个单词,人工智能接受训练,学习Reddit用户发布的800万个网页数据并模拟写作。

因此,该人工智能系统也可以根据你给它的提示来改变自己的写作风格。例如,如果你输入英国左翼作家乔治·奥威尔(George Orwell)的科幻小说《一九八四》的第一行,系统就会继续编写余下的文本,就像编写反乌托邦小说一样。

该人工智能还擅长写新闻,并且不管其是真的或是假的。给它一个新闻文章风格的写作提示,AI就能令人信服地充实其余部分。

OpenAI模拟编写的新闻报道

OpenAI还获得了特斯拉CEO马斯克的支持。基于安全考虑,该公司决定对GPT-2的计算编码保密。他们担心该人工智能会落入坏人之手,在网络上制造骗局,在社交媒体上发布虚假帖子,大范围发送垃圾邮件。

当然,同样的技术也有潜在的好处。想象一下人工智能写作助手、听起来更自然的聊天机器人、更好的语言翻译机。但目前,OpenAI决定只提供一种规模较小的基于GPT-2的计算模型,供公众试用。但不会公布其训练代码或建模数据。

OpenAI的政策主管杰克·克拉克(Jack Clark)在推特上表示:“我们需要更好的政策来应对日益变动的技术。我们还没有准备好迎接这个东西。”

OpenAI在其博客中补充道,随着时间的推移,研究团体需要制定出关于人工智能技术应该如何公开的规范。为了防止潜在的滥用,这家研究公司还建议政府介入,考虑扩大监控人工智能技术影响和传播的方式。(作者/良弼)


全部评论 0

qqw212 1篇文章

热门推荐