OpenAI发布AI classifier可以识别文章是否为人工智能编写
2023-02-13
2279 0OpenAI发布AI classifier新的人工智能分类器,它用于指示文本是否为人工智能编写。
OpenAI官网:https://openai.com/blog/new-ai-classifier-for-indicating-ai-written-text/
OpenAI AI classifier官方描述
我们正在推出一个经过训练的分类器,可以区分 AI 编写的文本和人类编写的文本。
我们已经训练了一个分类器来区分人类编写的文本和来自各种提供商的 AI 编写的文本。 虽然不可能可靠地检测所有人工智能编写的文本,但我们相信好的分类器可以为人工智能生成的文本是由人类编写的虚假声明提供缓解措施:例如,运行自动错误信息活动,使用人工智能工具进行学术不诚实,以及 将 AI 聊天机器人定位为人类。
我们的分类器并不完全可靠。 在我们对英语文本“挑战集”的评估中,我们的分类器正确地将 26% 的 AI 编写的文本(真阳性)识别为“可能是 AI 编写的”,同时错误地将 9% 的人类编写的文本标记为 AI 编写的 时间(误报)。 我们的分类器的可靠性通常会随着输入文本长度的增加而提高。 与我们之前发布的分类器相比,这个新的分类器在来自更新的 AI 系统的文本上的可靠性要高得多。
我们正在公开提供此分类器,以获取有关此类不完善工具是否有用的反馈。 我们在检测 AI 生成的文本方面的工作将继续,我们希望在未来分享改进的方法。
什么是AI classifier?
Classifier 在机器学习和人工智能领域中是一个常用的术语,指的是一种用于将数据分类或归类为一个或多个预定义类别的模型或算法。分类器是在带有已知类标签的标记数据集上训练的。分类器的目标是从输入数据学习到类标签的映射,以便能够准确预测新的、未知的样例的类标签。
OpenAI的 AI 分类器是一种使用人工智能技术,特别是机器学习技术,进行数据分类的模型或算法。这种分类器可以根据输入数据的特征,将数据归类为多个预定义的类别。OpenAI 的 AI 分类器可以用于解决各种分类任务,例如图像分类、语音识别、自然语言处理等。在训练过程中,分类器会学习如何识别输入数据中的关键特征,从而进行准确的分类。
使用ChatGPT生成的文本测试AI classifier
ai-text-classifier测试工具地址:https://platform.openai.com/ai-text-classifier
我向ChatGPT询问了什么是ai classifier,它似乎还不知道OpenAI发布的新的工具。然后我用它回答我的文本去AI classifier页面做测试,鉴别是人类写的还是人工智能写的。
因为它要求我必须输入1000字,否则会提示:Please enter at least 1,000 characters.。所以我就把内容重复复制进去,最后得出的结论是:The classifier considers the text to be likely AI-generated.
是的它的判断是正确的。
我觉得这项功能真是ChatGPT的克星,可以鉴别文章是否为人工智能编写~自媒体的文章要小心了~
您可能感兴趣: