OpenAI无法“分类”足够

OpenAI停止了旨在区分人类和人工书写的工具。OpenAI 在一篇博客文章中宣布他们决定从 20 月 <> 日起停止其 AI 分类器。该企业表示，“我们正在努力整合反馈，目前正在研究更有用的文本来源技术。

随着OpenAI停止使用识别AI生成的文本的工具，OpenAI表示，它打算“开发和部署机制，使用户能够了解音频或视频内容是否由AI生成。但是，目前尚不清楚此类过程可能是什么。

OpenAI说：“我们正在努力整合反馈，目前正在研究更有效的文本来源技术，并承诺开发和部署机制，使用户能够了解音频或视频内容是否是人工智能生成的。

分类器从来都不够准确

OpenAI公开承认，分类器在识别AI生成的材料方面从未非常有效，并警告说，它可能会产生误报或被错误归类为AI生成的人类编写的语言。在添加禁用该程序的更新之前，OpenAI 表示分类器可以通过更多数据进行改进。

尽管这似乎是合乎逻辑的，但到目前为止，人工智能生成的文本具有一些可以一致检测到的显着特征或模式的假设在实践中并未得到真正支持。尽管一些生成的文本可能具有清晰的告诉，但由于主要语言模型之间的差异以及它们的发展速度，因此很难依赖这些告诉。

根据OpenAI的说法，AI分类器有一些局限性，例如对少于1个字符的文本不可靠，将人类创建的材料错误标记为由AI编写，以及在其训练数据之外表现不佳。

教育是一个对适当识别人工智能特别感兴趣的行业。自从聊天机器人在 11 月推出以来，教育工作者一直对学生使用 ChatGPT 创作论文表示担忧。

“我们认识到，识别人工智能编写的文本一直是教育工作者之间讨论的一个重要点，同样重要的是认识到人工智能生成的文本分类器在课堂上的局限性和影响，”该公司表示。