OpenAI 宣布,它现在允许第三方开发人员通过 API 将 ChatGPT 集成到他们的应用程序和服务中,这样做比使用其现有语言模型要便宜得多。该公司正在制作 Whisper,这是一种由人工智能驱动的语音转文本模型,可通过 API 使用,并对其开发人员服务条款进行了一些重要更改。
OpenAI 表示,其 ChatGPT API 不仅可用于创建人工智能聊天界面——尽管它还强调了几家已将其用于该目的的公司,包括本周早些时候宣布的 Snap 的 My AI功能。该公司表示,其名为 gpt-3.5-turbo 的新模型系列是“许多非聊天用例的最佳模型”。
值得注意的是,该模型可能与 Bing 使用的模型不同,微软称之为“新的下一代 OpenAI 大型语言模型”,它比 ChatGPT 和 GPT“更快、更准确、更强大”- 3.5. 然而,考虑到该公司在 OpenAI 上投入的资金,它能够获得普通开发人员无法获得的技术也就不足为奇了。微软还在Bing 上大量使用自己的技术。
OpenAI 以 0.002 美元的价格提供 1,000 个代币,并表示“比我们现有的 GPT-3.5 模型便宜 10 倍”,这在一定程度上要归功于“一系列系统范围的优化”。虽然 1,000 看起来很多,但值得注意的是,发送一段文本供 API 响应可能会花费多个令牌。(“标记”是系统将句子和单词分解成的文本块,以预测接下来应该输出什么文本。)
根据OpenAI 的文档,“ChatGPT 很棒!” 有六个标记——它的 API 将它分解为“Chat”、“G”、“PT”、“is”、“great”和“!”。该公司提供了一种工具来检查解释一串文本需要多少标记,并表示一般的经验法则是英语中“一个标记通常对应于 ~4 个字符”。
该公司表示,如果开发人员通过 API 运行大量数据,他们还将能够获得专用的 ChatGPT 实例。它的帖子说这样做可以让你更好地控制你正在使用的模型,你希望它响应请求需要多长时间,以及与机器人的对话可以持续多长时间。
虽然 ChatGPT 可能会获得最多的关注,但 OpenAI 还宣布了另一个新的 Whisper API,即语音到文本模型。该公司表示,你可以用它来转录或翻译音频,费用为每分钟 0.006 美元。从技术上讲,Whisper 模型是开源的,因此您无需支付任何费用即可在自己的硬件上运行它。但是,OpenAI 可能可以访问更强大的硬件,因此如果您正在寻找快速周转或需要在手机等低功率设备上进行转录,则使用 API 可能是最佳选择。
OpenAI 还宣布了一些政策变更,据称这些变更是基于开发人员的反馈。一个大公司表示,除非客户明确同意这种用法,否则它将不再使用通过 API 提交的数据来训练其模型。
换句话说,它正在从一个选择退出系统变成一个选择加入系统。这一变化可能有助于缓解一些人对将专有信息放入机器人的担忧,因为一些公司已经完全禁止员工使用该技术。如果它是从用户输入中学习,那么输入商业机密将不是一个好主意,因为它总是有可能将这些数据吐回给其他人。
该公司还表示,它正在努力提高其正常运行时间,并且其“工程团队的首要任务现在是生产用例的稳定性。”
虽然一些开发人员已经想出了在他们的应用程序中包含聊天服务的解决方法——包括使用 OpenAI 的常规 GPT API,该 API 已经可用了一段时间——但官方 ChatGPT API 的引入感觉就像闸门打开的那一刻。虽然有很多公司都在开发自己的 AI 聊天机器人模型,但对于大多数开发人员来说,这类事情是完全遥不可及的。现在,他们将能够只使用 OpenAI 的技术。