什么是Chat GPT?ChatGPT 背后的技术

最新资讯2年前 (2023)发布 AI观察员
276 0 0

什么是聊天 GPT? 

“你好!我是 ChatGPT,OpenAI 开发的大型语言模型(LLM)。我是一个人工智能语言模型,它使用深度学习来理解和生成对用户查询的自然语言响应。我的目的是与用户进行自然语言对话,并对他们的问题提供有用且信息丰富的回答。” ~ 聊天GPT

聊天机器人根据用户提示生成响应。ChatGPT 已被用于从帮助家庭作业到写诗的所有方面。微软最近确认延长与 OpenAI 的合作伙伴关系,并已投资 10B 美元。

ChatGPT 已从 GPT-3.5 系列中的一个模型进行了微调。它接受了各种数据的训练,包括书籍、文章和对话,以理解各种主题和背景。它使用机器学习来生成对文本提示的类似人类的响应。它可用于为聊天机器人或其他自然语言处理应用程序提供动力。

什么是Chat GPT?ChatGPT 背后的技术阅读我们最新的 AI 时事通讯

Chat GPT-3 的工作原理是在海量文本数据集上预训练深度神经网络,然后针对特定任务对其进行微调,例如回答问题或生成文本。该网络包含一系列相互连接的层或“转换器块”,它们处理输入文本并为输出生成预测。

ChatGPT 背后的技术

该模型使用一种称为人类反馈强化学习 (RLHF) 的方法进行训练。培训过程涉及使用监督学习微调的初始模型,人类培训师同时扮演用户和人工智能助手的角色。

这些培训师获得了模型生成的建议,以帮助他们制定回应。生成的对话数据集与 InstructGPT 数据集相结合,并转换为对话格式。

为了创建强化学习的奖励模型,研究人员需要通过让人类训练员对模型生成的不同反应进行排序来收集比较数据。他们随机选择了一条模型编写的消息,并抽取了几个备选的完成方式,然后由人类培训师对其进行排名。

使用这些奖励模型,使用近端策略优化对模型进行微调,并执行此过程的多次迭代。

什么是Chat GPT?ChatGPT 背后的技术
资料来源: https: //openai.com/blog/chatgpt

ChatGPT 统计数据

  • ChatGPT 推出后,OpenAI 的估值达到290 亿美元。
  • 在推出一周内,ChatGPT 获得了100 万用户。
  • ChatGPT在推出的第一个月就突破了5700 万月活跃用户。
  • 据报道,OpenAI在人工智能模型的单次训练上花费了1200 万美元。
  • 将 ChatGPT 整合到其他软件中,20,000 字文本的成本约为 1 美分,图像的成本约为 2 美分。
  • 微软最近对 OpenAI 进行了第三次投资,投资 100 亿美元。2019 年,该公司向 OpenAI 投资了 10 亿美元,并于 2021 年进行了再投资。
  • OpenAI 最近向投资者推介的预计今年收入将达到 2 亿美元,到 2024 年将达到 10 亿美元。
  • OpenAI 推出了 20 美元的试点订阅价格,仅限受邀者,承诺更快响应、优先访问新功能和改进,并在高峰时段访问。
  • 出现了多个假冒的 ChatGPT 应用程序,包括“ ChatGPT Chat GPT AI With GPT-3 ”应用程序,该应用程序在美国获得了超过 12,000 条正面评价,相当于 4.6 分(满分 5 分),在印度获得了超过 500 条评论,具有可靠的评价5 分中的 4.4 分。
© 版权声明

相关文章

天猫U特购  京东优惠购        京东优惠    天猫优惠