ChatGPT 如何能够生成类似人类的响应以及它的可靠性如何

工具软件2年前 (2023)发布 AI观察员

176 0 0

随着全世界的网民开始发现 ChatGPT 的潜力，了解是什么让 ChatGPT 运转起来变得势在必行。它是如何训练的，它是如何在不进行常规浏览的情况下如此权威地告诉我们我们想知道的？你能信赖它吗？让我们找出来。

ChatGPT 为何如此健谈？工作原理概述

要了解 ChatGPT 的工作原理，必须从它是什么以及它的组成部分开始。

ChatGPT 中的“GPT”代表Generative Pre-trained Transformer——一种适用于语言处理、理解给定上下文中的用户查询并生成响应的神经网络。

这些神经网络模仿大脑及其在学习新事物和解决问题时形成的神经通路。然后为该结构提供大量数据，这些数据随后成为其知识数据集，范围从书籍到文章再到万维网。

当你给 ChatGPT 一组词时，它可以接受提示，通过其数据库查找相关信息，然后使用其强大的架构和复杂的算法来生成类似人类的响应。

它将获取您的文本输入，将其分解为单个单词，对其进行分析，并为所有可能的结果生成概率分布。然后它选择最有可能的一组单词作为它的响应。该过程重复多次，并基于统计抽样方法，可以为每个查询生成新颖的响应。这就是为什么对于同一个查询，响应往往略有不同，即使问题的症结可能是相同的。根据您选择的单词、句法和主题，它也会有所不同。

作为 OpenAI 开发的语言模型家族，GPT 模型是当今最大的模型之一，并且已经针对各种语言处理任务进行了改进和微调，包括文本生成、翻译和查询响应。

ChatGPT 在语言处理模型的第三次迭代 GPT-3 上运行，而集成的 Bing 版本使用 GPT-4，该模型的最新迭代。

ChatGPT 训练模型

ChatGPT 的关键组成部分之一是它的训练模型。要识别对话模式并实施它们，ChatGPT 需要了解对话的一般运作方式。

它的大部分培训涉及了解用户如何在网络上进行交互。ChatGPT 的架构接受了多种对话类型的训练：

以对话形式在人与人之间不断来回的对话。
一次涉及一位用户发言的对话（轮流）。
目标更明确的对话，例如涉及解决问题或学习新事物的对话。

Reddit、Quora 和 Stack Overflow 等社区论坛包含各种主题和用户交互，是这方面的完美培训场所。ChatGPT 还能够从过去的对话以及您在当前会话中提供的输入中学习，这有助于它提供更好的未来响应。它还讲笑话。

ChatGPT 可能的响应类型

ChatGPT 机器人旨在适应人类对话，为此，它具有比我们目前所见更先进的功能。诸如文本生成、翻译和简单的问答之类的事情——我们的语音助手经常发现这些具有挑战性——对于 ChatGPT 来说是轻而易举的事。

ChatGPT 将与您交谈、分析和总结文本、解释和建议，甚至根据您的用词选择告诉您您的感受，并相应地调整其回复。它还写古怪的青少年诗歌。你的新 AI 朋友的所有气质。

但出于多种原因，您仍然不想完全依赖它。

ChatGPT 可靠吗？

ChatGPT 并不知道这一切。事实上，直到 2021 年 9 月，它才接受可用信息的培训。因此这标志着它的官方知识截止。尽管它与世界各地用户的对话继续为其学习做出贡献，但它无法提供权威的明确答案，因为这些答案本身并不构成其训练数据集，而且会告诉你很多。

它也不能避免事实错误。这是因为它的数据库包括整个互联网，而互联网并不总是真理的宝库。事实上，它的答案与事实相去甚远，甚至接近于伪科学的情况屡见不鲜。因此可以肯定地说，您可能无法始终保证 ChatGPT 的完全准确性。

偏见是另一个限制。所有 AI 模型在其训练数据中往往都存在固有的偏见，并且像 ChatGPT 这样的 AI 聊天机器人生成具有性别、种族或其他偏见元素的响应并不少见。这些事情不可避免地会导致母公司采取严格的自我审查措施，从而阻碍畅通无阻的对话。但这并不是什么新鲜事。有头脑的用户知道偏见不能轻易根除。这样做意味着什么？

除了偏见，隐私是房间里的另一头大象。ChatGPT 的训练集由我们输入的所有数据组成，现在永远是 ChatGPT 的一部分。在线用户可能无意中做出的任何贡献都不再在他们的控制范围内，并且也可能以秘密方式使用。

ChatGPT 绝对是我们为类人 AI 对话者提供的最好的工具。但是，与黑猩猩理解莎士比亚相比，它仍然无法培养个性或常识。尽管这只是时间问题，而不是是否会发生。