如果您的 PC 由相对较新的 Nvidia 显卡供电，您可以尝试该公司最新的 AI 工具，称为 Chat with RTX。它为 Windows PC 带来了生成式 AI 功能，依赖于“Nvidia RTX 加速”等。
RTX 聊天被吹捧为适用于 Windows PC 的“本地、快速、自定义生成式 AI”。因此，与 Bing Chat、Google Bard 和 ChatGPT 等选项相比，这种 AI 聊天机器人的用户隐私会好得多。现在，如果您想知道 Nvidia 的 RTX 聊天工具是否可以离线使用，是的，它确实可以！
与当今每个人通常使用的基于云的 AI 聊天机器人相比，在您的 PC 上使用这样的本地运行的 AI 聊天机器人有一定的优势。英伟达表示，“前提是结果很快 – 并且用户的数据保留在设备上。
您可以为它提供自己的数据集，将本地文件放在您的 PC 上。支持各种扩展名，如 PDF 文件、记事本文本文件和 Word 文档。顺便说一句，您甚至可以通过将视频链接添加到软件的设置中来提供来自 YouTube 视频的 AI 聊天机器人知识！
带有 RTX 的 Nvidia Chat 依赖于检索增强生成 （RAG），用于提高 LLM 的准确性。它还使用 TensorRT-LLM 软件和您的 GPU 硬件在您的 Windows 10 和 11 PC 上运行。在向 Chat with RTX 提供各种文档、笔记和视频后，您可以使用它通过简单的 AI 聊天机器人界面与信息进行交互！
与 RTX 聊天：系统要求和下载位置
由于它是您在本地运行的 AI 聊天机器人，因此在撰写本文时，下载大小相当高，为 35.1GB。下载中包括两个大型语言模型，Mistral 和 Llama 2。您可以在此处从 Nvidia 网站下载 Chat with RTX。
下载完成后，您可以解压缩压缩的存档，然后继续安装 Chat with RTX。但是，您需要满足某些先决条件。
搭载 Nvidia GeForce RTX 显卡的 Windows PC 只要满足特定硬件要求，就可以运行新的 Chat with RTX AI 工具。英伟达表示，这是一个“演示应用程序”，因此以后可能会推出功能更强大的版本。“与 RTX AI 聊天”工具的系统要求如下：
- 16GB RAM（或更多）
- Nvidia RTX 30 系列或 RTX 40 系列显卡（8GB+ 显存容量）
- GeForce Driver v535.11 或更高版本
- Windows 10 或 11
