Nvidia 推出 Chat with RTX,这是一款可以在 Windows 上本地运行的 AI 聊天机器人

如果您的 PC 由相对较新的 Nvidia 显卡供电,您可以尝试该公司最新的 AI 工具,称为 Chat with RTX。它为 Windows PC 带来了生成式 AI 功能,依赖于“Nvidia RTX 加速”等。

RTX 聊天被吹捧为适用于 Windows PC 的“本地、快速、自定义生成式 AI”。因此,与 Bing Chat、Google Bard 和 ChatGPT 等选项相比,这种 AI 聊天机器人的用户隐私会好得多。现在,如果您想知道 Nvidia 的 RTX 聊天工具是否可以离线使用,是的,它确实可以!

与当今每个人通常使用的基于云的 AI 聊天机器人相比,在您的 PC 上使用这样的本地运行的 AI 聊天机器人有一定的优势。英伟达表示,“前提是结果很快 – 并且用户的数据保留在设备上。

您可以为它提供自己的数据集,将本地文件放在您的 PC 上。支持各种扩展名,如 PDF 文件、记事本文本文件和 Word 文档。顺便说一句,您甚至可以通过将视频链接添加到软件的设置中来提供来自 YouTube 视频的 AI 聊天机器人知识!

带有 RTX 的 Nvidia Chat 依赖于检索增强生成 (RAG),用于提高 LLM 的准确性。它还使用 TensorRT-LLM 软件和您的 GPU 硬件在您的 Windows 10 和 11 PC 上运行。在向 Chat with RTX 提供各种文档、笔记和视频后,您可以使用它通过简单的 AI 聊天机器人界面与信息进行交互!

Nvidia 推出 Chat with RTX,这是一款可以在 Windows 上本地运行的 AI 聊天机器人

与 RTX 聊天:系统要求和下载位置

由于它是您在本地运行的 AI 聊天机器人,因此在撰写本文时,下载大小相当高,为 35.1GB。下载中包括两个大型语言模型,Mistral 和 Llama 2。您可以在此处从 Nvidia 网站下载 Chat with RTX

下载完成后,您可以解压缩压缩的存档,然后继续安装 Chat with RTX。但是,您需要满足某些先决条件。

搭载 Nvidia GeForce RTX 显卡的 Windows PC 只要满足特定硬件要求,就可以运行新的 Chat with RTX AI 工具。英伟达表示,这是一个“演示应用程序”,因此以后可能会推出功能更强大的版本。“与 RTX AI 聊天”工具的系统要求如下:

  • 16GB RAM(或更多)
  • Nvidia RTX 30 系列或 RTX 40 系列显卡(8GB+ 显存容量)
  • GeForce Driver v535.11 或更高版本
  • Windows 10 或 11
© 版权声明

相关文章

天猫U特购  京东优惠购        京东优惠    天猫优惠