TensorRT-LLM 很快可以从 NVIDIA 开发者网站下载。TensorRT 优化的开源模型可在 ngc.nvidia.com 和 GitHub.com/NVIDIA 中使用。
TensorRT 通过层融合、精度校准、内核自动调优和其他功能加速 AI 模型,显著提高推理效率和速度。使用 TensorRT,您现在可以期望稳定扩散 AI 图像生成速度提高一倍。與 Apple M2 Ultra Mac 相比,GeForce RTX 4090 Windows PC 執行 Stable Diffusion AI 影像生成的速度提高了 7 倍。该扩展程序今天可供下载。
RTX VSR通过减少或消除视频压缩引起的伪影来提高来自YouTube,Twitch,Prime Video,Disney+等的流媒体视频内容的质量。它还可以锐化边缘和细节。根据NVIDIA的说法,RTX VSR 1.5版本通过更新的模型提高了视觉质量,取消了以原始分辨率播放的内容,并增加了对基于NVIDIA Turing架构的RTX GPU的支持 – 包括专业RTX和GeForce RTX 20系列GPU。
RTX VSR 1.5可以使用最新的Game Ready驱动程序下载。它将在下月初即将推出的NVIDIA Studio Driver中提供。