如何使用LangChain在Vertex AI上构建AI应用程序

工具软件1年前 (2023)发布 AI观察员
126 0 0
如何使用LangChain在Vertex AI上构建AI应用程序

生成式 AI,顾名思义,是一种可以生成新内容的 AI。范围可以从文本和聊天到图像和代码。生成式 AI 的强大之处在于它能够创建不仅连贯而且与上下文相关的内容,使其成为开发人员的宝贵工具。谷歌的Vertex AI提供对生成AI模型(也称为基础模型)的访问,这些模型按其旨在生成的内容类型进行分类。这些模型通过特定于 Google Cloud 项目的发布商端点公开,开发人员无需部署基础模型,除非需要针对特定用例对其进行微调。

PaLM 2

Vertex AI 中可用的关键生成 AI 模型之一是 Pathways 语言模型 2 (PaLM 2),它是 PaLM API 背后的驱动力。PaLM 2 是最先进的语言模型,具有改进的多语言、推理和编码功能。用于文本的 PaLM API 针对分类、汇总和实体提取等语言任务进行了微调,而用于聊天的 PaLM API 针对多轮聊天进行了微调,其中模型跟踪聊天中的先前消息并将其用作生成新响应的上下文。谷歌解释了更多关于PaLM 2的信息:

“PaLM 2 是我们下一代大型语言模型,它建立在 Google 在机器学习和负责任 AI 方面的突破性研究传统之上。它擅长高级推理任务,包括代码和数学、分类和问答、翻译和多语言能力以及自然语言生成,比我们以前最先进的 LLM(包括 PaLM)更好。它可以完成这些任务,因为它的构建方式 – 将计算优化扩展,改进的数据集组合和模型架构改进结合在一起。

但是,在应用程序中使用这些大型语言模型并非没有挑战。例如,处理复杂的用例,例如利用实时数据或组合多个大型语言模型,可能很困难。此外,大型语言模型只能访问其训练数据中的知识,这对于某些用例来说可能是一个限制。

LangChain

为了克服这些挑战,开发人员可以使用设计模式,例如包含来自外部源的数据、对大型语言模型进行多次调用以及将多个模型链接在一起。这些模式可以通过编写样板代码或使用 LangChain 等框架进行抽象和编排来实现。

LangChain是一个框架,它为构建LLM驱动的应用程序提供了灵活的抽象。它支持数据感知和代理应用程序,简化了集成外部数据和链接多个模型的过程。LangChain 的 Python SDK 与 Vertex AI 集成,使得在 Vertex AI 之上构建应用程序变得更加容易。这种集成扩展到Vertex AI PaLM API等服务,用于文本,聊天和嵌入,Vertex AI矢量搜索和Vertex AI搜索。

使用Vertex AI和LangChain进行文档摘要的一个实际示例涉及在您的环境中安装Vertex AI和LangChain SDK,导入库,将文本偏差模型设置为默认值,创建提示模板,初始化关联的MapReduce链,以及使用该链生成摘要。这个过程说明了Vertex AI和LangChain如何加速生成AI开发生命周期。

Vertex AI 和 LangChain 的结合为希望在应用程序中利用生成 AI 功能的开发人员提供了一个强大的工具。从通过聊天界面改善客户支持,到通过对话界面探索非结构化数据以及总结大型文档,生成式 AI 开发的潜在用例是广泛而多样的。因此,了解如何有效地利用Vertex AI和LangChain对于希望保持在AI驱动的应用程序开发前沿的开发人员至关重要。

其他生成式 AI 产品

  • 小程 API 生成代码。Codey API 包括三个模型,用于生成代码、建议代码完成代码,并让开发人员聊天以获取有关代码相关问题的帮助。有关详细信息,请参阅代码模型概述。
  • 文本嵌入 API 为输入文本生成矢量嵌入。可以将嵌入用于语义搜索、建议、分类和异常值检测等任务。
  • 多模态嵌入基于图像和文本输入生成嵌入向量。这些嵌入稍后可用于其他后续任务,如图像分类或内容建议。有关详细信息,请参阅多模式嵌入页面。
  • Imagen 是我们的文本到图像基础模型,使组织能够大规模生成和自定义工作室级图像,以满足任何业务需求。有关详细信息,请参阅顶点 AI 上的图像概述。
© 版权声明

相关文章

天猫U特购  京东优惠购        京东优惠    天猫优惠