利用 Amazon Bedrock 创建定制化生成AI应用

撰文：Vasi Philomin，发布日期：2024年8月6日，来源于 Amazon Bedrock

关键要点

定制化的潜力：亚马逊Bedrock为企业提供定制生成AI的强大工具，开创AI应用的新局面，通过多种技术满足特定业务需求。定制化技术：包括提示工程、检索增强生成RAG和模型调整等方法，使大型语言模型LLM具备更好的行业特定知识，提升分析能力。行业案例：Thomson Reuters与Buy with Prime分别有效利用了这些定制技术，提升了其用户体验与服务效率。

在我6月份的博文中，我开始了一系列文章，重点介绍推动客户选择 Amazon Bedrock 的关键因素。我探讨了Bedrock如何帮助客户建立安全合规的生成AI应用基础。现在，我想转向一个稍微技术性但同样重要的区别点 您可以使用多种技术来定制模型，以满足您特定的商业需求。

如大家所知，大型语言模型LLM正在改变我们利用人工智能AI的方式，让企业重新审视核心流程。这些基于海量数据集训练的模型，能快速理解数据并在多个领域生成相关回复，从内容总结到回答问题。但我们的客户告诉我们，尽管预训练LLM在分析大量数据方面表现出色，它们往往缺乏解决特定业务挑战所需的专业知识。

定制化释放了大型语言模型的变革潜力。Amazon Bedrock为您提供了一套强大而全面的工具集，将您的生成AI从“千人一面”的解决方案转变为精确满足您独特需求的工具。定制化包括多种技术，如提示工程、检索增强生成RAG以及模型的微调和继续预训练。提示工程涉及精心编写提示，以获得LLMs所需的响应。RAG结合了从外部来源检索的知识与语言生成，提供更具上下文和精确性的回复。模型定制化技术，包括微调和继续预训练，进一步在特定任务或领域上训练预训练语言模型，以提升性能。这些技术可以结合使用，以便用您的数据训练Amazon Bedrock中的基础模型，从而提供上下文准确的输出。请阅读以下示例，了解客户如何利用Amazon Bedrock中的定制化来实现他们的用例。

飞速加速器官网flycn

例如，全球内容和技术公司 Thomson Reuters 虽然已通过Claude 3 Haiku看到积极成果，但他们预计定制将带来更好的效果。该公司为法律、税务、会计、合规、政府及媒体等专业人士提供服务，期待通过他们的行业专业知识来优化Claude，从而实现更快速且相关的AI结果。

“我们很高兴在Amazon Bedrock上微调Anthropic的Claude 3 Haiku模型，以进一步增强我们的Claude驱动解决方案。Thomson Reuters旨在为用户提供准确、快速且一致的体验。通过围绕我们的行业专业知识和特定需求优化Claude，我们预计会见到显著的改进，提供高质量的结果且更快速度。我们已经看到了Claude 3 Haiku的积极效果，而微调将使我们更精确地定制AI援助。”

Joel Hron，Thomson Reuters首席技术官。

在Amazon方面，我们看到 Buy with Prime 正在利用Amazon Bedrock的先进RAG定制化能力来实现更高的效率。他们的订单在商家的站点获得支持，通过 Buy with Prime Assist 提供24/7的在线客服支持。他们最近在测试阶段推出了一款能够处理产品支持查询的聊天机器人解决方案。该解决方案利用Amazon Bedrock并结合数据，使其超越传统的基于电子邮件的系统。我的同事Amit Nandy，Buy with Prime的产品经理表示：

“通过对商家网站，包括子域和PDF手册的索引，我们构建了量身定制的知识库，为每个商家的独特产品提供相关且全面的支持。结合Claude的先进基础模型和Amazon Bedrock Guardrails，我们的聊天机器人解决方案提供强大的能力、安全且值得信赖的客户体验。购物者现在可以获得准确、及时和个性化的支持，从而提升客户满意度，增强对Buy with Prime及其参与商家的声誉。”

正是这些故事，让我们不断专注于提升我们在生成AI应用中的定制化能力。

在这篇博文中，我们将探讨Amazon Bedrock中定制LLM的三种主要技术，并介绍近期AWS纽约峰会的相关公告。

提示工程：引导您的应用获取所需答案

提示是推动LLMs生成答案的主要输入。提示工程是一种精心设计这些提示的实践，以有效引导LLMs。了解更多信息： 提示工程。设计良好的提示能够通过提供清晰的指示、上下文和针对特定任务的示例显著提升模型性能。Amazon Bedrock支持多种提示工程技术。例如，少量提示提供了带有所需输出的示例，以帮助模型更好地理解任务，例如情感分析样本标记为“积极”或“消极”。零样本提示则提供没有示例的任务描述。同时，思维链提示通过要求模型分解复杂问题，增强多步骤推理，适用于算术、逻辑及推理任务。

我们的提示工程指南 概述了各种提示策略和优化LLM性能的最佳实践。利用这些技术可以帮助从业者更高效地实现预期效果。然而，开发出能够引发基础模型最佳响应的最佳提示通常是一个具有挑战性的迭代过程。

零样本提示少量提示思维链提示与提示流可视化构建器

检索增强生成：用检索的数据增强结果

LLMs通常缺乏特定任务所需的专业知识、术语、上下文或最新信息。例如，寻求可靠且准确的信息的法律专业人士可能会发现与通用LLMs的互动不足。检索增强生成RAG是允许语言模型在生成答复之前咨询权威知识库的过程，旨在利用其训练数据以外的信息。

RAG过程涉及三个主要步骤：

检索：给定输入提示，检索系统识别并从知识库或语料库中提取相关段落或文档。增强：将检索到的信息与原始提示结合，形成增强输入。生成：LLM根据增强输入生成响应，利用检索信息产生更准确和更明智的输出。

Amazon Bedrock的知识库是一项完全托管的RAG功能，它允许您将LLMs连接到内部公司数据源，实现相关、准确和定制的回复。为了提供更大的灵活性和准确性，我们在AWS纽约峰会上宣布了多项新的功能。例如，现在您可以安全访问来自新数据源的数据，或访问来自Confluence、SharePoint和Salesforce的企业数据均为预览版。高级切块选项则是另一个令人振奋的新功能，使您能够创建按需定制的切块算法，以及利用内置的语义和层次切块选项。利用先进的解析技术，您现在可以精准提取复杂数据格式如PDF中的复杂表格的信息。此外，查询重构功能允许您将复杂查询分解为更简单的子查询，从而提高检索准确性。所有这些新功能帮助您减少访问数据所需的时间和成本，并构建高度准确和相关的知识资源，均针对您特定的企业用例进行定制。

模型定制化：提升特定任务或领域的性能

在Amazon Bedrock，模型定制是一个旨在为特定任务或领域定制预训练语言模型的过程。这一过程涉及将大型预训练模型进一步训练于与您的用例相关的较小的专业数据集。该方法在适应模型以满足您的要求的同时，利用了初始预训练阶段获得的知识，而不失去原有能力。在Amazon Bedrock中，模型微调过程旨在高效、可扩展且具有成本效益，使您能够根据唯一需求量身定制语言模型，而无需大量的计算资源或数据。模型微调可以与提示工程或检索增强生成RAG方法相结合，以进一步提升语言模型的性能和能力。模型定制化可以同时应用于标记和未标记的数据。

使用标记数据的微调涉及提供标记训练数据，以改善模型在特定任务上的表现。模型学习关联适当的输出与某些输入，调整其参数以提高任务准确性。例如，如果您拥有客户评论的数据集，标注为正面或负面，您可以在Bedrock中对该数据进行微调，以创建一个针对您领域的情感分析模型。在AWS纽约峰会上，我们宣布了 对Anthropic的Claude 3 Haiku进行微调。通过提供特定任务的训练数据集，用户可以微调和定制Claude 3 Haiku，以提高其在商业应用中的准确性、质量和一致性。

使用未标记数据的继续预训练，也称为领域适应，允许您进一步训练LLMs于公司的专有未标记数据上。这使得模型能够接触到您的领域特定知识和语言模式，增强其对特定任务的理解和性能。

定制化是发挥生成AI真正潜力的关键

大型语言模型正在各行业颠覆AI应用，但为这些通用模型赋予专业知识是释放其全业务影响力的关键。Amazon Bedrock使组织能够通过提示工程技术例如提示管理和提示流定制LLMs，帮助创建有效的提示。检索增强生成借助Amazon Bedrock的知识库使您能够将LLMs与专有数据源结合，实现准确的领域专业回复。而模型定制技术，包括使用标记数据的微调和使用未标记数据的继续预训练，帮助优化LLM以满足个性化需求。仔细审视这三种主要的定制化方法后，很明显，尽管它们采取了不同的方法，但它们都有一个共同目标帮助您解决特定的业务问题。

资源

若想了解关于Amazon Bedrock定制化的更多信息，查看以下资源：

了解更多关于 Amazon Bedrock了解更多关于 Amazon Bedrock 知识库阅读公告博客，了解 额外数据连接器 在Amazon Bedrock知识库中的应用阅读博客，了解 高级切块和解析选项 在Amazon Bedrock知识库的应用了解更多关于 提示工程了解更多关于 提示工程技术和最佳实践阅读公告博客，了解 提示管理和提示流了解更多关于 微调和继续预训练阅读关于 对Anthropic的Claude 3 Haiku进行微调 的公告博客

关于作者

Vasi Philomin 是AWS的生成AI副总裁。他负责生成AI相关的工作，包括Amazon Bedrock和Amazon Titan。

加载评论