Amazon Titan 文本嵌入入门 |亚马逊网络服务

嵌入在自然语言处理（NLP）和机器学习（ML）中发挥着关键作用。 文本嵌入 指将文本转换为驻留在高维向量空间中的数字表示的过程。该技术是通过使用机器学习算法来实现的，该算法能够理解数据的含义和上下文（语义关系）并学习数据内的复杂关系和模式（句法关系）。您可以将生成的矢量表示用于广泛的应用，例如信息检索、文本分类、自然语言处理等。

Amazon Titan 文本嵌入 是一种文本嵌入模型，可将自然语言文本（由单个单词、短语甚至大型文档组成）转换为数字表示，可用于支持基于语义相似性的搜索、个性化和聚类等用例。

在这篇文章中，我们讨论 Amazon Titan 文本嵌入模型、其功能和示例用例。

一些关键概念包括：

• 文本（向量）的数字表示捕获单词之间的语义和关系
• 丰富的嵌入可用于比较文本相似度
• 多语言文本嵌入可以识别不同语言的含义

一段文本如何转换为向量？

有多种技术可以将句子转换为向量。一种流行的方法是使用词嵌入算法，例如 Word2Vec、GloVe 或 FastText，然后聚合词嵌入以形成句子级向量表示。

另一种常见的方法是使用大型语言模型 (LLM)，例如 BERT 或 GPT，它们可以为整个句子提供上下文化嵌入。这些模型基于 Transformers 等深度学习架构，可以更有效地捕获句子中单词之间的上下文信息和关系。

为什么我们需要嵌入模型？

向量嵌入是法学硕士理解语言语义程度的基础，也使法学硕士能够在情感分析、命名实体识别和文本分类等下游 NLP 任务上表现良好。

除了语义搜索之外，您还可以使用嵌入来增强提示，通过检索增强生成 (RAG) 获得更准确的结果，但为了使用它们，您需要将它们存储在具有矢量功能的数据库中。

Amazon Titan 文本嵌入模型针对文本检索进行了优化，以支持 RAG 用例。它使您能够首先将文本数据转换为数字表示或向量，然后使用这些向量从向量数据库中准确搜索相关段落，从而使您能够与其他基础模型结合充分利用您的专有数据。

因为 Amazon Titan Text Embeddings 是一个托管模型 亚马逊基岩，它作为完全无服务器的体验提供。您可以通过 Amazon Bedrock REST 使用它 API 或 AWS 开发工具包。所需的参数是您想要生成嵌入的文本和 modelID 参数，代表 Amazon Titan 文本嵌入模型的名称。以下代码是使用适用于 Python 的 AWS 开发工具包 (Boto3) 的示例：

import boto3
import json
 
#Create the connection to Bedrock
bedrock = boto3.client(
    service_name='bedrock',
    region_name='us-west-2', 
    
)
 
bedrock_runtime = boto3.client(
    service_name='bedrock-runtime',
    region_name='us-west-2', 
    
)
 
# Let's see all available Amazon Models
available_models = bedrock.list_foundation_models()
 
for model in available_models['modelSummaries']:
  if 'amazon' in model['modelId']:
    print(model)
 
# Define prompt and model parameters
prompt_data = """Write me a poem about apples"""
 
body = json.dumps({
    "inputText": prompt_data,
})
 
model_id = 'amazon.titan-embed-text-v1' #look for embeddings in the modelID
accept = 'application/json' 
content_type = 'application/json'
 
# Invoke model 
response = bedrock_runtime.invoke_model(
    body=body, 
    modelId=model_id, 
    accept=accept, 
    contentType=content_type
)
 
# Print response
response_body = json.loads(response['body'].read())
embedding = response_body.get('embedding')
 
#Print the Embedding
 
print(embedding)

输出将如下所示：

[-0.057861328, -0.15039062, -0.4296875, 0.31054688, ..., -0.15625]

请参阅 亚马逊基岩 boto3 设置 有关如何安装所需包、连接到 Amazon Bedrock 以及调用模型的更多详细信息。

Amazon Titan 文本嵌入的功能

借助 Amazon Titan Text Embeddings，您最多可以输入 8,000 个令牌，使其非常适合根据您的使用案例处理单个单词、短语或整个文档。 Amazon Titan 返回维度为 1536 的输出向量，使其具有很高的准确性，同时还针对低延迟、经济高效的结果进行了优化。

Amazon Titan Text Embeddings 支持创建和查询超过 25 种不同语言的文本嵌入。这意味着您可以将模型应用于您的用例，而无需为您想要支持的每种语言创建和维护单独的模型。

使用经过多种语言训练的单一嵌入模型具有以下主要优势：

• 更广泛的影响范围 – 通过开箱即用地支持超过 25 种语言，您可以将应用程序的覆盖范围扩展到许多国际市场的用户和内容。
• 一致的表现 – 通过涵盖多种语言的统一模型，您可以在不同语言之间获得一致的结果，而不是针对每种语言分别进行优化。该模型经过全面训练，因此您可以获得跨语言的优势。
• 多语言查询支持 – Amazon Titan Text Embeddings 允许查询任何受支持语言的文本嵌入。这提供了跨语言检索语义相似内容的灵活性，而不受限于单一语言。您可以构建使用相同的统一嵌入空间查询和分析多语言数据的应用程序。

截至撰写本文时，支持以下语言：

• 阿拉伯语
• 简体中文
• 中国（繁体）
• 捷克
• 荷兰人
• 英语
• 法语
• 德语
• 希伯来语
• 印地语
• 意大利语
• 日文
• 卡纳达语
• 韩语
• 马拉雅拉姆语
• 马拉
• 波兰语
• 葡萄牙语
• 俄语
• 西班牙语
• 瑞典语
• 菲律宾他加禄语
• 淡米尔文
• 泰卢固语
• 土耳其语

将 Amazon Titan 文本嵌入与 LangChain 结合使用

浪链 是一个流行的开源框架，用于处理生成人工智能模型和支持技术。它包括一个 BedrockEmbeddings 客户端 它可以方便地用抽象层包装 Boto3 SDK。这 BedrockEmbeddings 客户端允许您直接使用文本和嵌入，而无需了解 JSON 请求或响应结构的详细信息。下面是一个简单的例子：

from langchain.embeddings import BedrockEmbeddings

#create an Amazon Titan Text Embeddings client
embeddings_client = BedrockEmbeddings() 

#Define the text from which to create embeddings
text = "Can you please tell me how to get to the bakery?"

#Invoke the model
embedding = embeddings_client.embed_query(text)

#Print response
print(embedding)

您还可以使用LangChain的 BedrockEmbeddings 客户端与 Amazon Bedrock LLM 客户端一起简化 RAG、语义搜索和其他嵌入相关模式的实施。

嵌入的用例

尽管 RAG 目前是使用嵌入最流行的用例，但还有许多其他可以应用嵌入的用例。以下是一些您可以使用嵌入来解决特定问题的其他场景，无论是单独使用还是与法学硕士合作：

• 问题和答案 – 嵌入可以通过 RAG 模式帮助支持问答界面。嵌入生成与向量数据库相结合，使您可以在知识库中找到问题和内容之间的紧密匹配。
• 个性化推荐 – 与问答类似，您可以使用嵌入根据用户提供的条件查找度假目的地、大学、车辆或其他产品。这可以采用简单的匹配列表的形式，或者您可以使用法学硕士来处理每个推荐并解释它如何满足用户的标准。您还可以使用此方法根据用户的特定需求为用户生成自定义的“10 篇最佳”文章。
• 数据管理 – 当您的数据源彼此之间没有清晰映射，但您确实有描述数据记录的文本内容时，您可以使用嵌入来识别潜在的重复记录。例如，您可以使用嵌入来识别可能使用不同格式、缩写甚至翻译名称的重复候选者。
• 应用组合合理化 – 当寻求协调母公司和收购中的应用程序组合时，从哪里开始寻找潜在的重叠并不总是显而易见的。配置管理数据的质量可能是一个限制因素，并且跨团队协调以了解应用程序环境可能很困难。通过使用嵌入的语义匹配，我们可以跨应用程序组合进行快速分析，以识别高潜力的候选应用程序以进行合理化。
• 内容分组 – 您可以使用嵌入来帮助将类似内容分组到您提前可能不知道的类别中。例如，假设您有一组客户电子邮件或在线产品评论。您可以为每个项目创建嵌入，然后通过运行这些嵌入 k均值聚类 识别客户关注点、产品赞扬或投诉或其他主题的逻辑分组。然后，您可以使用法学硕士从这些分组的内容中生成重点摘要。

语义搜索示例

在我们的 GitHub 上的示例中，我们演示了一个使用 Amazon Titan Text Embeddings、LangChain 和 Streamlit 的简单嵌入搜索应用程序。

该示例将用户的查询与内存向量数据库中最接近的条目进行匹配。然后，我们直接在用户界面中显示这些匹配项。如果您想要对 RAG 应用程序进行故障排除或直接评估嵌入模型，这可能会很有用。

为了简单起见，我们使用内存中的 FAISS 用于存储和搜索嵌入向量的数据库。在大规模的现实场景中，您可能希望使用持久数据存储，例如 Amazon OpenSearch Serverless 的矢量引擎 或者 PG向量 PostgreSQL 的扩展。

尝试使用不同语言的 Web 应用程序发出一些提示，例如以下内容：

• 我如何监控我的使用情况？
• 如何定制模型？
• 我可以使用哪些编程语言？
• 请评论我不安全吗？
• 私のデータはどのように保护されていますか？
• 是否需要基岩模型的配置？
• 在我们的地区是亚马逊基岩 verfügbar 吗？
• 有哪些级别的支持？

请注意，即使源材料是英文的，其他语言的查询也与相关条目相匹配。

结论

基础模型的文本生成功能非常令人兴奋，但重要的是要记住，理解文本、从知识体系中查找相关内容以及在段落之间建立联系对于实现生成式人工智能的全部价值至关重要。随着这些模型的不断改进，我们将在未来几年继续看到新的、有趣的嵌入用例出现。

接下来的步骤

您可以在以下研讨会中找到以笔记本或演示应用程序形式嵌入的其他示例：

作者简介

杰森·斯特勒 是位于新英格兰地区的 AWS 的高级解决方案架构师。 他与客户合作，使 AWS 功能与他们面临的最大业务挑战保持一致。 工作之余，他花时间建造东西并与家人一起观看漫画电影。

尼廷优西比乌斯 是 AWS 的高级企业解决方案架构师，在软件工程、企业架构和 AI/ML 方面经验丰富。他对探索生成人工智能的可能性充满热情。他与客户合作，帮助他们在 AWS 平台上构建架构良好的应用程序，并致力于解决技术挑战并协助他们完成云之旅。

拉吉帕塔克 是加拿大和美国财富 50 强大型公司和中型金融服务机构 (FSI) 的首席解决方案架构师和技术顾问。他专注于机器学习应用，例如生成式 AI、自然语言处理、智能文档处理和 MLOps。

玛尼哈努加 是生成式 AI 专家的技术主管、《AWS 上的应用机器学习和高性能计算》一书的作者，也是女性制造业教育基金会董事会的成员。 她领导计算机视觉、自然语言处理和生成人工智能等多个领域的机器学习 (ML) 项目。 她帮助客户大规模构建、训练和部署大型机器学习模型。 她在 re:Invent、Women in Manufacturing West、YouTube 网络研讨会和 GHC 23 等内部和外部会议上发表演讲。在空闲时间，她喜欢沿着海滩长距离跑步。

马克·罗伊 是 AWS 的首席机器学习架构师，帮助客户设计和构建 AI/ML 解决方案。 Mark 的工作涵盖了广泛的 ML 用例，主要关注计算机视觉、深度学习和在整个企业中扩展 ML。 他为许多行业的公司提供过帮助，包括保险、金融服务、媒体和娱乐、医疗保健、公用事业和制造业。 Mark 拥有六项 AWS 认证，包括 ML 专业认证。 在加入 AWS 之前，Mark 担任架构师、开发人员和技术领导者超过 25 年，其中 19 年从事金融服务工作。

• SEO 支持的内容和 PR 分发。 今天得到放大。
• PlatoData.Network 垂直生成人工智能。 赋予自己力量。 访问这里。
• 柏拉图爱流。 Web3 智能。 知识放大。 访问这里。
• 柏拉图ESG。 碳， 清洁科技, 能源， 环境， 太阳能， 废物管理。 访问这里。
• 柏拉图健康。 生物技术和临床试验情报。 访问这里。
• Sumber: https://aws.amazon.com/blogs/machine-learning/getting-started-with-amazon-titan-text-embeddings/