Amazon Bedrock 发布更多模型选择和全新强大功能, 助力建构安全和规模化生成式 AI 应用程式

..
  • AnthropicCohereMetaStability AI 和亚马逊最新的高性能模型将为客户提供更丰富的业内领先模型选择,以支援各种应用场景
  • Amazon Bedrock 的模型评估功能够让客户能够评估、比较和选择最适合其应用场景和业务需求的模型
  • Amazon Bedrock 的知识库功能简化生成式 AI 应用程式的开发流程,使用私有资料来提供即时的个人化回应
  • Amazon Bedrock 中的 Cohere CommandMeta Llama 2 Amazon Titan 模型支援微调,为客户的模型定制提供更多选项,Anthropic Claude 亦即将提供调校功能
  • 借助 Amazon Bedrock 的代理功能,生成式 AI 应用程式可以在确保安全和私隐受保护的情况下执行多种多步骤业务指令
  • Amazon Bedrock Guardrails 功能可协助客户部署和制定针对其生成式 AI 应用程式的保护措施,满足「负责任的AI」的要求
  • Blueshift、电通、DruvaGoDaddyINRIXMongoDBOfferUpSalesforceSmartBots AI TTEC Digital已率先借助Amazon Bedrock应用生成式 AI

香港 - Media OutReach - 2023年12月1日 - AWS 在 2023 re:Invent 全球大会上宣布推出更多 Amazon Bedrock 模型选择及全新功能,协助客户更轻松地构建和扩展其业务专用的生成式 AI 应用程式。Amazon Bedrock 是一项全面托管服务,使用者可轻松存取来自 AI21 Labs、Anthropic、Cohere、Meta、Stability AI和亚马逊的多种业内领先的大型语言模型和其他基础模型(FM),以及客户构建生成式 AI 应用程式所需的各项功能,确保私隐和安全的同时简化开发流程。此次发布进一步降低了生成式 AI 应用的门槛 — 为客户提供了更多行业领先的模型选择和全新的模型评估功能,以简化客户使用相关私有资料以定制所需模型,并为客户提供自动执行复杂任务的工具,同时保障客户可以负责任地建构和部署生成式 AI应用程式。Amazon Bedrock 的新功能为各行各业及不同规模的企业在生成式 AI 领域带来改变,助力企业创新并重塑客户体验。如欲开始使用 Amazon Bedrock,请浏览 aws.amazon.com/bedrock/

AWS 数据和机器学习全球副总裁 Swami Sivasubramanian 博士表示:「生成式 AI 有望成为我们这个时代最具变革性的技术。客户积极应用生成式 AI 创造新机遇和应对业务挑战,启发了我们。当客户将生成式 AI 融入业务时,Amazon Bedrock全托管方式的领先模型、定制功能、代理功能以及企业级安全和私隐保障将为他们带来便利。有了更多触手可及的工具,客户可以使用 Amazon Bedrock 充分发挥生成式 AI 的潜力,带来创新的用户体验、重塑业务并加速生成式 AI 发展。」

企业希望在各种场景中应用生成式 AI,例如提高生产效率、创新用户体验和开启全新工作互动模式。然而,生成式 AI 技术正急速发展,每天都有新的服务和创新出现。在瞬息万变的当下,客户的适应能力至关重要。企业需要能够使用最新、最好的可用模型进行试验、部署、反复运算和调整,并时刻准备好迎接变化。为了应对这些挑战,AWS 开发了 Amazon Bedrock,使模型建构和移动就像 API 呼叫一样简单,让所有开发人员都可以获得模型定制的最新技术,并确保客户的安全和资料私隐。众多国际企业包括 Alida、Automation Anywhere、Blueshift、BMW 集团、Clariant、Coinbase、Cox Automotive、电通、Druva、Genesys、Gilead、GoDaddy、Hellmann Worldwide Logistics, INRIX, KONE、LexisNexis Legal & Professional、Lonely Planet、NatWest、Nexxiot、OfferUp、宏盟集团、The PGA Tour、Proofpoint、Salesforce、西门子、竹中公司和 Verint 已率先采用 Amazon Bedrock 应用生成式 AI。此次发布引入了新的模型和功能,使客户能够更轻松地建构和有规模的生成式 AI 应用。

Anthropic、Cohere、Meta 和Stability AI 的最新模型以及亚马逊 Titan 的新增功能为客户提供更多模型选择

没有一个模型适合用于所有场景,模型的功能、价格和性能均不尽相同,客户需要可以轻松存取及选择各种模型,透过多次尝试和切换模型,再选出与需求最匹配的模型。借助 Amazon Bedrock,客户可以利用最新版本的模型进行快速创新。现时客户已可以透过 API 访问多个模型— 包括新推出的 Anthropic Claude 2.1 和 Meta Llama 2 70B 以及最近推出的 Stability AI Stable Diffusion XL 1.0、Meta Llama 2 Chat 13B、Cohere Command Light、Cohere Embed English和Cohere Embed 多语言模型。除了 Amazon Titan Text Embeddings 和 Amazon Titan Text 模型(现已全面可用)之外,AWS 还提供了 Titan Multimodal Embeddings 和 Amazon Titan Image Generator 为客户建构生成式 AI 应用程式提供更多选择和灵活性。Amazon Titan 模型由 Amazon Bedrock 独家提供,该模型由 AWS透过大量及多样的案例和资料集上所创建,并已进行过预先训练,并内置了支援负责任地使用 AI 这项功能。如果正式可用的 Amazon Titan 模型或其输出的内容侵犯了第三方的版权,亚马逊将对使用这些模型的客户进行赔偿。

  • Amazon Bedrock 上的 Anthropic Claude 2.1:Anthropic 是一家从事 AI 安全和科研的公司,致力于建构可靠、可解释和可控的 AI 系统。Anthropic 已将其最新版本的语言模型 Claude 2.1 引入 Amazon Bedrock。Claude 2.1 提供了长达 200,000 个 token 的语境窗口,并且提高了长文档的准确性。客户可以处理文本密集型文档,例如财务报表和内部资料集。Claude 2.1 能够总结和对比文档、进行问答等。Anthropic 报告称,与以前的模型相比,Claude 2.1 在开放式对话中的错误陈述减少达 50%,错误陈述率减少了一半。
  • Amazon Bedrock 上的 Meta Llama 2 70B:Llama 2 是 Meta 的新一代语言模型。Llama 2 的训练数据比 Llama 1 多 40%,上下文长度是 Llama 1 的两倍。除了最近发布的 Llama 2 130 亿参数模型之外,Llama 2 700 亿参数模型在 Amazon Bedrock 上亦已可用。Llama 2 Chat 建立在预训练的 Llama 模型上,通过指令资料集和超过 100 万条人工注释进行微调,针对对话场景进行优化。这些模型在多个外部基准测试中的表现卓越,包括推理、编码、熟练程度和知识测试,并在 Amazon Bedrock 上提供了极高的性能价格组合。
  • 新的 Amazon Titan Image Generator 现已推出预览版: Amazon Titan Image Generator 可协助广告、电子商务、媒体和娱乐等行业的客户通过使用自然语言提示生成高品质、逼真的图像或增强现有图像,以低成本快速构思和大量反复运算图像。这一类模型可以理解复杂的提示词并生成相关图像,且准确度较高,少有扭曲原意的情况,也不易产生不当内容,继而避免传播错误资讯。客户可以在 Amazon Bedrock 控制台中使用该模型,在配置维度并指定模型应生成的图像变量数量之前,输入自然语言提示,以生成图像或上传图像进行自动编辑。在编辑过程中,客户可以隔离图像的某些部分以添加或替换细节(例如,将滑浪板插入海滩场景或将汽车广告背景中的高山替换为森林),他们亦可以使用其他与原作风格相同的细节扩展图像的边界。为了兑现 AWS 今年早些时候在白宫做出的承诺,所有 Amazon Titan 生成的图像都包含隐形浮水印,以通过建立严谨的识别 AI 生成图像的机制来协助减少错误资讯的传播,促进 AI 技术的安全、可靠和透明发展。AWS 是首批广泛发布内置隐形浮水印的模型供应商之一,这些浮水印整合到输出的图像中,并不允许编辑更改。
  • 全新 Amazon Titan Multimodal Embeddings 现已正式可用:Amazon Titan Multimodal Embeddings 可协助客户为使用者提高多模态搜索和推荐体验,让输出结果更准确且与语境相关。模型可以将图像和短文本转换为 embedding 数字表示形式,使模型能够轻松理解语义以及资料之间的关系。最终使用者可以使用图像和文本提示的任意组合进行搜索查询。该模型将为搜索查询生成嵌入,并将它们与已有的嵌入相匹配,以产生更准确的搜索和推荐结果。例如,拥有数亿张图像的图库摄影公司可以使用该模型来增强其搜索功能,这样用户就可以使用短语、图像或图像和文本的组合来搜索图像(例如,「我要和这张照片类似的图像,但天空是晴朗的」)。 一般情况下,使用该模型生成向量非常适合于需要高准确度和快速回应的搜索场景。然而,客户也可以生成更小的维度来优化速度和性能。Amazon Titan Text Embeddings 模型加入了 Amazon Titan Text Embeddings,可以将词语、短句、长文档等文本输入转化为嵌入(embeddings),用于搜索和个人化推荐等场景。

    新功能可帮助客户更有效率地评估、比较和选择最适合其应用场景和业务需求的模型


    如今,企业拥有多个模型选项来支援生成式 AI 应用程。在具体应用场景中,为了在准确性和性能之间取得适当的平衡,企业必须有效地比较模型,并找到首选指标。为了比较模型,企业必须首先花几天时间确定标准、设置评估工具并运行评估,这些程序都需要专业的资料科学知识。此外,这些测试无法用于主观标准的评估(例如,品牌声量、相关性和风格),因为主观标准需要通过繁琐、耗时的人工审核进行判断。对于每个新场景模型,这些比较所需要耗费的时间、专业知识和资源使企业望而却步,从而限制了他们对生成式 AI 的使用。

    Amazon Bedrock 中的模型评估功能现已推出预览版,可帮助客户使用自动或人工评估来评估、比较和选择适合其特定应用场景的最佳模型。在 Amazon Bedrock 控制台中,客户可以选择他们想要针对相应任务(例如问答或内容摘要)进行比较的模型。如需自动评估,客户可以选择预定义的评估标准(例如准确性、稳健性和是否含有有害内容)并上传自己的测试资料集或从内置的公开资料集中进行选择。对于需要复杂判断的主观标准或内容,客户只需经过简单设定即可轻松设置基于人工的评估工作流程。这些工作流程利用客户的内部员工队伍或使用AWS提供的员工队伍来评估模型回应。在人工评估的过程中,客户可以定义特定的指标(例如,相关性、风格和品牌声量)。客户完成设置后,Amazon Bedrock 就会运行评估并生成报告,以便客户轻松了解模型在关键标准上的表现,并作出相应协调,从而快速选择最适合其应用场景的模型。

    扩展的全新模型定制功能可协助客户在AWS上私密且安全地释放资料价值

    企业希望最大限度地释放资料价值,以提供大规模的卓越用户体验,这些体验经过独特设计,能够反映公司的风格、意见和服务。Amazon Bedrock 中提供新的专门建构功能,可协助客户私密且安全地使用自己的资料定制模型,以构建差异化的生成式 AI 驱动的应用程式。

      • Amazon Bedrock 知识库功能使用与语境和公司相关的资料定制模型回应:组织希望使用专有资料补充现有模型,以获得更相关和更准确的回应。为了给模型配备最新资讯,组织转向 retrieval augmented generation (RAG),这种技术通过从多个来源(例如文件储存库、数据库和 API)获取资料,将资料与提示词结合。Amazon Bedrock 知识库功能现已全面可用,可将模型安全地连接到公司内部资料来源以用于 RAG,为聊天机器人和问答系统等案例提供更准确且针对特定语境的回应。知识库是完全托管的,因此客户只需指明资料位置,然后知识库就会获取文本文档,并将资料保存到向量数据库或代表客户设置一个向量数据库。当用户进行查询时,Amazon Bedrock 会自动编排 RAG,通过模型获取相关文本来增强提示词,将提示词发给模型,最终得到回应。Amazon Bedrock 知识库为数据库提供向量功能,包括 Amazon OpenSearch、Pinecone 和 Redis Enterprise Cloud的向量引擎,上述功能亦将于 Amazon Aurora 和 MongoDB 上推出。
      • Cohere Command、Meta Llama 2 和 Amazon Titan 模型现在可以在 Amazon Bedrock 上进行微调,并且即将支援 Anthropic Claude 2:除了 RAG 之外,企业还可以利用微调功能在具体任务(例如,文本生成)中进一步训练模型,使用标记资料集调整模型参数,使其符合业务需求,将已掌握的知识扩展到组织和终端使用者使用的词汇库中。例如,零售客户可以在产品描述资料集上微调模型,以协助其了解品牌风格,从而为网站编写更准确的描述。Amazon Bedrock 现在支持对 Cohere Command 和 Meta Llama 2,以及 Amazon Titan Text Express、Amazon Titan Text Lite、Amazon Titan Multimodal Embeddings 和 Amazon Titan Image Generator(预览版)的完全托管微调,因此客户可以使用带标签的资料集提高特定任务的模型准确性。此外,AWS客户很快就能够利用自己的资料来源微调 Anthropic Claude 2 的性能。要微调模型,客户可以选择模型,使用 Amazon Bedrock 制作副本。之后,客户可以在 Amazon S3 中的标记示例,而Amazon Bedrock(利用新资讯增强复制模型)会在保证私隐的情况下对其进行训练,在得到结果。模型越是经过精准微调,回应会越相关且个人化。客户资料在传输过程中和静态时都经过加密,因此所有宝贵的客户资料都是始终安全且保密的。AWS和第三方模型提供商均不会使用 Amazon Bedrock 的任何输入或输出内容来训练其模型。

        借助 Amazon Bedrock 代理功能,生成式 AI 应用程式可以使用公司系统和资料来源执行多步骤任务

        现存的模型虽然能够有效地进行对话和创建新内容,但如果它们能够执行更复杂的操作,例如解决问题以及与公司系统互动以完成任务(例如,旅行预定或订购替换零件),将可以为企业提供更多价值。然而,这需要个人化地将模型与公司资料来源、API 以及内部和外部系统整合起来。开发人员必须编写程式来协调模型、系统和使用者之间的互动,使应用程式可以按逻辑循序执行一系列 API 呼叫。为了将模型与资料来源连接起来,开发人员必须部署 RAG,以便让模型可以根据任务调整回应。最后,开发人员必须配置和管理必要的基础设施,并制定资料安全和私隐权原则。这些步骤非常耗时且需要专业知识,因此从而减慢了生成式 AI 应用程式的开发速度。

        现在正式可用、完全托管的 Amazon Bedrock 代理功能使生成式 AI 应用程式能够跨公司系统和资料来源执行多步骤任务。代理可以计画和执行大多数业务任务,例如回答有关产品可用性的问题或接受订单。客户可以使用简单的设置过程创建代理 — 首先选择所需的模型,用自然语言编写一些说明(例如,「你是一位友好的客户服务代理」,和「在库存系统中检查产品库存情况」),并开放其对公司企业系统和知识库的访问存取;代理将自动分析请求并将其分解为逻辑序列,再使用模型的推理功能来确定所需的资讯;然后,代理通过识别要调用的 API 并决定何时调用它们来采取行动、满足请求。代理还可以从专有资料来源检索所需资讯,以提供准确且相关的回应。代理每次都会在后台安全、私密地执行此过程,使客户无需设计提示、管理对话上下文或手动编排系统。借助适用于 Amazon Bedrock 的代理,客户可以提升生成式AI应用开发的准确性和速度。

        借助 Amazon Bedrock 的 Guardrails 功能,客户可以根据应用程式要求和负责任的 AI 策略实施跨模型保护措施

        企业逐渐了解到生成式 AI 应用程式中的互动同样需要管理,以保证所答即所问的用户体验和确保安全。虽然许多模型使用内置控件来过滤不良和有害内容,但企业希望进一步限制互动,以保证话题始终与业务相关和符合公司政策,同时遵守「负责任的 AI」的原则。例如,银行可能希望在线上助手的回复中避免查询竞争对手、避免提供投资建议、以及限制有害内容。此外,应用户要求,程式可能要修改使用者的个人身份资讯 (PII)。企业可能需要更改模型、使用多个模型或跨应用程式复写原则,他们需要一种简单的方法一致性地部署他们的要求。这需要丰富的专业知识来建构具有此类保护措施的定制保护系统,并将其整合到应用程式中,而该过程可能需要数月时间。企业希望以一种简化的方式在生成 AI 应用程式中强化关键策略和规则,以提供所答即所问的用户体验并让客户可以更安全地使用该技术。

        Amazon Bedrock 的 Guardrails 功能现已推出预览版,使客户能够为生成式 AI 应用程式实施保护措施。这些应用程式根据客户应用场景和「负责任的 AI」原则定制,因此可以增强用户互动的安全性和私隐性。Guardrails 功能可以提高Amazon Bedrock 上模型对应用程式中不良和有害内容回应的一致性。客户可以将 Guardrails 功能应用于 Amazon Bedrock 上的所有大型语言模型,以及微调模型并与 Amazon Bedrock 代理功能结合使用。要在 Amazon Bedrock 控制台中创建一个Guardrail,客户首先使用自然语言描述来定义其应用程式中需要被过滤的话题。客户还可以配置仇恨言论、侮辱、性语言和暴力的门槛值,以将有害内容过滤到他们想要的水平。于 2024 年初,客户更可以编辑模型回应中的个人身份资讯(PII)、设置脏话筛检程式,并提供自订单字清单来阻止用户和模型之间的互动。 Guardrails 可以自动评估用户查询和模型回应,以检测并防止出现属于受限类别的内容。客户可以创建多个 Guardrails 来支援不同的案例,也可以在多个模型中应用相同的 Guardrail。Amazon Bedrock 的 Guardrails 功能通过提供一致的用户体验,标准化生成式 AI 应用程式的安全和私隐控制,使客户能够安全地进行创新。

        电通是全球最大的整合行销和技术服务提供者之一。该企的创新与新兴技术执行副总裁 Brian Klochkoff 表示:「我们致力将行销、技术和咨询整合起来,协助那些希望造福社会的品牌实现以人为本的转型。生成式 AI 能够让我们更大规模、更快速地为客户提供服务。这项技术不会取代我们的员工,而是为我们全球 72,000 名员工提供帮助。具体来说, Amazon Bedrock 为我们提供了企业级的控制能力和便捷部署第三方模型的能力,以便我们的产品和技术团队能够跨团队分散使用。这让团队能够在一个安全和负责任的环境下,借助最新、最前沿的生成式 AI 技术进行革新,为客户打造创新机遇。」

        MongoDB通过释放软件和资料的力量,帮助创新者创造、变革和颠覆行业。MongoDB 首席产品总监 Sahir Azam 表示:「越来越多来自各行各业的客户希望利用生成式AI 来构建下一代应用程式,但仍然有不少人担心资料私隐以及人工智能驱动系统输出的准确性。为了满足客户的需求,我们将 MongoDB Atlas 用作 Amazon Bedrock 的知识库,以便我们的共同客户可以利用其运营资料安全地构建生成式 AI 应用程式,在达到最终使用者期望的信任度和准确性下创建个人化体验。通过这种整合,客户可以存取行业领先的基础模型,并使用 MongoDB Atlas Vector Search 处理过的资料来创建应用程式,在正确的语境下提供更多相关的输出。利用 Amazon Bedrock 知识库中内置的资料私隐最佳实践,客户可以节省在生成式 AI 营运上花费的时间,从而更专注于技术部署,在 AWS上开发更有吸引力的最终用户体验。」

        Salesforce 是领先的 AI 客户关系管理(CRM)平台,通过 AI、CRM 和资料的力量实现高效和可信赖的客户体验。Salesforce 产品高级副总裁 Kaushal Kurapati 表示:「我们致力协助企业以全新、个人化的方式与客户建立连系,AI 对实现这承诺来说不可或缺。Amazon Bedrock 是我们开放模型生态策略的重要组成部分,能够将模型与客户的资料无缝整合,并整合到 Salesforce 工作流程当中。新增的评估能力可以根据不同标准对比基础模型,包括从友好性、风格和品牌相关性等方面进行比较,从而让模型部署变得前所未有的简单、快捷。」
        Hashtag: #AWS

        发布者对本公告的内容承担全部责任

        关于Amazon Web Services

        自2006年来,Amazon Web Services一直在提供世界上服务最丰富、应用广泛的云端服务。AWS为客户提供超过240种功能全面的云端服务,包括运算、储存、数据库、网络、分析、机器学习与人工智能、物联网、流动、安全、混合云、虚拟和扩增实境(VR 和AR)、媒体,以及应用开发、部署和管理等方面,遍及32个地理区域内的102个可用区域(Availability Zones),并已公布计画在加拿大、德国、马来西亚、新西兰和泰国建立5个AWS地理区域、15个可用区域。AWS的服务获得全球超过百万客户的信任,包括发展迅速的初创公司、大型企业和政府机构。通过AWS的服务,客户能够有效强化自身基础设施,提高营运上的弹性与应变能力,同时降低成本。欲了解更多有关AWS的资讯,请浏览:https://aws.amazon.com


        想在手机阅读更多周边设备资讯?下载【香港硅谷】Android应用
        分享到Facebook
        技术平台: Nasthon Systems