随着生成式AI在各行各业加速落地，越来越多企业都在思考：在通用性的大模型和工具平台之外，如何借助生成式AI打造企业的差异化竞争力。
近日，在亚马逊云科技中国峰会上，亚马逊云科技大中华区产品总经理陈晓建介绍了亚马逊云科技如何通过三层技术栈，为企业提供差异化价值，加速生成式AI创新。
基础设施层：打造坚实的生成式AI底座
最底层是以GPU和自研芯片和Amazon SageMaker为代表的基础设施，用于基础模型的训练以及在生产环境中运行推理。
在算力方面，亚马逊云科技提供了包括英伟达GPU、自研芯片在内的丰富选择，帮企业提升生成式AI训练和推理效率。
托管机器学习服务Amazon SageMaker可让开发人员轻松构建、训练、微调和部署基础模型。
其中，Amazon SageMaker HyperPod能够将训练模型的时间减少多达 40%。机器学习公司Hugging Face一直在使用SageMaker HyperPod，一年之中节省了数百小时的训练时间。Amazon SageMaker Jumpstart提供模型选择、深度模型定制和评估等功能。
今年中国峰会上，亚马逊云科技还宣布了与头部国产大模型的合作进展。零一万物的Yi-1.5 6B/9B/34B的基础模型在中国区域正式上线SageMaker Jumpstart。百川智能的Baichuan-2 7B基础模型也即将上线中国区域的SageMaker Jumpstart。
工具层：打造四大差异化价值
中间层是以Amazon Bedrock为代表的，提供可以访问所需基础模型，以及构建和扩展生成式 AI 应用程序的工具。
其中，在构建生成式AI的工具层，全面托管的生成式AI服务Amazon Bedrock为企业提供四大差异化价值：模型选择、模型定制、应用集成和负责任AI。借助这些能力，企业可以将自身业务与大模型相结合，让生成式AI赋能业务增长。
• 模型选择
在模型选择方面，Amazon Bedrock旨在为企业提供丰富、领先的基础模型选择，满足不同场景下的生成式AI创新。通过Amazon Bedrock，用户可以通过单一的API访问Claude 3、Llama 3、Amazon Titan等业界领先的开源和闭源大模型。
目前，Claude 3 全系列模型包括Claude 3 Haiku 、Claude 3 Sonnet 和 Claude 3 Opus 都已经在Amazon Bedrock可用。已有成千上万的客户已经通过Amazon Bedrock体验到了 Claude 3 在认知任务中树立的新基准，以及这些模型具有的无与伦比的智能、速度和成本效率。
Llama 3 8B 和70B 模型也是同样在Amazon Bedrock上第一时间同步可用。
Amazon Titan模型是由亚马逊开发和预训练的自研基础模型。亚马逊最新推出了Amazon Titan Text Embeddings V2模型和Titan Text Premier基础模型已在Amazon Bedrock上可用。Embeddings V2提供256、512和1024维的灵活Embedding尺寸，将存储需求降低至原来的四分之一，显著降低了运营成本，同时在 RAG 应用场景中保持97%的准确性，表现优于其他领先模型。
• 模型定制
如何将企业自身数据、业务流程与大模型相结合，是企业关注的焦点。
Amazon Bedrock提供了一套完整的功能，帮助企业基于私有的数据创建与业务相关的生成式AI应用，包括微调、持续预训练，检索增强生成(RAG)等。
知识库功能Knowledge Base for Amazon Bedrock能自动执行端到端的RAG工作流程，无需编写代码。另外它还内置了会话上下文管理，以便支持多轮对话。此外，所有从知识库检索的信息都附有来源引用，以减少幻觉内容。
代理功能Agents for Amazon Bedrock，是实现这一目标的关键工具。Amazon Bedrock 的Agent功能允许开发人员定义特定的任务、工作流程或决策过程，增强控制和自动化，同时确保与预期用例保持一致。Agents for Amazon Bedrock现已支持Claude 3 Sonnet 和 Haiku模型。
• 应用集成
通过一站式生成式AI应用开发工作站Amazon Bedrock Studio，开发者可以快速访问和使用多种基础模型、以及Bedrock 知识库、Bedrock Agents、Bedrock Guardrails 等 Amazon Bedrock 内置服务和工具，加快构建生成式 AI 应用的速度。
借助Bedrock Studio, 用户可以使用简单易用的交互界面进行模型选择、模型评估，还可以与团队成员协作，共同试验，创建和完善生成式 AI 应用，集成了企业单点登录的访问方式还可以帮助用户安全地集成私有数据源，创建Agents并设置Guardrails等等。
• 负责任AI
亚马逊云科技一直倡导的负责任的人工智能Responsible AI。Amazon Bedrock Guardrails可以帮助您轻松实施生成式人工智能应用程序的保护措施，并根据您的要求和负责任AI政策进行定制。Amazon Bedrock Guardrails是当前主流云服务商所提供的唯一解决方案，它可帮助客户去阻止多达85%的有害内容。
应用层：提供开箱即用的生成式AI应用
三层架构的顶层则是以Amazon Q为代表的开箱即用的生成式AI应用程序，用户无需任何专业知识即可快速上手生成式 AI。生成式AI助手Amazon Q 家族产品不断完善。
Amazon Q Developer可以帮助开发人员完成从编码、测试、升级应用到故障排查、安全扫描和修复、优化云资源等繁琐重复的工作，帮开发者降本增效。
Amazon Q Developer已拥有广泛的使用案例，可以归纳为3个关键类别：
第一，大规模消除技术门槛：利用Amazon Q Developer的代码转换功能，升级 Java 版本和依赖项，从而大规模消除技术冗余，Q可以自动执行应用程序升级，将数天的工作缩减为几分钟。
第二，提升开发者效率：这与整个软件开发生命周期有关，不仅帮助开发人员进行内联代码补全，还可以帮助解决整个阶段的繁琐和耗时任务，包括安全扫描、故障排除、单元测试生成等。
第三，提升代码质量与安全性：通过近乎实时生成代码建议和推荐，帮助开发人员更快、更安全地进行构建。
新发布的Amazon Q Business 的Amazon Q Apps功能（公开预览），只需几秒钟就能构建生成式 AI 驱动的应用程序。员工可以用自然语言描述他们想要的应用程序类型，或者只需告诉 Amazon Q Apps 从 Amazon Q 帮助解决问题的对话中执行即可。
“今天就是成为构建者的绝佳时机，因为今天我们所有人都有幸处在下一个技术变革的伟大时代。生成式AI让我们每个人的创新，都将对世界产生深远的影响，改变行业，甚至改变人类的生活。”陈晓建表示，亚马逊云科技将致力于成为企业构建和扩展生成式AI应用的最佳平台。
END
本文作者可以追加内容哦 !
