Maynor的博客

通过Amazon Bedrock的完全托管服务，您只需使用单个API即可为您的生成式AI应用程序提供DeepSeek-R1的功能支持，并享受其丰富的功能和工具带来的优势。您可以默认使用这些关键安全功能，包括静态和传输中的数据加密、细粒度访问控制、安全连接选项，并在与Amazon Bedrock中的DeepSeek-R1模型通信时下载各种合规性认证。接下来，要在Amazon Bedrock中测试DeepSeek-R1模型，请在左侧菜单栏中选择“Playgrounds”下的“Chat/Text”。

通过结合 Resilience Hub 和 亚马逊云科技 Bedrock，可以生成自然语言的架构发现，以节省时间，更好地理解恢复时间目标 (RTO) 和恢复点目标 (RPO) 要求，并通过清晰简明的视图分发评估结果。Resilience Hub 是亚马逊云科技管理控制台上的一个中心位置，用于管理、定义和评估弹性目标，并根据亚马逊云科技 Well-Architected Framework提供建议。

还可以在SageMaker JumpStart上找到微调其他变体Meta Llama 3.1模型（8B和70B基础和指令）的代码（[GitHub仓库](https://github.com/aws/amazon-sagemaker-examples/blob/default/ generative_ai/sm-jumpstart_foundation_llama_3_finetuning.ipynb)），只需替换上面功能表中显示的模型ID。微调完成后，将出现部署微调模型的选项，如下图所示。

Llama 3 有两种参数大小 - 8B 和 70B，上下文长度为 8k - 可以支持广泛的用例，并在推理、代码生成和指令跟踪方面进行改进。Llama 3 使用仅解码器的转换器架构和新的分词器，以 128k 大小提供改进的模型性能。此外，Meta 改进了训练后程序，大大降低了错误拒绝率，改善了对齐，并增加了模型响应的多样性。

亚马逊云科技中国峰会是由全球云计算的开创者和引领者亚马逊云科技（Amazon Web Services）主办的年度重要活动。在这里，你将与业界大咖们共同探讨云计算推动行业发展的新趋势与解决方案，深入了解生成式 AI 等前沿技术的落地实践。通过丰富多样的话题分享，包括独立演讲、观点对话、闪电讲座、互动讨论、方案演示和动手实践，你将获得宝贵的灵感和经验，解决实际问题，并拓展更多业务增长及转型机会。

在这篇文章中，演示如何使用 LlamaIndex 和 LLM 创建基于 RAG 的应用程序。下图显示了以下各节中概述的该解决方案的分步架构。RAG 将信息检索与自然语言生成相结合，以产生更有洞察力的响应。出现提示时，RAG 首先搜索文本语料库以检索与输入最相关的示例。在响应生成过程中，模型会考虑这些示例来增强其功能。通过合并相关检索到的段落，与基本生成模型相比，RAG 响应往往更加真实、连贯且与上下文一致。

这将打开带有对话界面的网络体验，以与量身定制的 Amazon Q AWS Blog 专家聊天。在最后一步中，你将需要部署 Amazon Q 网络体验。你可以使用 IAM 集成符合 SAML 2.0 标准的外部身份提供者（IdP）。Amazon Q 可以与任何符合 SAML 2.0 标准的 IdP 一起使用。Amazon Q 使用服务发起的单点登录（SSO）对用户进行身份验证。