如何使用Sagemaker Java API调用端点?

从零开发短视频电商 在AWS上用SageMaker部署开源模型并用Java SDK调用 这里有很多源Huggingface,TensorFlow,PyTorch等,其内置了很多热门模型。使用AWS ApiGateway + AWS Lambda。以下内容都在 sagemaker studio里。,选择针对单个用户设置即可,然后等个几分钟。然后到aws上自己去注册就行了。这里包含了很多Java SDK调用示例。注册AWS账号,并且绑定信用卡。1.登录后在控制台中搜索。,等待5-10分钟即可。在studio中配置。 阅读详情

官方文档链接(以下有示例代码了,这个链接没啥用了,兄弟们,简单看看得了)

https://docs.aws.amazon.com/zh_tw/AWSJavaSDK/latest/javadoc/overview-summary.html

在这里会教你如何获得你的AWS Access Key ID and Secret Access Key。

1 首先来到 Amazon Web Services web console
2.用你的amazon账号登陆,点击右上角你的用户名,下拉
3.点击向下箭头选择“Security Credentials” 选项
4.在弹出窗口点击“Continue to Security Credentials”按钮
5.点击“Access Keys (Access Key ID and Secret Access Key)”
6.这里会显示你的Access Key IDs.保存下来(如果你会显示一些账号,那么你可以删除delete现有access key然后重新建立一套key,这是会显示AWS Access Key ID和Secret Access Key,就不用做后续的操作了)
7. 找到你的Secret Key并点击“Security Credentials”
8. 如果你需要登陆amazon账号,点击 “Sign in using our secure server”按钮登陆
9. 你现在会看到 legacy Security Credentials page页面。下拉页面找到the Access Credentials box。这里会再次看到你的 Access Key IDs。
10. 点击“Show”会显示你的“Secret Access Key” 对话框。
11.保存好你的Secret Access Key。

然后直接贴代码(以下是我多线程测试的代码,核心代码就只有run方法)

import com.alibaba.fastjson.JSONObject;
import com.amazonaws.auth.AWSStaticCredentialsProvider;
import com.amazonaws.auth.BasicAWSCredentials;
import com.amazonaws.services.sagemakerruntime.AmazonSageMakerRuntime;
import com.amazonaws.services.sagemakerruntime.AmazonSageMakerRuntimeClientBuilder;
import com.amazonaws.services.sagemakerruntime.model.InvokeEndpointRequest;
import com.amazonaws.services.sagemakerruntime.model.InvokeEndpointResult;

import java.nio.ByteBuffer;
import java.util.concurrent.ExecutorService;
import java.util.concurrent.Executors;

public class AmazonUtilTest implements Runnable {

    private static int POOL_NUM = 15;//线程池数量

    public static void main(String[] args) {

        ExecutorService threadPool = Executors.newFixedThreadPool(10);
        for (int i = 0; i < POOL_NUM; i++) {
            AmazonUtilTest poolThread = new AmazonUtilTest();
            threadPool.execute(poolThread);
        }
        threadPool.shutdown();//关闭线程池

    }

    @Override
    public void run() {

        AmazonSageMakerRuntimeClientBuilder amazonSageMakerRuntimeClientBuilder = AmazonSageMakerRuntimeClientBuilder
                .standard();
        amazonSageMakerRuntimeClientBuilder.setRegion("us-west-XX");
        String accessKey = "XXXXXX";
        String secretKey = "yyyyyyyyyyyyy";
        BasicAWSCredentials basicAWSCredentials = new BasicAWSCredentials(accessKey, secretKey);
        AWSStaticCredentialsProvider awsStaticCredentialsProvider = new AWSStaticCredentialsProvider(basicAWSCredentials);
        amazonSageMakerRuntimeClientBuilder.setCredentials(awsStaticCredentialsProvider);
        AmazonSageMakerRuntime runtime = amazonSageMakerRuntimeClientBuilder.build();

        //多线程跑测试
        //根据自己的算法入参规定格式,我这边是json,默认含有字段是ask
        //String body = "{\"instances\": [1.0,2.0,5.0],\"ask\":\"Have you eaten yet?\" }";
        String body = "{\"ask\":\"写一首关于上班摸鱼的五言押韵绝句\"}";
        //String body = "Have you eaten yet?";

        ByteBuffer bodyBuffer = ByteBuffer.wrap(body.getBytes());

        InvokeEndpointRequest request = new InvokeEndpointRequest()
        		//访问的端点名称
                .withEndpointName("pytorch-inference-XXXXXXXXX")
                .withBody(bodyBuffer);
        long start = System.currentTimeMillis();
        InvokeEndpointResult invokeEndpointResult = runtime.invokeEndpoint(request);
        long end = System.currentTimeMillis();
        System.out.println("请求耗时:" + (end - start) / 1000 + "秒");
        String bodyResponse = new String(invokeEndpointResult.getBody().array());

        System.out.println("bodyResponse:" + bodyResponse);
        JSONObject jsonObject = (JSONObject) JSONObject.parse(bodyResponse);
        System.err.println("bodyResponse:" + jsonObject.get("answer").toString());
    }
}

see you again

AWS情感分析实战指南:Comprehend与SageMaker选型决策 情感分析是自然语言处理(NLP)中最常用的任务之一,其核心目标是将非结构化文本自动分类为正面、负面、中性等情绪标签。实现原理依赖预训练语言模型对上下文语义的建模能力,技术价值在于降低人工标注成本、提升客服响应效率与产品反馈闭环速度。典型应用场景包括电商评论监控、App Store用户反馈分析、金融投诉工单分级及实时客服对话情绪识别。在AWS生态中,Amazon Comprehend提供开箱即用的托管式情感分析服务,而SageMaker则支持自定义模型训练与部署——二者并非替代关系,而是面向不同成熟度与定制化 阅读详情

相关推荐

数据采集 通过Apache Spark和Amazon SageMaker构建机器学习管道;

作者:禅与计算机程序设计艺术 1.简介 概览 随着人们生活水平的提高,收集、整理、分析和处理海量数据已成为当今社会所需的工具。而在云计算时代,数据的价值及其价值的获取越来越重要。近年来,Apache Spark和Amazon SageMaker的结合让数据收集变得更加简

AI天才研究院 1485

AWS Sagemaker详解

图片语义分析= Amazon SageMaker Ground Truth semantic segmentation labeling task。

rav009的专栏 1733

2、亚马逊SageMaker入门指南

本文全面介绍了亚马逊SageMaker的基本概念、核心功能及其在机器学习全流程中的应用。涵盖从数据准备、模型构建与训练到模型部署的全过程,并详细介绍了SageMaker提供的各项服务和工具,如Ground Truth、Autopilot、JumpStart等。此外,还讲解了如何在本地环境安装SageMaker SDK以及使用SageMaker Studio进行开发的相关注意事项。文章旨在帮助读者快速上手机器学习平台Amazon SageMaker,提升开发效率并优化模型性能。

mongodb5scout的博客 88

使用 Amazon SageMaker 高效地训练、调整和部署自定义集成

人工智能(AI)已成为科技界一个重要而热门的话题。随着人工智能的发展,我们看到出现了不同类型的机器学习(ML)模型。一种称为集成建模的方法已迅速受到数据科学家和从业人员的关注。在这篇文章中,我们将讨论什么是集成模型以及使用集成模型的好处。然后,我们将举例说明如何使用Amazon SageMaker 训练、优化和部署自定义集成。集成学习是指使用多种学习模型和算法来获得比任何单一的、单独的学习算法更...

亚马逊云科技专栏 436

SPSS(二)SPSS实现多因素方差分析模型(图文教程+数据集)

SPSS(二)SPSS实现多因素方差分析模型 单因素方差分析上一篇博客https://blog.youkuaiyun.com/LuYi_WeiLin/article/details/89917656已经介绍完毕 这篇博客我们主要来学习多因素方差分析 多因素方差分析,就是同时考虑若干个控制因素的情况下,分别分析它们的改变是否造成观察变量的显著变动 (多个自变量,一个因变量)自变量类型以分类变量为主也可以...

可乐联盟 6万+

Python对接海康威视机器视觉工业相机

工业相机只允许单条连接,也就是说MVS如果连接了相机,python代码就无法获取数据,此时必须。相机工具类(读者直接复制)HKCamera_class.py。博主这里出现了一个警告:获取不到相机参数。四、使用Pycharm打开Python代码示例文件夹。三、找到MVS示例代码(代码在MVS的安装位置)二、解压并安装MVS客户端。一、下载MVS客户端。安装一下opencv。

Good Luck 2万+

kafka 低级api_使用低级API分5步在sagemaker中建立模型

kafka 低级apiIn this article, we will build a model using low-level API in AWS SageMaker. If you are a beginner, start with the post for high-level API (where steps one and two of this guide are explain...

weixin_26716079的博客 349

简单说说Python中的pip如何换源

【安装包】:pip install 【升级包】:pip install --upgrade 【卸载包】:pip uninstall 【查看已安装的包】:pip list【搜索包】:pip search (注意:pip search功能在pip 10.0.0之后被弃用,建议使用其他方式搜索包,如访问PyPI官网或使用其他搜索引擎)

一捌柒的博客 2667

Call an Amazon SageMaker model endpoint using Amazon API Gateway and AWS Lambda

At AWS Machine Learning workshops, customers often ask, “After I deploy an endpoint, where do I go from there?” You can deploy an Amazon SageMaker trained and validated machine learning model as an en...

SunJackson的博客 837

ElementUI中的el-table解决宽度问题 - 根据内容自动撑开

在使用element-ui中,会发现表格组件el-table在未指定宽度情况下,会自动计算并给表格宽度赋值。但实际开发中,有时需要根据内容实际长度自动撑开显示,由内容的多少而决定表格的宽度,而不是默认宽度为100%。在默认情况下表格宽度为100%显示,并且列项未指定宽度情况下,剩余部分会平均分配宽度,本案例实际需求是由内容自动撑开显示。componentUpdated

觉醒法师的专栏 1万+

STC8G1K08A 实战应用:从配置到功能实现

本文详细介绍了STC8G1K08A单片机的实战应用,从开发环境搭建、GPIO配置、ADC模块使用到定时器中断处理和PWM输出等核心功能。重点讲解了外设模块的协同工作配置技巧,并分享了实际项目开发中的经验教训,帮助开发者快速掌握STC8G1K08A的高效应用。

n4o5p6q7r的博客 391

java端点,如何使用Sagemaker Java API调用端点?

I was trying to run this example: tensorflow_abalone_age_predictor_using_layers, in which abalone_predictor.predict(tensor_proto) is used to call the endpoint and make the prediction. I was trying to ...

weixin_33305182的博客 318

luks-磁盘加密工具

linux磁盘加密配置工具及步骤详解

zdd56789的博客 120

通过 SageMaker 端点使用 vLLM 部署 Llama 模型

本文展示了如何通过 AWS 的 SageMaker 端点使用 vLLM 来部署他们的 Llama 模型。虽然它专门针对所提到的 LLM 部署,但展示的代码和工作流程通常适用于 SageMaker 平台上所有形式的模型部署。尽管如此,我仅覆盖了 MLOps 工程师工作范围的一个小方面,SageMaker 本身是一个复杂的平台,需要掌握。在未来文章中,我将分享更多关于如何在平台上自动化整个机器学习生命周期的内容。同时,您可以查看我在这领域写的另一篇文章。

龙哥盟 362

VTK实战完整教程介绍

该专栏以VTK提供的Example为基础,讲解VTK中的相关接口和使用方法。订阅该专栏,带你了解所有VTK的功能,以便VTK更好的解决工作中遇到的问题。一起学习起来吧!

qq_40041064的博客 2504

27930-2015+充电协议解析

对2015+充电与2015充电进行硬件电路对比、通信协议对比和2015+通信协议解析。

manjixingkong1234的专栏 233

Apache DolphinScheduler SageMaker 任务节点指南:编排 Amazon SageMaker Pipeline 的完整实践

SageMaker 任务节点是 Apache DolphinScheduler 中用于对接 [Amazon SageMaker](https://docs.aws.amazon.com/sagemaker/index.html) 的远程任务插件,它可以在大数据工作流中启动一次 SageMaker Pipeline 执行,并持续跟踪执行状态直至流水线结束。阅读本文后,你将掌握该节点的创建步骤、`Sa

gitblog_00010的博客 1256

OV9734 DATASHEET,完整规格书

OV9734完整规格书,包括电气参数,尺寸规格,寄存器配置表等

Memcached Docker 镜像构建指南:三步跑通,直上生产

把 Memcached 装进 Docker,从精简的 Alpine 镜像起步,一路调到能扛生产的参数,并附上卡住时的排查思路。 ## 先想清楚:你要哪种缓存服务 容器化对缓存服务的好处很直接:环境一致、资源可隔离、能随流量弹性扩缩。但"选哪个基础镜像"是个真问题——它决定了你的镜像体积、依赖完整度和生态兼容性。先把方案摆出来,再决定从哪套 Dockerfile 模板下手: | 基础镜像 |

gitblog_01137的博客 904

NTscan扫描工具

ntscan是一个扫描器,可以扫描没有密码和弱密码的共享,先到配置文件中填写猜测的用户名和密码,扫描过程中右侧出现的是扫描日志。

ET2012新版免狗免安装绿色软件

ET2012新版免狗免安祖昂绿色软件。,新界面,新视觉,

使用 AWS SDK for Kotlin 创建并运行 SageMaker 地理空间管道(Geospatial Pipeline)实战

本篇技术指南以 AWS Code Examples 仓库中的 `workflow_sagemaker_pipes` 示例为核心,完整讲解如何用 AWS SDK for Kotlin 创建并运行一条 Amazon SageMaker 管道:该管道借助 AWS Lambda 与 Amazon SQS,执行一个反向地理编码(Reverse Geocoding)的 Vector Enrichment Jo

gitblog_00504的博客 191

lwip-2.0.3

lwip是瑞典计算机科学院(SICS)的Adam Dunkels 开发的一个小型开源的TCP/IP协议栈。实现的重点是在保持TCP协议主要功能的基础上减少对RAM 的占用。

AWS CDK Examples 机器学习集成:SageMaker 与其它 AWS 服务的协同工作完整指南

在当今人工智能和机器学习快速发展的时代,AWS CDK Examples 提供了丰富的实践案例,展示了如何将 **Amazon SageMaker** 与其它 AWS 服务无缝集成,构建端到端的机器学习解决方案。本文将深入探讨 AWS CDK 如何简化机器学习基础设施部署,实现 SageMaker 与 Lambda、S3、EventBridge 等服务的协同工作,为开发者提供完整的机器学习应用构建

gitblog_00061的博客 347

大模型实验管道化:SageMaker Pipelines与MLflow协同实践

大模型实验管理本质上是MLOps工程问题,核心在于解决可复现性、可审计性与可规模化验证三大挑战。其原理依赖于将数据版本、代码提交、超参配置、硬件环境等关键要素统一纳入不可篡改的实验快照,并通过声明式流水线实现端到端编排。该技术显著提升LLM微调研发效率与交付可信度,支撑金融、法律、医疗等强合规场景下的模型迭代与A/B测试。典型应用包括PEFT参数自动化调优、跨环境训练结果比对、生产级模型注册与血缘追踪——本文即基于AWS SageMaker Pipelines与MLflow深度集成的真实落地经验展开。

weixin_33860553的博客 374

VPC配置不当让我的生成式AI项目延迟暴涨300%,三处安全组规则差点毁掉SageMaker私有部署

作者在部署生成式AI项目时因VPC配置不当导致严重延迟,通过重新学习亚马逊云科技机器学习基础课程中的网络隔离方案,总结出SageMaker私有部署必备的安全组规则和VPC端点配置技巧,最终将服务延迟降低75%。文章包含完整的安全组配置代码、VPC端点操作命令和网络性能优化表格,推荐机器学习基础、AWS深度学习和生成式AI三门课程补全知识缺口。

weixin_47315004的博客 15

MXNet 云端部署实战指南:从 AWS SageMaker 到 EC2 深度学习环境的四种完整方案

本文以 MXNet 官方文档 [cloud.md](https://link.gitcode.com/i/1b548333a6a41e77be8e259e0eeaab93) 为核心骨架,系统讲解如何在 AWS(Amazon Web Services)云上运行 MXNet 深度学习训练与推理:既包括 SageMaker 这种开箱即用的托管服务,也包括 Deep Learning AMI、Deep L

gitblog_00084的博客 376

SageMaker 镜像选择实战指南:基于 Hugging Face 生态为模型部署挑选正确的 Serving 容器

在 SageMaker 上部署 Hugging Face 模型时,Serving 容器(image)往往是"纸面上看起来完全正确"的部署最终失败的头号原因:选错容器、用了过期 tag、或者 AMI 版本不对,都会收敛到同一个无法区分的 `Failed to pass health check` 错误。本文以 [skills/hf-cloud-serving-image-selection/SKIL

gitblog_00039的博客 1057

使用 AWS SDK for JavaScript (v3) 创建并运行 SageMaker 地理空间流水线:Lambda 步骤与回调步骤实战

本文基于 AWS 官方代码示例仓库中的 SageMaker 地理空间流水线场景([javascriptv3/example_code/sagemaker/scenarios/wkflw-sagemaker-geospatial-pipeline](https://link.gitcode.com/i/c0cb3c67b8b1af487d22d056e4e1efae)),完整讲解如何用 AWS SD

gitblog_00227的博客 463

基于 SDK for JavaScript (v3) 的 SageMaker 地理空间管线实战:从 Hello 示例到 Lambda + SQS 工作流

Amazon SageMaker 是 AWS 提供的全托管机器学习服务,而本仓库的 [javascriptv3/example_code/sagemaker](https://link.gitcode.com/i/1877bf53643d251856990aa1807556c4) 目录展示了如何使用 AWS SDK for JavaScript (v3) 与其交互,覆盖从最简单的 `ListNot

gitblog_00511的博客 454
上一篇: 设计文档模板
下一篇: Nginx 实战以及优化
Diaos Coder
博客等级 码龄9年 9粉丝 10原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值