java调用keras离线训练的图片识别模型进行在线预测

最新推荐文章于 2024-10-31 10:49:22 发布

chaos jin

最新推荐文章于 2024-10-31 10:49:22 发布

阅读量3k

点赞数 1

CC 4.0 BY-SA版权

分类专栏： java 文章标签： keras tensorflow java 图像识别

本文链接：https://blog.youkuaiyun.com/Light_Dream/article/details/88813227

目前深度学习主要使用Python训练自己的模型，其中Keras提供了heigh-level语法，后端可采用Tensorflow或者Theano。

但是在实际应用时，大多数公司仍是使用java作为应用系统后台。于是便有了Python离线训练模型，Java调用模型实现在线预测。

Java调用Keras模型有两种方案，一种是基于Java的深度学习库DL4J导入Keras模型，另外一种是利用Tensorflow的java接口调用。DL4J目前暂不支持嵌套模型的导入，下面仅介绍第二种方案。

想要利用Tensorflow的java接口调用Keras模型，就需要将Keras保存的模型文件（.h5）转换为Tensorflow的模型文件（.pb）。

GitHub 已经有大神写了一个转换工具可以很方便的将Keras模型转Tensorflow模型，你只需要输入原模型文件的位置和目标模型文件的位置即可。

Keras的模型可以通过model.save() 方法保存为一个单独的模型文件（model.h5），此模型文件包含网络结构和权重参数。

此种模型可通过以下代码将Keras模型转换为Tensorflow模型：

python keras_to_tensorflow.py 
    --input_model="path/to/keras/model.h5" 
    --output_model="path/to/save/model.pb"

Keras的模型也可以通过 model.to_json() 和 model.save_weight() 来分开保存模型的结构（model.json）和权重参数（weights.

最低0.47元/天解锁文章

200万优质内容无限畅学

确定要放弃本次机会？

福利倒计时

: :

立减 ¥

普通VIP年卡可用

立即使用

chaos jin

关注关注

1
点赞
踩
16

收藏

觉得还不错? 一键收藏
2
评论
分享

复制链接

分享到 QQ

分享到新浪微博

扫一扫
打赏
打赏
打赏举报

举报

专栏目录

Transformer模型效率优化：提升模型推理速度

AI天才研究院

04-29

328

1. 背景介绍 Transformer 模型自 2017 年提出以来，凭借其强大的特征提取能力和并行计算优势，在自然语言处理 (NLP) 领域取得了巨大的成功。然而，Transformer 模型通常包含大量的参数，导致其推理速度较慢，限制了其在实际应用中的部署。因此，提升 Transformer 模型的推理速度成为一个重要的研究方向。

Keras 原理与代码实战案例讲解

AI天才研究院

07-21

1067

Keras 原理与代码实战案例讲解作者：禅与计算机程序设计艺术 / Zen and the Art of Computer Programming 关键词：深度学习框架，Keras API，神经网络，卷积神经网络，循环神经网络 1. 背景介绍

2 条评论您还未登录，请先登录后发表或查看评论

SikuliX.jar包（内含带离线安装的图片识别工具安装包）

03-23

SikuliX图形适配jar包，内含离线依赖jar包，将jar包加压到同级目录下，运行sikulixsetup，根据提示安装即可，安装后可以使用sikuli的图片识别工具进行图片抓取，识别率分析等 sikulix.jar是给开发代码使用的jar包

JAVA调用 keras,将keras模型加载到java程序以预测新输入

weixin_39869693的博客

03-16

446

我有这个适用于python的代码X = numpy.loadtxt("compiledFeatures.csv", delimiter=",")model = load_model("kerasnaive.h5")predictions = model.predict(X)print(predictions);我试图在java中编写具有相同功能的代码,我已经编写了这段代码,但它不起作用,任何人都知...

java 调用训练好的keras模型，tensorflow Pb模型

热门推荐

momaojia的博客

05-01

1万+

这篇文章主要给初次想使用java 调用keras或者使用tensorflow训练好的模型，下面将详细介绍环境安装以及调用步骤。假设你忘记了如何配置java环境，可以从第一部分看起，否则直接转入第二部分。一、首先配置java环境1、下载JDK1.8版本，并且安装2、配置环境变量，本人安装路径为默认路径C:\ProgramFiles\Java\jdk1.8.0_1313、在path里输入%HOME_J...

用 Java 训练深度学习模型，原来这么简单！

HelloGitHub 的博客

11-02

5245

本文适合有 Java 基础的人群作者：DJL-Keerthan&LankingHelloGitHub 推出的《讲解开源项目》系列。这一期是由亚马逊工程师：Keerthan Va...

java 人脸识别 demo_java引用Arcface，实现人脸识别（demo）

weixin_34675395的博客

02-13

396

## 开发环境准备：###开发使用到的软件和工具：* Jdk8、mysql5.7、libarcsoft_face.dll(so)、libarcsoft_face_engine.dll(so)、libarcsoft_face_engine_jni.dll(so)、idea* 注：libarcsoft_face.dll(so)、libarcsoft_face_engine.dll(so)、libarc...

java 文字识别.zip

01-14

在Java中，可以使用OpenCV进行图像处理，TensorFlow或Keras（通过Java API）进行深度学习模型的构建和训练，以及使用JavaCV封装的Tesseract接口进行简单的OCR识别。然而，由于压缩包文件列表只给出了"java 文字识别...

python模型保存与恢复 pmml_将python训练好的模型保存为pmml文件供java调用

weixin_39696518的博客

12-11

1121

1、PMLL概述用python训练好的机器学习模型如果上线部署，被java调用，可以将模型保存为pmml文件，那么什么是pmml呢？PMML是数据挖掘的一种通用的规范，它用统一的XML格式来描述我们生成的机器学习模型。这样无论你的模型是sklearn,R还是Spark MLlib生成的，都可以将其转化为标准的XML格式来存储。当我们需要将这个PMML的模型用于部署的时候，可以使用目标环境的解析PM...

JAVA调用 keras,在TensorFlow(Python, Java)环境下使用Keras模型

weixin_42509964的博客

03-16

1044

Keras 是一个用 Python 编写的高级神经网络 API，它能够以 TensorFlow, CNTK, 或者 Theano 作为后端运行。Keras 的开发重点是支持快速的实验。有时候我们在使用keras设计好模型后，需要在其他平台进行运行，这时候我们就需要将keras h5 model转换为TensorFlow pb model，因为keras只是一个Python的高级库，而TensorF...

androidjava项目源码-open_nsfw_android::fire::fire::fire:色情图片离线识别，基于TensorFlow实现。识别只需20ms,可

05-19

android java项目源码 open_nsfw_android 色情图片离线识别，基于TensorFlow实现。识别只需20ms,可断网测试，成功率99%，调用只要一行代码，从雅虎的开源项目open_nsfw移植，该模型文件可用于iOS、java、C++等平台 :warning::warning::warning: 已从jCenter仓库迁移到Maven,原引用地址发生变更，建议所有老用户升级到新版本。新版本需要手动下载模型初始化使用 iOS请参考： Python参考：、、 Java参考: C++参考: JavaScript参考其中Python、C++均有两种数据喂入的方式，可根据需求选择pb模型或tfLite文件，详细请参考上面的链接.Java的目前只能加载pb模型。其他的平台可自行本项目移除测试图片，请下载Demo后自行配图测试测试图片开始使用 :fire: ,并放入assets目录下 :fire: 开启tflite文件读取支持(解决模型放在assets目录下无法读取的问题。如果模型不放在assets目录下可跳过该步骤) android { ... aaptOptions { noCompress "tflite" } } :fire:

Java 图像识别

06-13

Java 验证码识别，可识别多种不同类型的验证码，Java 验证码识别，可识别多种不同类型的验证码Java 验证码识别，可识别多种不同类型的验证码

DeepLearning4j-使用Java训练YOLO模型

01-27

本文来自于csdn，文章介绍了数据集、模型训练中读取训练数据以及模型检测可视化等相关内容。在这个Yolov3发布的大好日子。 Deeplearning4j终于迎来了新的版本更新1.0.0-alpha，在zoomodel中引入TinyYolo模型可以训练自己的数据用于目标检测。不得不说，在Yolov3这种性能和准确率上面都有大幅度提升的情况下，dl4j才引入TinyYolo总有一种49年加入国军的感觉数据来源自

JAVA调用 keras_在多处理中使用keras

weixin_35032861的博客

02-27

506

我需要针对从另一个模型做出的预测来训练keras模型 . 预测与一些CPU繁重的代码相关联，因此我希望将它们并行化并让代码在工作进程中运行 . 这是我想要执行的代码：import numpy as npfrom keras.layers import Input, Densefrom keras.models import Modelfrom keras.optimizers import Ada...

JAVA调用 keras,keras vgg19 模型使用

weixin_30030437的博客

03-16

343

参考，一些常见模型的使用，不过预处理函数需要修改还算是比较准确的 from keras.preprocessing import imagefrom keras.applications.vgg19 import VGG19from keras.applications.imagenet_utils import preprocess_input, decode_predictionsimpor...

Java调用Keras、Tensorflow模型

张伟的专栏

11-07

3820

实现python离线训练模型，Java在线预测部署。查看原文目前深度学习主流使用python训练自己的模型，有非常多的框架提供了能快速搭建神经网络的功能，其中Keras提供了high-level的语法，底层可以使用tensorflow或者theano。但是有很多公司后台应用是用Java开发的，如果用python提供HTTP接口，对业务延迟要求比较高的话，仍然会有一定得延迟，所以能...

Java - 图像识别 ；含代码样例_可5分钟内完成_图像识别_java_识别图像

whisperzzza的博客

10-31

2618

在Java开发中，图像识别能力被广泛应用于多种场景，比如证件验证、商品识别等。过去，这类需求主要依赖OCR技术来实现，但识别精度和适应性有限。随着大模型技术的发展，现在可以利用这些先进的AI模型来进行图像识别，不仅大大提升了识别的准确性与效率，还扩展了应用范围，使得复杂背景下的物体检测和分类成为可能，极大地丰富了Java应用程序的功能性和用户体验。本样例是一个java 做图像识别的具体步骤和代码，基于spring ai 和qwen vl大模型。

java调用keras theano模型_keras实现theano和tensorflow训练的模型相互转换代码示例

weixin_36314729的博客

02-26

172

# coding:utf-8"""If you want to load pre-trained weights that include convolutions (layers Convolution2D or Convolution1D),be mindful of this: Theano and TensorFlow implement convolution in different ...

jpmml导出java文件_如何使用 Java 调取 Python、R 的训练模型？

weixin_31517321的博客

03-01

458

原标题：如何使用 Java 调取 Python、R 的训练模型？在工业界，我们经常会使用 Python 或 R 来训练离线模型，使用 Java 来做在线 Web 开发应用——这就涉及到了使用 Java 跨语言来调用 Python 或 R 训练的模型。PMMLPMML 是 Predictive Model Markup Language 的缩写，翻译为中文就是“预测模型标记语言”。它是一种基于X...

whisper可以使用java开发吗

最新发布

04-01

<think>好的，我现在要解决用户的问题：如何用Java实现或调用Whisper ASR模型。首先，我需要了解Whisper本身的情况。根据提供的引用，Whisper是OpenAI开源的语音识别模型，主要用于语音转文本。用户之前提到的Python调用方法（引用2）和CoreML模型转换（引用1）显示，官方支持主要是Python和CoreML。接下来，用户想知道是否可以用Java集成。由于Java生态和Python不同，直接调用Python的模型可能不太方便。我需要考虑几种可能的途径： 1. **通过命令行调用**：引用2提到可以用命令行执行Whisper，Java可以通过Runtime或ProcessBuilder来调用命令行，例如执行`whisper zyj.mp3`这样的命令。然后解析输出结果。这种方法虽然可行，但效率可能不高，尤其是处理大量文件时。 2. **使用JNI或JNA调用本地库**：如果Whisper有C++的实现，可能将其编译成动态库，然后用Java通过JNI调用。但根据提供的引用，主要看到的是Python和CoreML的支持，不确定是否有现成的C++库。可能需要用户自行编译或寻找第三方移植的版本。 3. **利用ONNX Runtime或TensorFlow Java API**：如果Whisper模型可以转换为ONNX或TensorFlow格式，Java可能有相关的推理库。例如，ONNX Runtime提供Java API，可以加载模型进行推理。但需要确认Whisper是否有现成的ONNX模型，或者用户需要自己转换。引用1中提到了CoreML的转换，但那是针对iOS/macOS的，可能不适用于Java环境。 4. **使用HTTP服务封装**：将Whisper部署为REST API服务，例如用Python的Flask或FastAPI创建一个服务，然后Java通过HTTP客户端发送请求获取识别结果。这种方法解耦了Java和Python的环境，适合生产环境，尤其是需要处理大量请求的情况。但需要额外的部署和维护成本。 5. **寻找Java的深度学习框架支持**：检查是否有Java的机器学习框架（如Deeplearning4j）支持加载Whisper模型。不过，Whisper基于PyTorch，而Deeplearning4j主要支持TensorFlow和Keras模型，可能需要模型格式转换，并且可能遇到兼容性问题。接下来，需要评估每种方法的优缺点。例如，命令行调用简单但效率低；JNI需要处理本地代码，复杂度高；HTTP服务适合分布式环境但增加架构复杂性。根据用户的需求，如果是在服务器端使用，可能HTTP服务更合适；如果是嵌入式或移动端，可能需要CoreML（但Java在Android上可能通过JNI调用）。另外，引用4提到离线ASR模型在呼叫中心的应用，用户可能关注离线环境下的集成。因此，直接依赖Python环境可能不可行，需要考虑将模型转换为Java可用的格式，或者使用本地库。总结可能的解决方案，按可行性排序： 1. 命令行调用（简单，适合小规模） 2. HTTP服务封装（适合服务化部署） 3. 使用ONNX Runtime Java版（需要模型转换） 4. JNI调用本地库（需开发C++层）最后，需要提醒用户注意性能、依赖管理和模型转换的挑战，以及官方支持的局限性。建议根据具体场景选择最适合的方法，并可能结合现有工具如Whisper.cpp等第三方项目来简化流程。</think>### 如何用 Java 实现或调用 Whisper ASR 模型？ Whisper 是 OpenAI 开源的语音识别模型，原生支持 Python 接口和命令行调用[^3]。虽然官方未直接提供 Java 接口，但可通过以下方法实现 Java 集成： --- #### 1. **通过命令行调用（推荐）** Java 可通过 `ProcessBuilder` 或 `Runtime.exec()` 调用 Whisper 命令行工具，解析输出结果： ```java import java.io.BufferedReader; import java.io.InputStreamReader; public class WhisperCLI { public static void main(String[] args) { try { Process process = new ProcessBuilder("whisper", "audio.mp3", "--model", "base").start(); BufferedReader reader = new BufferedReader(new InputStreamReader(process.getInputStream())); String line; while ((line = reader.readLine()) != null) { System.out.println(line); // 解析语音识别结果 } } catch (Exception e) { e.printStackTrace(); } } } ``` - **优点**：简单快速，无需修改模型代码[^2]。 - **缺点**：依赖 Python 环境，性能较低。 --- #### 2. **HTTP 服务封装** 将 Whisper 封装为 REST API（如使用 Python 的 Flask/FastAPI），Java 通过 HTTP 客户端调用： ```python # Python 服务端示例（FastAPI） from fastapi import FastAPI, File, UploadFile import whisper app = FastAPI() model = whisper.load_model("base") @app.post("/transcribe") async def transcribe(file: UploadFile = File(...)): result = model.transcribe(await file.read()) return {"text": result["text"]} ``` Java 调用示例（使用 OkHttp）： ```java OkHttpClient client = new OkHttpClient(); RequestBody body = new MultipartBody.Builder() .addFormDataPart("file", "audio.mp3", RequestBody.create(MediaType.parse("audio/*"), new File("audio.mp3"))) .build(); Request request = new Request.Builder().url("http://localhost:8000/transcribe").post(body).build(); Response response = client.newCall(request).execute(); System.out.println(response.body().string()); ``` - **优点**：解耦环境，适合高并发场景[^4]。 - **缺点**：需维护独立服务。 --- #### 3. **使用 ONNX Runtime 或 TensorFlow Java API** 将 Whisper 模型转换为 ONNX/TensorFlow 格式后，通过 Java 推理框架加载： - **步骤**： 1. 将 PyTorch 模型导出为 ONNX 格式。 2. 使用 ONNX Runtime 的 Java 库进行推理。 ```java OrtEnvironment env = OrtEnvironment.getEnvironment(); OrtSession.SessionOptions options = new OrtSession.SessionOptions(); OrtSession session = env.createSession("whisper.onnx", options); // 输入预处理后的音频数据，运行推理 ``` - **优点**：脱离 Python 依赖，性能较高。 - **缺点**：需处理模型转换和输入预处理。 --- #### 4. **通过 JNI 调用 C++ 实现** 若存在 Whisper 的 C++ 移植版本（如 [whisper.cpp](https://github.com/ggerganov/whisper.cpp)），可通过 JNI 封装： ```cpp // C++ 层代码（示例） extern "C" JNIEXPORT jstring JNICALL Java_com_example_WhisperJNI_transcribe(JNIEnv* env, jobject thiz, jstring audio_path) { const char* path = env->GetStringUTFChars(audio_path, nullptr); // 调用 whisper.cpp 进行推理 env->ReleaseStringUTFChars(audio_path, path); return env->NewStringUTF(result_text.c_str()); } ``` - **优点**：高性能，适合离线场景[^1]。 - **缺点**：开发复杂度高，需维护跨语言代码。 --- ### 方案对比 | 方法 | 开发难度 | 性能 | 依赖性 | 适用场景 | |-------------------|----------|------|------------|------------------------| | 命令行调用 | 低 | 低 | Python | 小规模测试 | | HTTP 服务 | 中 | 中 | 网络/服务 | 生产环境分布式调用 | | ONNX/TensorFlow | 高 | 高 | 模型转换 | 嵌入式/边缘计算 | | JNI + C++ | 极高 | 极高 | 本地编译 | 高性能离线场景 | --- #### 注意事项 1. **模型格式**：若需脱离 Python，优先选择 ONNX 或 CoreML 格式（引用1中生成 CoreML 模型的方法可适配 iOS/macOS，但不直接支持 Java）。 2. **性能优化**：对于呼叫中心质检等场景（引用4），建议采用 HTTP 服务或 C++ 集成以保障吞吐量。 3. **依赖管理**：确保 Java 环境与 Whisper 的依赖（如 FFmpeg）兼容。可根据实际需求选择最适合的集成方式。