ONNX.js使用教程

最新推荐文章于 2024-11-28 02:42:15 发布

段日诗

最新推荐文章于 2024-11-28 02:42:15 发布

阅读量952

点赞数 13

CC 4.0 BY-SA版权

本文链接：https://blog.youkuaiyun.com/gitblog_00738/article/details/142802952

ONNX.js使用教程

onnxjs ONNX.js: run ONNX models using JavaScript 项目地址: https://gitcode.com/gh_mirrors/on/onnxjs

项目介绍

ONNX.js是一个由微软开发的JavaScript库，它使开发者能够在浏览器端和Node.js环境中运行ONNX模型。ONNX（Open Neural Network Exchange）作为一个开放标准，用于表示机器学习模型，促进不同AI框架之间的互操作性。ONNX.js通过采用WebAssembly和WebGL技术，提供了针对CPU和GPU优化的ONNX模型推理运行环境，旨在减少服务器到客户端的通信需求，保护用户隐私，并实现无需安装的跨平台浏览器内机器学习体验。

项目快速启动

在HTML中直接使用

要快速开始在网页上使用ONNX.js，您可以通过以下简单的步骤来实现：

<!DOCTYPE html>
<html>
<head>
    <!-- 加载ONNX.js -->
    <script src="https://cdn.jsdelivr.net/npm/onnxjs/dist/onnx.min.js"></script>
</head>
<body>
    <script>
        async function runInference() {
            const session = new onnx.InferenceSession();
            await session.loadModel('/path/to/your-model.onnx');
            
            let inferenceInputs = {}; // 根据您的模型准备输入数据
            const output = await session.run(inferenceInputs);
            console.log('模型输出:', output.values().next().value);
        }
        runInference();
    </script>
</body>
</html>

使用npm和现代构建工具

如果您正在构建基于React、Angular或Vue.js等现代前端框架的应用，可以通过npm安装ONNX.js并将其集成到您的TypeScript或JavaScript项目中：

import { Tensor, InferenceSession } from "onnxjs";

async function start() {
    const session = new InferenceSession();
    await session.loadModel('./models/model.onnx');

    const inputs = [new Tensor(new Float32Array(/* 模型所需输入数据 */), 'float32', [/* 输入形状 */])];
    const outputMap = await session.run(inputs);
    const outputTensor = outputMap.values().next().value;
    console.log('模型输出:', outputTensor.data);
}
start();