思腾云计算

 Atlas 300I Pro 推理卡性能、应用场景、技术规格介绍

Sitonholy 思腾合力 2023-11-01 16:39 发表于北京

收录于合集#国产系列1个

Atlas 300I Pro 推理卡是基于昇腾AI处理器的新一代高性能推理卡,融合“通用处理器、AI Core、编解码”于一体,提供超强AI推理、目标检索等功能,具有超强算力、超高能效、高性能特征检索、安全启动等优势,可广泛应用于OCR识别、语音分析、搜索推荐、内容审核等诸多AI应用场景。

图片

性能特点

超强算力

单卡最大提供140 TOPS INT8算力,为数据中心推理提供更强大支持
支持 8 core * 1.9 GHz CPU计算能力

超高能效

提供 2 TOPS/W 超高能效比,达到业界2.1倍
高性能特征检索
支持特征检索硬件加速,亿级底库秒级查询(55亿次/秒),大幅提升检索比对性能

安全启动

设备启动链完整,启动初始状态确定,防止后端植入

图片

可维护性特点

◆ 支持带内的在线升级,方便客户进行日常维护。

◆ 支持带内及带外获取温度、电压、功耗等设备状态信息,图形界面让管理更简单。

◆ 完备的命令行管理功能,用户可以通过各种命令进行日常的设备管理。

◆ 支持带内及带外资产管理功能,提供序列号等信息,方便资产管理。

典型应用场景

Atlas 300l Pro 推理卡典型应用场景为搜索推荐、内容审核和OCR系统。

搜索推荐系统主要根据用户输入( 用户画像、搜索词等),通过召回和排序算法,在内容池中筛选出最终推荐的素材(视频、文本等)。主要应用在互联网等领域。搜索推荐系统主要部件有推理服务器、客户端信息化系统软件组成,Atlas 300l Pro 推理卡部署在推理服务器中,主要实现用户数据类别召回、排序、重排序等推理功能。

内容审核系统主要采用了数据评级打分算法,实现了视频、图像、语音、文本等审核功能。主要应用在互联网等领域。内容审核系统主要部件有NLP服务器、中心管理服务器、信息化系统软件组成。Atlas 300I Pro 推理卡部署在NLP服务器中,主要实现视频、图像、语音、文本的审核校验等推理功能。

OCR系统主要采用了文本检测和文本识别算法,实现了身份证实名认证、票据识别、档案资料和信息录入、电子签名识别等功能。主要应用在智慧政务、智慧金融等领域。OCR系统架构主要部件有扫描仪、OCR服务器、中心管理服务器、信息化系统等软件组成。Atlas 300I Pro 推理卡部署在OCR服务器中,主要实现图片预处理、文本检测、文本识别、后处理校验等推理功能。

推理卡技术规格

图片

### 腾合力SCM与Jupyter集成使用指南 #### 配置环境 为了使腾合力SCM能够支持Jupyter Notebook,需先安装必要的依赖库。通常情况下,在云服务器环境中操作如下命令可以完成基本配置[^1]: ```bash pip install jupyter notebook ``` #### 启动服务 启动Jupyter服务前,建议创建一个新的虚拟环境来隔离不同项目的包管理。之后通过下面的指令开启Jupyter的服务端口并设置访问密码。 ```bash jupyter notebook --generate-config jupyter notebook password ``` 对于安全性和远程访问的需求,可以通过修改`~/.jupyter/jupyter_notebook_config.py`文件中的参数实现更细粒度的安全控制和网络配置调整。 #### 文件上传与项目构建 当涉及到具体的文件传输任务时,如向腾合力SCM平台上传数据集或模型镜像等资源,则可参照官方文档说明执行相应的SCP/SFTP协议下的文件传送动作。此外,利用Python内置模块`os`, `shutil`也可以简化本地到云端的数据同步过程。 #### 提交作业流程 针对批量处理需求或是自动化调度场景下,编写Shell脚本配合Cron定时器成为了一种高效的方式。而对于交互式的编程体验而言,直接在Notebook单元格内运行代码片段即可满足大多数情况的要求。 #### 常见问题解答 如果遇到连接超时、权限不足等问题,检查防火墙规则以及SSH密钥认证状态是非常重要的排查方向之一;另外确认目标主机上的相应端口号未被占用也十分必要。 ```python import os print(os.getcwd()) # 打印当前工作目录路径 ```
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值