NVIDIA Jetson 容器项目推荐
1. 项目基础介绍和主要编程语言
NVIDIA Jetson 容器 是一个为 NVIDIA Jetson 平台设计的机器学习容器项目,旨在为 Jetson 设备提供预构建的 AI/ML 容器。该项目由 Dusty-nv 维护,托管在 GitHub 上,地址为 https://github.com/dusty-nv/jetson-containers。
该项目主要使用以下编程语言和工具:
- Python:61.2%
- Dockerfile:11.2%
- Shell:9.8%
- Jupyter Notebook:8.4%
- HTML:4.1%
- JavaScript:3.6%
- 其他:1.7%
2. 项目核心功能
NVIDIA Jetson 容器项目提供了一个模块化的容器构建系统,支持多种 AI/ML 框架和工具,包括但不限于:
- PyTorch
- TensorFlow
- ONNX Runtime
- DeepStream
- Triton Inference Server
- JupyterLab
- LLM (Large Language Models)
- Transformers
- Text-Generation-WebUI
- Ollama
- Llama.cpp
- Exllama
- LLaVA
- AutoGPTQ
- MLC (Machine Learning Compiler)
- Optimum
- Nemo
- RAG (Retrieval-Augmented Generation)
- Llama Index
- LangChain
- Jetson Copilot
- NanoDB
- FAISS
- RAFT
- L4T (Linux for Tegra)
- CUDA
- ROS (Robot Operating System)
- ROS2
- OpenCV
- Realsense
- ZED
- OLED
- Stable Diffusion WebUI
- ComfyUI
- Nerfstudio
- Pymeshlab
- AI Toolkit
- Speech
- Whisper
- Whisper_trt
- Piper
- Riva
- Audiocraft
- Voicecraft
- Smart Home
- Home Assistant
- Wyoming Whisper
- Wyoming OpenWakeWord
- Wyoming Piper
- Wyoming Assist Microphone
3. 项目最近更新的功能
NVIDIA Jetson 容器项目最近更新的功能包括但不限于:
- NanoLLM:支持在 Jetson 设备上运行 LLaVA-1.5 13B 和 Llama-2-70B 进行多模态语音聊天。
- NanoDB:实时多模态向量数据库。
- NanoOWL:开放词汇对象检测 ViT。
- NanoSAM:Segment Anything (SAM) 和 Track Anything (TAM)。
- Live Llava:在 Jetson AGX Orin 上实时运行 Llava 2.0,结合 VILA 和多模态 NanoDB。
- Small Language Models (SLM):在 Jetson Orin Nano 上运行小语言模型。
- Realtime Video Vision/Language Model:使用 VILA1.5-3b 进行实时视频视觉/语言模型。
这些更新进一步增强了 Jetson 设备在 AI/ML 领域的应用能力,提供了更多样化的工具和框架支持。
创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考