云平台一键部署【Llama3.3-70B-Instruct】

前几天 Meta 宣布推出一款新的 Llama 系列生成式 AI 模型：70亿参数的 Llama 3.3、又称 Llama 3.3 70B。CEO 扎克伯格在旗下社交媒体 Instagram 称，这是今年最后一次 AI 大模型更新，下一步就是明年 Llama 4 亮相。Meta 的生成式人工智能副总裁 Ahmad Al-Dahle 表示，Llama 3.3 70B 模型使用最新的后训练技术，包括在线偏好优化，该模型在显著降低成本的同时提升了核心性能，以更低的成本实现了等效于 Llama 3.1 405B 的性能。

Llama 3.3 是一种自回归语言模型，采用了优化的 Transformer 架构。经过调优的版本使用了监督微调（SFT）和基于人类反馈的强化学习（RLHF），以便与人类偏好在有用性和安全性方面进行对齐。

模型构架

模型	训练数据	参数	输入模态	输出模态	上下文长度	GQA（泛化问答）	Token数量
Llama 3.3 (仅文本)	一种新的、公开可用的在线数据混合。	70B	多语言文本	多语言文本和代码	128k	是	15T+

支持的语言：英语、德语、法语、意大利语、葡萄牙语、印地语、西班牙语和泰语。

• Github：https://github.com/meta-llama/llama-models

• Huggingface：https://huggingface.co/meta-llama/Llama-3.3-70B-Instruct

• 官方主页：https://www.llama.com/docs/model-cards-and-prompt-formats/llama3_3

Llama3.3-70B-Instruct模型已经在趋动云『社区项目』上线，无需自己创建环境、下载模型，一键即可快速部署，快来体验Llama3.3-70B-Instruct带来的精彩体验吧！

• 项目入口：https://open.virtaicloud.com/web/project/detail/521877956092522496

视频教程

云平台一键部署云端巨兽：Llama3.3-70B-Instruct 震撼来袭！

启动开发环境

进入Llama3.3-70B-Instruct项目主页中，点击运行一下，将项目一键克隆至工作空间，『社区项目』推荐适用的算力规格，可以直接立即运行，省去个人下载数据、模型和计算算力的大量准备时间。

配置完成，点击进入开发环境，根据主页项目介绍进行部署。

使用方法

WebUI界面操作：找到介绍&部署.ipynb，选中WebUI快速体验单元格，点击运行，等待生成local URL，右侧添加端口8000，浏览器访问外部访问链接

WebUI界面使用:

Transformer脚本推理：

➫温馨提示： 完成项目后，记得及时关闭开发环境，以免继续产生费用！

智汇全球，趋动未来

『社区项目』汇聚全球智慧，是促进技术交流的宝贵平台，期待每一位AI爱好者体验一键部署功能的强大魅力。

同时，我们也热切盼望每一位码友加入，分享您的精品作品，共筑这个充满活力与创新的技术乐园。

趋动云

连接算力・连接人

注册即领
10元算力金

更多福利，扫码添加小助手 邀你入群~

做新手任务
再得180元算力金

请注册后联系小助手，获取新手任务

▼HOT 趋动云火热注册中！点击 “阅读原文” 即可尝鲜~