LIama3 五一超级课堂 前置知识VScode 远程连接开发机

InternStudio

环节配置 Tips

VSCode 远程连接 InternStudio 开发机

这一部分,为没有使用过 VSCode 进行开发的小伙伴准备的,让大家快速上手 VSCode ,并且教大家如何创建开发机以及,使用 VSCode 配置好远程连接开发机的环境,减少大家在后续课程中的出现运行服务的错误。

一、安装 VSCode

首先打开VSCode下载界面,点击 System Installer x64 的安装包下载。

根据自身电脑系统选择对应的安装包,如果你是 Mac 用户,请下载 Mac 版本,如果是 Linux 用户请点击下载对应的 deb 安装包。

下载完成以后,找到下载好的安装程序,双击运行,安装完成以后,打开 VSCode

安装 VSCode 插件

安装完 VSCode 之后,打开 VSCode 并点击左侧的扩展按钮,搜索并安装如下插件:

  • Remote SSH

点击 Install ,安装 Remote SSH 的同时也会安装

  • Remote - SSH: Editing Configurat
  • Remote Explorer

二、配置 VSCode 远程连接开发机

安装完插件之后,我们来到InternStudio,可以看到以下界面,然后我们点击"创建开发机"

接着我们配置开发机的名称,镜像以及GPU资源,

完成开发机创建以后,我们启动开发机,点击 SSH 连接。

### 下载 Llama 模型最新版本的方法 为了获取最新的 Llama 模型,可以按照以下方法操作: #### 官方渠道下载 可以通过 Meta 提供的官方网站资源页面访问模型下载链接。具体地址如下[^2]: ```plaintext https://ai.meta.com/resources/models-and-libraries/llama-downloads/ ``` 在此页面中,用户需完成注册并同意相关协议后,即可获得一个专属的下载 URL 链接。该链接通常形如 `https://download.llamameta.net/` 并附带授权令牌。 #### 使用官方脚本下载 Meta 还提供了自动化脚本来简化模型下载过程。此脚本可以从 GitHub 的 Llama 仓库中找到,并支持多种操作系统环境运行。以下是 Python 脚本的一个简单示例[^2]: ```bash git clone https://github.com/facebookresearch/llama.git cd llama pip install -r requirements.txt python download.py --model {MODEL_NAME} --output_dir ./models ``` 其中 `{MODEL_NAME}` 是指代具体的模型名称(例如 `7B`, `13B` 等)。执行完成后,模型文件会被保存到指定路径下。 #### 基于第三方实现的选择 对于希望快速部署或测试场景下的开发者来说,也可以考虑一些社区维护良好的项目来加载预训练权重数据集。例如 ggerganov 开发了一个完全采用 C/C++ 编写的高性能推理引擎——`llama.cpp`[^3] ,它允许在不依赖 GPU 加速的情况下高效运行较小规模变体版本。 其源码托管位置为: ```plaintext https://github.com/ggerganov/llama.cpp ``` ### 注意事项 - **许可协议**: 在任何情况下都应严格遵循 Meta 发布条款规定, 不得擅自传播未经处理过的原始参数集合. - **硬件需求评估**: 根据所选架构大小提前确认计算设备内存容量是否满足最低配置建议. ```python import requests def fetch_latest_model_url(): url = 'https://ai.meta.com/resources/models-and-libraries/llama-downloads/' response = requests.get(url) if response.status_code == 200: return f"Visit this link to apply and get your personal model download URL: {url}" else: raise Exception(f"Failed to retrieve the latest version information from official site with status code:{response.status_code}") print(fetch_latest_model_url()) ```
评论 3
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值