【云服务器】什么是ECS?云服务器科普

在这里插入图片描述

👏大家好!我是和风coding,希望我的文章能给你带来帮助!
🔥如果感觉博主的文章还不错的话,请👍三连支持👍一下博主哦
📝点击 我的主页 还可以看到和风的其他内容噢,更多内容等你来探索!
📕欢迎参观我的个人网站:Gentlewind

在这里插入图片描述



什么是云服务器ECS

云服务器(Elastic Compute Service,简称ECS)是一种简单高效,处理能力可弹性伸缩的计算服务,可以帮助我们快速构建更稳定,安全的应用,提升运维效率,降低it成本。

  • 它是阿里云产品体系中最基础的计算服务,通话吃那个用作应用程序的运行环境,起最重要的特性就是弹性。

  • 基于阿里云自助研发的大规模分布式计算系统,通过虚拟发技术整理it资源,也就是吧服务器虚拟化到云端

  • 每个ECS实例上都运行着由用户选择的操作系统,一般是某个linux或windows的发行版,应用程序会运行在实例的操作系统之上

ECS的弹性伸缩

ECS最重要的特点就是弹性,分为纵向扩展和横向扩展两种能力

  • 纵向的弹性,即单个服务器的配置变更。就是你买了云服务器之后,可以根据业务的增长自由的增加服务器的容量或更改服务器配置。

  • 横向的弹性,就是在例如购物节这种流量高峰期,弹性的提供更多资源,而在业务高峰消失时,可以将多余的资源释放掉,减少业务成本的开支。

    image-20231228161451390


与传统服务器的对比

image-20231228154607904

在云服务器上快速搭建网站

选型配置

各种配置如下:

image-20231228154904688

计费模式

阿里云根据不同的应用场景,提供了两种计费模式

image-20231228155036633

主要看使用场景来进行选择。

创建实例

阿里云培训中心 (aliyun.com)

云服务器最基本操作:实例管理

实例有什么用?

一个云服务器ECS实例等同于一台虚拟计算机,包含CPU,内存,操作系统,带宽,磁盘等最基础的计算组件。

  • 你可以方便的地址,更改实例的配置

  • 你对该虚拟机拥有完全的控制权,只需要登录到阿里云,就可以使用云服务器,并进行独立的管理、配置。

  • 实例(Instance):是一个虚拟的计算环境,由CPU、内存、系统盘和运行的操作系统组成;ECS实例作为云服务器最为核心的概念,其他资源,比如磁盘、IP、镜像、快照等,只有与ECS结合后才具有使用意义。

  • 地域(Region):指ECS实例所在的物理位置。地域内的ECS实例内网是互通的,不同的地域之间ECS实例内网不互通。

  • 可用区(Zone):指在同一地域内,电力和网络互相独立的物理区域。

  • 磁盘(Disk):是为ECS实例提供数据块级别的数据存储。可以分为4类: 普通云盘、SSD云盘、高效云盘和本地SSD磁盘。

  • 快照(Snapshot):是某一个时间点上某个磁盘的数据拷贝。

  • 镜像(Image):是ECS实例运行环境的模板,一般包括操作系统和预装的软件。

  • 安全组(Security Group):是一种虚拟防火墙,具备状态检测包过滤功能。每个实例至少属于一个安全组。同一个安全组内的实例之间网络互通,不同安全组的实例之间默认内网不通,但是可以授权两个安全组之间互访。

点击实例id,进入实例管理界面

image-20231228163600741

首次使用先重置密码

image-20231228164847132

重启实例,等待片刻

image-20231228163518707

等到这里显示运行,复制公网ip

image-20231228164931759

连接服务器

打开Xshell,新建会话,粘贴公网ip,会话名可以自定义

image-20231228165321193

点击连接服务器

image-20231228165427954

输入用户名,一般都是root

image-20231228165453179

输入刚刚重置的密码

image-20231228165531728

停止实例

image-20231228173952660

选择普通的停止就可以了

image-20231228174009856

升降级配置

image-20231228174720688

更换操作系统

什么情况下需要更换操作系统?

image-20231228174812150

windows:可视化界面

linux:安全稳定,开源

首先要停止服务器,然后右边往下拉点击更换操作系统

image-20231228175501787

云服务器磁盘管理

磁盘有什么用?

  • 普通云盘:低负载应用
  • 高效云盘:中小型数据库
  • SSD云盘:高端应用,中大型数据库

image-20231228175711004

创建云盘

image-20231228191809157

挂载云盘到对应的实例

image-20231228191843119

为你的应用创建一个备份——快照管理

快照有什么用?

快照是一种便捷高效的数据保护服务手段,推荐应用于一下业务场景中:

image-20231228192050414

image-20231228195738036

让别人也能使用你搭建好的环境 ——镜像管理

镜像有什么用?

镜像是云服务器ECS实例运行环境的模板,一般包括操作系统和预装的软件。我们可以使用镜像创建新的ECS实例和更换ECS实例的系统盘。

image-20231228195656042

使用快照来创建一个自定义镜像

image-20231228195925363

加固你的网站——云上应用的安全

安全组有什么用?

安全组是一种虚拟防火墙,具备状态监测包过滤功能。安全组用预设值单台或多态云服务器的网络访问控制,它是一个重要的网络安全隔离手段,用于在云端划分安全域。

安全组是一个逻辑上的分组,这个分组是由用一个地域内具有相同安全保护需求并相互信任的实例组成。每个实例至少属于一个安全组,在创建的时候就需要指定。同一安全组内的实例之间网络互通,不同安全组的实例之间默认内网不通。可以授权两个安全组之间互访。

image-20231228202136163

1:允许1.2.3.4访问22端口(优先级为1,最优先)

2:拒绝所有ip地址访问22端口(优先级为2,仅次于1)

<think>好的,我现在需要帮助用户了解如何在云服务器上部署Hugging Face模型。首先,我得确定用户的需求是什么。他们可能已经对Hugging Face有一定的了解,但需要具体的部署步骤。可能用户是一位开发者或者数据科学家,想要将训练好的模型应用到生产环境中,比如部署到云服务器上,供API调用。 接下来,我需要考虑用户可能使用的云平台。常见的如AWS、Google Cloud、Azure,或者国内的阿里云、腾讯云等。虽然用户没有指定具体的平台,但最好提供通用的步骤,或者以某个主流平台为例,比如AWS,因为它的普及率较高。不过,可能也要提到不同平台的差异,或者建议用户根据自己熟悉的平台进行调整。 然后,部署Hugging Face模型通常涉及到几个步骤:准备模型、选择部署方式、配置环境、设置API接口等。用户可能需要知道如何将模型从Hugging Face Hub下载到服务器,或者直接使用Transformers库加载。此外,是否需要容器化部署,比如使用Docker,或者使用云服务提供的机器学习服务(如AWS SageMaker)来简化流程? 另外,用户可能关心如何将模型封装成API,以便外部调用。这时候可能需要使用像FastAPI或Flask这样的框架。同时,还需要考虑依赖管理、环境配置、安全性、性能优化等问题。例如,如何安装PyTorch或TensorFlow,如何处理模型推理的GPU加速,是否需要使用Nginx作为反向代理,或者如何处理HTTPS加密等。 还有可能涉及到的步骤包括:购买和配置云服务器实例,安装必要的软件(如Python、Git),设置虚拟环境,处理防火墙规则开放端口,以及监控和维护部署后的服务。用户可能还需要了解如何测试API,确保模型正确响应请求,以及如何进行压力测试和性能调优。 另外,用户可能对成本有所考虑,不同的云服务提供商和实例类型会有不同的费用结构。可能需要建议用户根据模型的大小和预期的负载选择合适的实例类型,比如是否需要GPU实例来加速推理,或者是否可以使用CPU实例以降低成本。 还要注意安全性问题,比如如何保护API端点不被滥用,是否需要使用API密钥或OAuth进行身份验证,如何处理输入数据的验证,防止注入攻击等。 可能还需要提到持续集成和持续部署(CI/CD)的流程,如果用户希望自动化部署过程的话。例如,使用GitHub Actions或GitLab CI来自动测试和部署模型更新到云服务器。 最后,可能需要给出一个具体的例子,逐步演示从准备模型到部署API的整个过程,这样用户能更直观地理解每个步骤。例如,使用Flask创建一个简单的API,将Hugging Face的预训练模型(如BERT)部署到AWS EC2实例上,并测试其功能。 需要注意的是,用户可能遇到的问题,例如依赖冲突、端口被占用、权限不足等,应该提前给出解决方案或排查步骤。此外,可能还要推荐一些工具或服务,如Hugging Face的Inference API,或者第三方部署工具,以简化流程。 总结下来,回答的结构应该是分步骤的,清晰明了,涵盖环境准备、模型获取、API创建、服务器配置、测试验证等方面,同时考虑不同情况和可能的问题,提供相应的建议和解决方案。需要确保技术细节准确,例如正确的命令和代码示例,以及正确的配置方法。最后,生成的相关问题可以帮助用户进一步探索优化部署、监控维护、安全措施等内容。</think>### 在云服务器部署Hugging Face模型的步骤 #### 1. 环境准备 - **选择云服务商**:例如AWS EC2、Google Cloud VM或阿里云ECS,创建实例时建议选择Ubuntu/CentOS等常用系统[^1]。 - **安装依赖**: ```bash sudo apt update && sudo apt install python3-pip git -y pip install transformers torch flask gunicorn # 基础依赖 ``` #### 2. 模型获取 - **从Hugging Face Hub下载**: ```python from transformers import pipeline model = pipeline("text-classification", model="distilbert-base-uncased-finetuned-sst-2-english") model.save_pretrained("./deploy_model") # 保存模型到本地 ``` #### 3. 创建API服务 - **使用Flask编写接口**(保存为`app.py`): ```python from flask import Flask, request, jsonify from transformers import pipeline app = Flask(__name__) model = pipeline("text-classification", model="./deploy_model") @app.route('/predict', methods=['POST']) def predict(): text = request.json.get('text') result = model(text) return jsonify(result) if __name__ == '__main__': app.run(host='0.0.0.0', port=5000) ``` #### 4. 服务器配置 - **开放端口**: ```bash sudo ufw allow 5000 # 允许外部访问5000端口 ``` - **启动服务**: ```bash gunicorn -w 4 -b 0.0.0.0:5000 app:app # 使用4个工作进程 ``` #### 5. 验证与测试 - **发送测试请求**(本地使用curl): ```bash curl -X POST http://<服务器IP>:5000/predict -H "Content-Type: application/json" -d '{"text":"I love this product!"}' # 预期返回:{"label":"POSITIVE","score":0.9998} ``` #### 6. 进阶优化 - **容器化部署**(使用Docker): ```dockerfile FROM python:3.9-slim COPY . /app WORKDIR /app RUN pip install -r requirements.txt EXPOSE 5000 CMD ["gunicorn", "-w", "4", "-b", "0.0.0.0:5000", "app:app"] ``` - **GPU加速**:若使用NVIDIA GPU,选择支持CUDA的云实例,安装`nvidia-docker`并修改Dockerfile基础镜像为`nvidia/cuda:11.8.0-base`。 ---
评论 2
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值