- 博客(26)
- 收藏
- 关注
原创 安装 Dify 并集成 Ollama 和 Xinference
本文介绍了通过 Docker 安装 Dify,然后集成 Ollama 和 XInference,并利用 Dify 快速搭建一个基于知识库问答的应用。
2024-10-11 19:41:18
1646
原创 安装 Dify 并集成 Ollama 和 Xinference
本文介绍了通过 Docker 安装 Dify,然后集成 Ollama 和 XInference,并利用 Dify 快速搭建一个基于知识库问答的应用。
2024-09-13 08:00:00
2885
原创 Xinference 本地运行大模型
本文介绍了如何使用 Docker 部署 Xinference 推理框架,并演示了如何启动和运行多种大模型,包括大语言模型、图像生成模型和多模态模型。还讲解了嵌入和重排模型的启动方法,为后续 Dify 调用嵌入和重排模型做为铺垫。
2024-09-12 16:41:02
6304
1
原创 Ollama 结合 Open-WebUI 在本地运行大语言模型
OLLAMA_KEEP_ALIVE=-1,模型加载后,默认的Keepalive是5分钟,修改为-1可以让模型持续启动,OLLAMA_KEEP_ALIVE=60 表示 60 秒,OLLAMA_KEEP_ALIVE=10m 表示10分钟。根据Docker Hub ollama主页 https://hub.docker.com/r/ollama/ollama [1],快速启动容器,注意,:它将模型权重、配置和数据捆绑到一个包中,称为 Modelfile,这有助于优化设置和配置细节,包括 GPU 使用情况。
2024-08-29 10:17:10
2064
原创 AWS EC2 GPU 实例简介及费用对比
us-east-2按需实例费用折算成人民币为。[3] Amazon 宁夏区域EC2按需实例价格:https://www.amazonaws.cn/ec2/pricing/ec2-linux-pricing/[4] NVIDIA A10G 显卡:https://www.nvidia.com/en-us/data-center/products/a10-gpu/[2] Amazon 俄亥俄州EC2按需实例价格:https://aws.amazon.com/cn/ec2/pricing/on-demand/
2024-08-28 12:16:42
2521
原创 Hugging Face 模型下载及使用
Hugging Face Spaces是一个允许用户轻松部署和分享AI应用的平台,很多大模型都会在Spaces上发布不同版本的模型,为大家提供测试。脚本 [6],通过图形化页面进行对话,脚本网址是https://github.com/QwenLM/Qwen2/blob/main/examples/demo/web_demo.py。进入Qwen2-0.5B-Instruct页面https://huggingface.co/Qwen/Qwen2-0.5B-Instruct,拷贝模型链接 [5]。
2024-08-28 12:12:37
757
原创 AWS 上配置 Paloalto GlobalProtect
本篇文档介绍了在 AWS 上配置 Palo Alto GlobalProtect VPN 的完整流程。内容包括实例启动和初始化、防火墙接口配置、证书创建、认证方式设置、区域和地址池的建立、VPN 网关和门户的配置、客户端安装和连接测试、安全策略及 NAT 配置、保留客户端原始 IP 地址的 Ghost Pool 方法,以及主机信息收集(HIP)与授权许可的应用。
2024-08-26 16:31:20
1437
1
原创 Panorama系列--(5)Panorama配置QoS
Palo Alto Networks 防火墙上配置QoS需要配置三个部分,分别是QoS Profile、QoS Policy以及 QoS 出口接口的设置。
2023-02-20 21:38:20
604
原创 Panorama系列--(4)Panorama收集日志与添加磁盘
Panorama 可以聚合所有管理防火墙的日志,并显示网络中所有流量的信息。此外,它还提供了所有策略修改的审核记录和对受管防火墙所作的配置更改。
2023-02-20 21:33:21
496
原创 Panorama系列–(3)Panorama模板、堆栈、设备组
Panorama会管理很多防火墙,Panorama修改防火墙配置时,往往会同时修改很多防火墙的配置。通过将防火墙加入相同的设备组,就可以共享设备组中的Policy(策略)和Objects(对象)。
2023-02-20 21:30:37
475
原创 Panorama系列--(2)AWS上搭建Panorama测试环境
Panorama主要用来管理多台防火墙,在AWS云上,对流量做集中安全检测一般会有多台防火墙,所以这里利用CloudFormation搭建了流量集中检测的LAB环境,然后利用Panorama管理这两台防火墙。
2023-02-11 15:18:16
1054
原创 AWS 上结合Router53构建思科远程访问虚拟私有网络高可用架构
在AWS通过Router53的DNS负载均衡,搭建思科远程访问虚拟私有网络的高可用架构。
2022-12-28 10:21:40
429
原创 利用openVuln API自动化查询思科产品漏洞
利用思科PSIRT提供的openVuln API自动化查询思科产品漏洞,并将查询结果保存为Excel文件。
2022-12-19 09:29:30
436
原创 AWS GWLB对访问ALB流量做安全检测
AWS Gateway Load Balancer对访问Application Load Balancer流量做安全检测,并关联AWS WAF策略,使用Linux iptables模拟防火墙,全自动化搭建实验环境。
2022-11-15 12:08:41
626
原创 AWS GWLB对访问NLB流量做安全检测
AWS Gateway Load Balancer对访问Network Load Balancer流量做安全检测,使用Linux iptables模拟防火墙,全自动化搭建实验环境。
2022-11-07 18:20:59
550
原创 利用CloudFormation自动化部署AWS GWLB集成FortiGate防火墙
利用CloudFormation自动化部署AWS GWLB集成FortiGate防火墙
2022-11-01 19:45:17
430
原创 利用CloudFormation自动化部署AWS GWLB集成Palo Alto防火墙
利用CloudFormation自动化部署AWS GWLB集成Palo Alto防火墙
2022-10-31 09:29:40
319
原创 AWS GWLB集成Palo Alto防火墙
AWS Gateway Load Blancer集成Palo Alto防火墙对流量做集中的安全检测。
2022-10-14 15:52:45
962
原创 AWS CloudFormation 系列--(3)Python操作CloudFormation
通过Python操作CloudFormation,创建和删除堆栈、获取堆栈输出信息。
2022-10-12 23:26:37
428
原创 AWS上配置Cisco ASAv AnyConnect
这里演示了如何在AWS上搭建思科的SSLVPN,用来解决员工远程办公的需求。文章需要你有一定的AWS和SSLVPN基础。个人博客地址:https://liuqianglong.com文章视频地址:https://space.bilibili.com/4087739311、实验简介最近一直在研究思科防火墙的SSLVPN,用来解决员工远程办公的问题。传统上一般使用ASA55XX系列的硬件防火墙做SSLVPN,使用ASAv与使用硬件防火墙功能特性几乎没有区别。ASAv在vSphere和AW..
2021-02-13 14:48:20
3100
1
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人