- 博客(35)
- 收藏
- 关注
RSS订阅原创 本地LLM部署--Open WebUI（多媒体工具FFMPEG作用）
OpenWebUI 是一个基于 Web 的接口项目，提供与各种 AI 模型交互的功能，而 FFmpeg 则是一种多媒体处理工具，用于处理音视频数据。在配置 OpenWebUI 时，
2025-01-06 17:37:53
1689
原创 本地LLM部署--Open WebUI（多媒体工具FFMPEG安装）
无论是转码、剪辑还是流媒体处理，FFmpeg 都能满足您的需求。如果需要其他平台的版本（如 Linux 或 ARM64），也可以根据提供的版本列表进行下载和安装，请访问。以下是 Windows 系统上安装 FFmpeg 的详细步骤，包括如何选择适合的版本以及 Shared 类型和 Static 类型的区别。安装完成后，您可以使用 FFmpeg 进行各种多媒体处理操作。为了在命令行中直接使用 FFmpeg，需要将其路径添加到系统环境变量中。FFmpeg 提供了多个预编译版本，您可以根据需求选择合适的版本。
2025-01-06 17:24:55
1017
原创 Microsoft C++ 生成工具提供 MSVC 工具集
MSVC（Microsoft Visual C++）是Windows平台上最广泛使用的开发工具之一。
2025-01-05 16:49:52
2326
1
原创 深入了解 Python 的 venv 虚拟环境
venvmyenv/├── bin/ # 存放激活脚本和 Python 可执行文件 (Linux/macOS)├── Scripts/ # 存放激活脚本和 Python 可执行文件 (Windows)├── include/ # C 头文件，用于构建 Python 扩展模块├── lib/ # 存放虚拟环境中的 Python 标准库和依赖库│ ├── site-packages/ # 第三方库的安装位置├── pyvenv.cfg # 虚拟环境配置文件，记录了 Python 版本信息。
2025-01-05 14:13:43
1063
原创 Kali网络排查详细教程
fill:#333;color:#333;color:#333;fill:none;1. 外部 ISP2. 宿主机3. 虚拟化平台4. Kali 系统。
2025-01-02 17:33:50
986
原创 本地LLM部署--llama.cpp
llamma.cpp），也是本地化部署LLM模型的方式之一，除了自身能够作为工具直接运行模型文件，也能够被其他软件或框架进行调用进行集成。默认编译流程设计更多针对 Linux/macOS，所以在 Windows 上需要额外设置和工具支持。从Visual Studio 官网下载并安装。在安装时选择C++ 桌面开发工作负载。下载和配置llama.cpp克隆项目：git clone https://github.com/ggerganov/llama.cpp.git cd llama.cpp使用。
2024-12-29 17:01:01
4659
原创 为什么提到各种本地化部署模型软件时总要提到 llama.cpp?
cpp尽管名字里有 “cpp”，它实际上指的是基于 C++ 开发的一整套工具，用于高效地在本地运行大语言模型（LLM）。
2024-12-29 15:07:31
1078
原创 本地LLM部署--Ollama 入门教程
Ollama 是一款专注于快速开发、部署和运行大语言模型的平台。无论是学习AI，还是将其集成到实际项目中，Ollama 都能提供简单高效的工具和方法。本教程介绍了如何在 Windows 平台上安装和使用 Ollama，包括安装、配置、加载模型和运行推理任务的完整流程。同时，还提供了解决常见问题的方法。如果想了解更多高级功能，请访问官方文档。
2024-12-28 16:09:15
3443
原创 llama.cpp与PyTorch、TensorFlow
特性llama.cpp主要功能模型训练 + 推理轻量化模型推理硬件要求高性能硬件（GPU/TPU 优化）普通设备（CPU 优化，支持 ARM/x86）适用场景企业级大规模应用、研究开发个人和小型团队的本地化部署复杂性依赖多、配置复杂无需依赖，开箱即用生态系统广泛覆盖多个领域专注于语言模型推理，生态仍在扩展隐私支持适合云端部署完全离线运行，数据隐私友好支持的模型类型所有主流模型量化后的语言模型（支持 GGUF、GGML 格式）
2024-12-28 00:32:46
933
原创 本地LLM部署--LM Studio 与 Jan 比较
LM Studio 更适合专业开发者和技术人员，提供更强大的模型管理、微调和训练功能，适合构建复杂的本地 AI 应用。Jan 则注重简单易用性和生产力提升，适合只是想离线聊天、快速翻译或生成文本，且对操作简单性有需求，希望获得离线 AI 辅助功能或者拥有在线API Key 的普通用户。
2024-12-27 11:32:37
572
原创 本地LLM部署探索——Jan 初探秘
Jan 是一款值得探索的本地 LLM 部署工具，凭借离线安全、模型自由切换和强大扩展能力，为初学者和开发者提供了可靠的解决方案。未来的改进方向包括增强中文支持和优化硬件兼容性，进一步降低使用门槛。
2024-12-26 23:18:31
1018
原创 本地LLM部署--LM Studio 初探秘
LM Studio提供了一个灵活、强大的平台，支持本地部署和微调LLM，适合对数据隐私要求较高的用户。未来可能增加更多本地化应用，如语音识别、视频分析等，随着硬件加速技术的发展，LM Studio的性能有望进一步提升，未来将支持更多的模型和插件，使得平台的适应性更强。它支持离线运行模型，并提供直观的界面，方便用户进行文本生成、模型微调和文档交互。LM Studio适合有一定技术背景的开发者和企业，特别是在数据隐私、模型微调和离线应用场景中具有独特的优势。
2024-12-26 15:30:29
17043
2
原创 本地LLM部署--LM Studio 暂解惑
右击选择打开方式，使用预先准备好的文本编辑器进行修改，文件大约在14M，非常不推荐使用记事本，可能卡住打不开。GGUF，全称 GPT-Generated Unified Format，是一种大模型的二进制文件格式。包含加载模型所需的所有信息，无需依赖外部文件，简化LLM的使用和部署。准备一个文本编辑器，有些文件对于Windows的记事本来说太大，打不开。，在其他hugging face作者主页（QWEN）下载的GGUF模型，有一定可能被支持，需要尝试。，等待处理完成，点击全部替换，保存后关闭文件。
2024-12-26 15:10:06
5736
原创 Linux 的历史与发展：从诞生到未来
此外，Linux 在 5G 和边缘设备的应用中也发挥了重要作用，推动了技术的快速发展。此外，其基于 Arch Linux 的操作系统 SteamOS 提供了高度可定制性和优化的游戏体验，这与 Proton 技术的结合，使用户能够在 Linux 平台上无缝运行大量 Windows 游戏，为用户和开发者带来了全新的探索空间。日本的“富岳”超级计算机于 2020 年正式启用，其基于 Linux 的系统大幅推动了 COVID-19 疫苗研发和气候建模研究，显现了 Linux 在高性能计算领域的卓越表现。
2024-12-26 15:01:41
1886
原创 关于Visio软件无法正常显示的解决办法
关于Visio软件无法正常显示的解决办法一、症状图二、寻找办法三、结果展示最近在使用Visio软件查看拓扑图的时候发现打开软件什么也看不到。经过好一番折腾才解决这个问题，决定写下来以备再犯。一、症状图看到这种情况简直是血压就上来了，什么都看不到，但是能点选项卡像什么关闭，最小化，等等这些，就是没显示文字。二、寻找办法第一个想的是重启大法： 无效。第二个是删注册表，这是其他帖子说的，我也试过一遍，发现这种只适合在某些配置错误的情况下删除注册表，再重启软件就能恢复软件最初的配置。对我这种情
2021-10-21 20:57:11
17177
2
原创 kali 2020版 Linux系统安装zenmap图文教程
kali 2020版 Linux系统安装zenmapkali 2020版 Linux系统安装zenmap1.下载zenmap包2.将rpm的包转为deb3.安装deb包4.运行zenmapkali 2020版 Linux系统安装zenmap前言背景：最近做课程作业需要用到znemap,听说是Linux工具，于是打开我的Kali，搜索发现是没有预装的，预装的只有nmap。在网上找了下资料得到结果是kali2020是不预装这个的，不过听说旧版本有预装znemap。于是就开始了安装zenmap的过程。
2021-04-22 23:15:07
2052
原创 重装系统后VS Code安装更新失败解决方案
重装系统后VS Code安装更新失败解决方案重装系统后VS Code安装更新失败解决方案1.前言背景介绍：2.实际搜索操作3.我自己的方法重装系统后VS Code安装更新失败解决方案1.前言背景介绍：我的VScode安装目录为E:\software\Microsoft VS Code，不在C盘。因为我最近重装了系统，加上好一段时间没有用VScode，所以就打开它来做点东西，需要说的是，重装之后，安装目录不在C盘的VScode仍然可以正常打开与编写文件，但是以前下载的插件是在C盘下的，所以被清理掉了
2021-03-30 11:35:40
3159
2
原创 阿里云ECS7天训练营-进阶线-day7感想
day 7感想我在九月底就参加了阿里云这个打卡营的新人线，当时做的是。。。。。。等几个实践。现在的进价线，做的是这几个实验。。。。我就把链接全贴出来了，直达地址，和笔记。感兴趣可以去翻翻。这里有一个东西为啥子要记录。笔记看起来好像就是官方文档。这些实践活动，每个账号只能用六次的。官方文档是官方的，我做笔记肯定要基于文档来做。就是在这些文档中加一些自己的问题和解答。还有就是，删一些太细致的操作。最终变的更适合自己理解和回忆的东西。做一次能全部记住内容吗？显然不能的，但是可以记住流程怎么走。...
2020-12-03 13:31:18
226
原创 阿里云ECS7天训练营-进阶线-day6笔记
阿里云ECS7天训练营-进阶线-day6笔记成功案例 - 钉钉一些名字成功案例 - 钉钉课程直达链接：成功案例 - 钉钉一些名字今天是个视频，很短，我就复习一下一些名字好了。SaaS ：百度百科， IaaS，PaaS，SaaS 的区别。SaaS是Software-as-a-Service（软件即服务）的简称，随着互联网技术的发展和应用软件的成熟， 在21世纪开始兴起的一种完全创新的软件应用模式。它与“on-demand software”，the application ser
2020-12-02 09:46:04
443
原创 阿里云ECS7天训练营-进阶线-day5笔记
阿里云ECS7天训练营-进阶线-day5笔记搭建个人Leanote云笔记本创建资源连接ECS服务器安装MongoDB安装Leanote搭建个人Leanote云笔记本写在前面：我很喜欢这个，我最近也一直在想搭建一个自己的博客，正好练手了。直达链接：搭建个人Leanote云笔记本。创建资源一键点击开通。。。。连接ECS服务器不会的去看我：day1笔记。安装MongoDBMongoDB是一个基于分布式文件存储的高性能数据库，介于关系数据库和非关系数据库之间，它支持的数据结构非常松散是类似于
2020-12-01 21:09:29
545
原创 阿里云ECS7天训练营-进阶线-day4笔记
阿里云ECS7天训练营-进阶线-day4笔记使用PolarDB和ECS搭建门户网站创建资源创建PolarDB数据库账号连接ECS服务器安装LAMP环境搭建门户网站使用PolarDB和ECS搭建门户网站写在前面：本词阿里云案例体验：使用PolarDB和ECS搭建门户网站。创建资源一键创建，跳过介绍。。。。创建PolarDB数据库账号左侧 云产品资源 > 一键复制登录url 。打开浏览器隐身窗口（无痕模式），粘贴已复制的url地址前往 RAM用户登录 界面，登录 阿里云管理控制
2020-11-30 22:48:58
407
原创 阿里云ECS7天训练营-进阶线-day3笔记
阿里云ECS7天训练营-进阶线-day3笔记SLB负载均衡实践创建资源云服务器状态确认负载均衡配置负载均衡验证SLB负载均衡实践写在前面：拥有大量用户的企业，经常会面临如下的难题：在高并发的情况下，经常会导致服务器响应速度慢，严重的情况会直接导致服务器停止服务。进而业务中断，影响正常访问。本场景通过使用阿里云负载均衡SLB以及对负载均衡SLB后端服务器ECS的权重进行修改，可以快速解决上述的问题。创建资源问题很简单，也很好理解，不过背后的具体知识还是去实验页面看看吧。本次实验链接。云服务器状
2020-11-29 20:43:46
536
1
原创 阿里云ECS7天训练营-进阶线-day2笔记
阿里云ECS7天训练营-进阶线-day2笔记基于ECS快速搭建Docker环境创建资源连接ECS服务器安装Docker CE配置阿里云镜像仓库（镜像加速）使用Docker安装Nginx服务基于ECS快速搭建Docker环境Docker 是一个开源的应用容器引擎，基于 Go 语言 并遵从 Apache2.0 协议开源。Docker 可以让开发者打包他们的应用以及依赖包到一个轻量级、可移植的容器中，然后发布到任何流行的 Linux 机器上，也可以实现虚拟化。容器是完全使用沙箱机制，相互之间不会有任何接口
2020-11-28 19:44:53
476
原创 阿里云ECS7天训练营-进阶线-day1笔记
阿里云ECS7天训练营-进阶线-day1笔记基于ECS搭建FTP服务1. 创建资源2. 远程连接ECS服务器3. 安装vsftpd4. 配置vsftpd匿名用户模式（我做了这个）本地用户模式(没做)5. 客户端测试基于ECS搭建FTP服务写在前面：自上一次新人线做完后，这次是进阶线。一共5个实践和一个案例分析。开始吧。1. 创建资源开通啥子的，直接按个按钮就行。丢地址出来：基于ECS搭建FTP服务。2. 远程连接ECS服务器2.1 打开系统自带的终端工具。Windows：CMD或P
2020-11-27 20:30:40
508
原创 阿里云ECS7天训练营-新人线-day6笔记
阿里云ECS7天训练营-新人线-day6笔记快速搭建LAMP环境0.前置准备1.创建资源2. 连接ECS服务器3.安装apache服务4.连接MySQL数据库快速搭建LAMP环境0.前置准备1.创建资源一键开通。。。。。2. 连接ECS服务器打开系统自带终端工具，windows:cmd 或 powershell 苹果：terminal在终端中输入连接命令ssh [username]@[ipaddress]。username和ipaddress换为创建的ECS服务器的
2020-09-28 17:15:10
383
原创 阿里云ECS7天训练营-新人线-day5笔记
阿里云ECS7天训练营-新人线-day4笔记安装Linux服务器面板管理工具写在前面：七分钟。。。安装Linux服务器面板管理工具先putty登录连接到ECS服务器。Q:宝塔面板是啥？有啥用？为啥要装？A: 为了Linux服务器能像Windows一样，简洁方便的使用，操作更加舒服。介绍啥的，自己去那里看吧。不废话了，就是一个运维的面板。打开浏览器，找到宝塔面板的官网。点击Linux版，选择立即安装，找到一个安装命令。复制安装命令到远程服务器那里回车安装。中间有个y
2020-09-27 22:31:30
348
原创 阿里云ECS7天训练营-新人线-day4笔记
阿里云ECS7天训练营-新人线-day4笔记安装Putty工具远程连接ECS服务器1.准备2.进行连接安装Putty工具远程连接ECS服务器写在前面：今天的这个实验。。。其实包含在昨天的实验里面。1.准备putty软件一台Linux镜像的ECS云服务器。（这些都可以在昨天的实验中找到。）2.进行连接打开putty输入公网IP，点击open弹出窗口点“是”输入用户名，输入密码，Linux密码是不可见的，你只要输对了就行。完成实验。...
2020-09-26 09:15:07
341
原创 阿里云ECS7天训练营-新人线-day3笔记
阿里云ECS7天训练营-新人线-day3笔记1.开始准备2.开始实验3. 结束体验写在前面，今天是第三天做实验，其实这个实验是阿里云的云体验室的其中一个实验。这里丢出链接开发者云体验实验室，可以去看看其他实验。1.开始准备从七天训练营点开第三个ECS新手上路链接。然后就不用说了，点击体验，我今天做了几次实验了，这里是再次体验。2.开始实验点击免费开通。等待创建成功，这是一个1个小时限期的ECS服务器创建成功后，在左侧资源栏会看到该服务器的用户名称密码，公网IP等信息。
2020-09-25 12:38:18
626
1
原创 阿里云ECS7天训练营-新人线-day2笔记
阿里云ECS7天训练营-新人线-day2-笔记前言一、pandas是什么？二、使用步骤1.引入库2.读入数据总结欢迎使用Markdown编辑器新的改变功能快捷键合理的创建标题，有助于目录的生成如何改变文本的样式插入链接与图片如何插入一段漂亮的代码片生成一个适合你的列表创建一个表格设定内容居中、居左、居右SmartyPants创建一个自定义列表如何创建一个注脚注释也是必不可少的KaTeX数学公式新的甘特图功能，丰富你的文章UML 图表FLowchart流程图导出与导入导出导入提示：文章写完后，目录可以自动生
2020-09-24 12:50:59
316
原创 阿里云ECS7天训练营-新人线-day1笔记
阿里云ECS7天训练营day1笔记课时1 阿里云云服务器ECS介绍写在开头：很久之前就看到过阿里云的高校计划，不过那时候已经满人了，没有办法报名，就填了一个预约，过了几个月吧，就前几天我收到了信息说正在开放报名。所以今天是学习的第一天。课时1 阿里云云服务器ECS介绍首先是传统服务器面临的问题：价钱高、采购周期长、浪费率高的资源闲置和持续走高的基础系统人力维护。但是阿里云为这些问题提供了解决方案，可以按需购买企业需要的服务器。无需提前采购昂贵的硬件设施，而是根据企业应用环境，按需购买相应的 E
2020-09-23 21:03:09
400
Prompt工程-AI开发-可置顶粘贴小工具
2025-01-05
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人