- 博客(216)
- 资源 (2)
- 问答 (7)
- 收藏
- 关注
原创 安装 TabbyAPI+Exllamav2 和 vLLM 的详细步骤
在 5090 显卡上成功安装 TabbyAPI+Exllamav2 和 vLLM 并非易事,经过一番摸索,我总结了以下详细步骤,希望能帮助大家少走弯路。,这并非标准 CUDA 版本。请根据你的系统实际 CUDA 版本(通常为 12.1 或 12.2)进行调整。请参考 TabbyAPI 的官方文档了解如何使用。用户提供的 PyTorch 安装使用了。请参考 vLLM 的官方文档了解如何使用。
2025-04-04 23:03:33
228
原创 vLLM 启动 GGUF 模型踩坑记:从报错到 100% GPU 占用的原因解析
本文记录了使用 vLLM 部署本地 GGUF 格式大模型的踩坑过程。从最初的路径格式错误,到参数解析问题,再到 NumPy 版本兼容性引发的。
2025-04-01 22:33:33
888
原创 【Windows】解决Windows Terminal 在nvidia驱动更新之后打不开的问题
更新nvidia驱动之后,Windows terminal 打不开,但是powershell和cmd可以正常使用。
2025-03-31 15:49:33
156
原创 【nvidia】Windows 双 A6000 显卡双显示器驱动更新问题修复
问题描述:windows自动更新nvidia驱动会导致只检测得到一个A6000显卡。
2025-03-31 13:00:03
295
原创 【linux】防止SSD掉盘导致无法 reboot 软重启
这个方法提供了一个很好的平衡:它足够强大以应对SSD掉盘的情况,同时又不会过度干扰系统的正常运行。可靠性高:因为命令和依赖项都加载在内存中,即使磁盘完全不可用,这些命令仍然可以执行。易于管理:您可以轻松地更新或修改内存中的命令,而不需要重新配置整个系统。简单直接:实现起来相对简单,不需要修改系统的核心组件。命令,您还可以添加其他可能需要的紧急命令。即可触发重启,即使系统盘已经不可用。,这种方法对系统的其他部分影响最小。使用时,只需在终端中输入。
2025-03-21 22:40:54
194
原创 【SAE】SAE在Evo 2中的工作原理与可解释性疑惑解答
为什么将神经网络的隐藏层用稀疏自编码器(SAE)处理后就能实现’可解释性’?这个’可解释’是如何实现的?还是需要额外的人工分析?
2025-03-07 11:40:51
648
原创 解PDE到底是什么?一文读懂数值求解偏微分方程的本质
数值解PDE = 离散化 + 迭代演化,本质上就是一个数值近似的迭代计算过程,而非代数式的求解!
2025-03-06 11:26:54
1006
原创 全球创业大赛:参赛团队和主办方的利益与代价分析(大白话版)
赌的是“用隐私换资源”,尤其适合急需曝光、缺钱缺人脉的早期项目,但得有心理准备:可能陪跑,还可能被白嫖创意。
2025-02-25 20:06:46
328
原创 【nvidia】NCCL通信问题排查
然后按照指示进行安装:以下是在Ubuntu上安装NCCL的完整命令行步骤。请根据你的CPU架构和Ubuntu版本替换和<distro>。
2025-02-17 16:01:24
1527
原创 Pandas数据填充(fill)中的那些坑:避免机器学习中的数据泄露
在时间序列预测中,数据泄露指模型在训练时看到了未来的数据。这会导致模型性能被过分高估,在实际预测时表现不佳。时间序列数据处理要特别注意避免数据泄露始终确保数据按时间正确排序使用ffill而不是bfill进行填充在分组数据中,要按组进行填充。
2025-02-11 19:10:02
399
原创 【GIS】本地部署nominatim地理编码服务
参考:https://www.cnblogs.com/nonkicat/p/17222677.html。
2025-02-10 19:53:40
252
原创 【Julia】Julia预编译与外部库:从崩溃到完美集成
你是否曾经遇到过这样的情况:代码第一次运行得好好的,重启Julia后突然就崩溃了?如果答案是"是",那么恭喜你,你可能踩到了Julia预编译的坑!🕳️ 让我们一起来探索这个有趣的问题。
2025-01-29 09:34:25
468
原创 【Julia】在Julia中优雅地配置Artifacts
管理二进制依赖 🔧处理数据文件 📄自动下载和缓存资源 ⬇️跨项目共享资源 🔄使用Julia的Artifacts系统极大地简化了依赖管理。通过简单的配置和几行代码,就能实现自动化的依赖下载和管理。这不仅使包的维护更容易,也让用户使用更方便。
2025-01-23 22:59:04
410
原创 【Docker】使用Dev Container进行开发
新建一个文件夹然后下面放然后安装 vscode dev container 插件,然后 Ctrl+Shift+P 启动 Container。
2025-01-16 16:33:06
567
原创 Joplin Server配置端口转发的一个小坑
不要混淆内部访问地址和公共访问地址正确设置 APP_BASE_URL 是解决 Invalid origin 错误的关键端口映射要与内部服务端口保持一致校园网环境下需要特别注意 IP 和端口的正确配置。
2025-01-14 23:58:22
565
原创 ️ 如何将 Julia 包切换为本地开发版本?以 Reactant 为例
你是否正在开发一个 Julia 包,并希望将其从官方版本切换为本地开发版本?🤔 本文将手把手教你如何实现这一操作,并介绍一些实用技巧,让你的开发过程更加高效!🚀。
2025-01-12 18:53:30
527
原创 【跨语言】include命令和input命令
它们的核心思想都是在编译/处理之前进行简单的文本替换,将指定文件的内容原封不动地插入到当前文件中。这三个命令的共同点是都执行简单的文本替换操作,就像把被包含文件的内容复制粘贴到包含它们的文件中一样。这三个命令都共享作用域,这意味着在被包含文件中定义的变量、函数或宏可以在包含它们的文件中直接使用。在 C/C++ 和 Julia 中,由于它们处理的是代码,因此没有分页的概念。虽然执行时机略有不同,但它们都在实际的代码编译或执行之前完成文本替换操作。因此,从文本替换、作用域和不分页的角度来看,LaTeX 的。
2025-01-12 15:51:33
372
原创 【Windows】Windows Installer 相关故障修复(适用win10, win11)
安装任何 .msi 文件都表现为无法使用 Windows installer 进行安装,部分 .exe 也表现出类似的情况,似乎是后台下载 .msi 安装程序导致也无法使用 Windows Installer查看系统服务,发现缺少 Windows Installer 服务,使用各种命令也无法启用 Windows Installer 服务。查看 Windows Installer 相关注册表,发现注册表有些项目不存在。
2025-01-12 12:20:53
1074
原创 【nvidia】解决windows自动更新导致一个显卡检测不到
最后一个驱动可能会卡住,不用管。然后打开设备管理器,把出问题的显卡卸载。过几分钟会自动检测到显卡。
2025-01-06 20:06:50
295
原创 HTTPS如何通过CA证书实现安全通信,以及HTTPS的局限性
关键概念:主要讨论内容:浏览器如何获得CA的公钥?浏览器更新CA证书的频率?浏览器是否保存所有网站的公钥?访问HTTPS站点是否每次都涉及和中间CA的交互?CA证书如何防止中间人攻击?HTTPS是否绝对安全?为什么还有网络监听的说法?核心结论:
2024-12-19 13:18:08
512
原创 【嵌入式】嵌入式面试题 36 问
是一个 GCC 内置函数,高效地计算结果中 1 的个数,也就是不同的位数。变量意味着该变量的值虽然不能被程序修改,但其值可能会被外部因素改变,编译器需要每次都从内存中读取该变量的值,而不是将其优化为缓存中的值。在正常掉电关机过程中,操作系统通常会执行一些清理操作,但不需要显式释放内存,因为电源关闭后内存中的数据会丢失。或其他会使进程阻塞的函数,因为这会阻止中断的处理,导致系统不稳定。关键字至关重要,它确保每次访问都直接访问内存,而不是使用缓存中的值。表示变量的值可能在程序之外被修改(例如,由硬件修改)。
2024-12-15 22:03:18
1145
Nvidia A6000 驱动 572.83-quadro-rtx-desktop-notebook-win10-win11-64bit-international-dch-whql.exe
2025-03-31
python 怎么读取csv文件的最后一行的第一个数据?
2017-01-18
Theano 报错:Wrong number of dimensions...
2017-01-17
import theano报错No such file or directory
2017-01-14
蓝牙UUID和蓝牙地址有什么区别?
2016-08-22
Android 如何接受/拒绝蓝牙配对请求?
2016-08-20
关于蓝牙的几个问题。
2016-08-20
android onCreate 加载问题
2016-05-10
TA创建的收藏夹 TA关注的收藏夹
TA关注的人