- 博客(5)
- 收藏
- 关注
转载 开源 vGPU 方案 HAMi: core&memory 隔离测试
1.大模型微调基本概念指北2.大模型微调实战:通过 LoRA 微调修改模型自我认知3.一文搞懂 GPU 共享方案: NVIDIA Time Slicing4.开源 vGPU 方案 HAMi: core&memory 隔离测试收起本文主要对开源的 vGPU 方案 HAMi 的 GPU Core&Memory 隔离功能进行测试。
2025-07-08 04:44:31
49
转载 解密prompt系列54.Context Cache代码示例和原理分析
1.解密Prompt系列8. 无需训练让LLM支持超长输入:知识库 & unlimiformer & PCW & NBCE2.解密Prompt系列6. lora指令微调扣细节-请冷静,1个小时真不够~3.解密Prompt7. 偏好对齐RLHF-OpenAI·DeepMind·Anthropic对比分析4.解密prompt系列5. APE+SELF=自动化指令集构建代码实现5.解密。
2025-06-18 10:28:54
93
转载 kubernetes service 原理精讲
Kubernetes Service 用于流量的负载均衡和反向代理,其通过 kube-proxy 组件实现。从服务的角度来看,kube-controller-manager 实现了服务注册,kube-proxy 实现了 kubernetes 集群内服务的负载均衡。kube-proxy通过三种模式userspaceiptables和IPVS实现 Service 流量的负载均衡。userspace不太常用,kube-proxy 自 v1.8 开始支持 IPVS,v1.11 GA。
2025-05-23 04:48:55
58
转载 .NET周刊【3月第3期 2025-03-16】
本文讨论了ADO.NET中SQL绑定变量的使用,包括SqlParameter的安全性和性能优势。推荐使用SqlParameter以防止SQL注入,并支持多种数据类型。介绍了使用AddWithValue方法的注意事项,特别是隐式转换带来的性能问题。提到存储过程的结合使用,提高代码复用和执行效率。文中还讨论了批量绑定变量(TVP),适合传递多个值以提高性能。提供了相关的C#代码示例以便更好地理解这些概念。如果您的 WPF 应用程序使用 Windows 应用 SDK,请告知分发安装程序所需的运行时。
2025-05-07 14:19:51
273
转载 java大文件下载浏览器内存溢出
在Java中实现大文件下载时,如果不注意资源管理,确实有可能导致浏览器或服务器端的内存溢出(OutOfMemoryError)。这通常不是由浏览器直接引起的,而是由于服务器端在处理文件传输时内存使用不当所致。以下是一些避免在Java Web应用中处理大文件下载时导致内存溢出的策略:1. 使用流式传输流式传输(Streami...
2024-08-12 02:41:23
501
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人
RSS订阅