自定义博客皮肤VIP专享

*博客头图:

格式为PNG、JPG,宽度*高度大于1920*100像素,不超过2MB,主视觉建议放在右侧,请参照线上博客头图

请上传大于1920*100像素的图片!

博客底图:

图片格式为PNG、JPG,不超过1MB,可上下左右平铺至整个背景

栏目图:

图片格式为PNG、JPG,图片宽度*高度为300*38像素,不超过0.5MB

主标题颜色:

RGB颜色,例如:#AFAFAF

Hover:

RGB颜色,例如:#AFAFAF

副标题颜色:

RGB颜色,例如:#AFAFAF

自定义博客皮肤

-+
  • 博客(13)
  • 收藏
  • 关注

原创 详细解释MCP项目中安装命令 bunx 和 npx区别

bunx是 Bun 生态系统中的工具,适用于需要快速启动和运行包的场景,特别适合资源受限的环境。npx是 Node.js 生态系统中的工具,广泛用于现有的 Node.js 项目。如果你正在寻找一个快速且高效的工具来运行 npm 包,bunx是一个值得尝试的选择。

2025-04-16 20:51:20 278

原创 MCP(模型上下文协议)简单案例

MCP(Model Context Protocol,模型上下文协议)是由Anthropic开发的一种开放协议,旨在标准化大型语言模型(LLM)与外部数据源和工具的交互方式。它就像AI应用程序的USB-C接口,为AI模型提供了一种标准化的方式来连接不同的数据源和工具。

2025-04-12 18:31:28 747

原创 人工智能推理框架在不同任务类型中的应用场景分析

不同任务类型和部署环境对推理框架的需求各异。选择合适的框架不仅能提升模型性能,还能优化资源利用,满足实际应用需求。希望本文的分析和建议能为您在项目中选择和应用推理框架提供参考。如需深入了解某一框架,可访问其 GitHub 仓库获取更多信息。

2025-03-28 14:19:30 922

原创 全球半导体产业链的相互依存:从台积电到ASML及其供应链

在当今科技驱动的世界中,半导体行业是经济和创新的核心支柱,而芯片代工厂作为这一产业链的关键环节,备受关注。然而,台积电并不自行设计或制造光刻机,而是完全依赖ASML的设备。这一层层嵌套的供应链,体现了半导体产业的协作精髓,同时也提醒我们,技术的巅峰往往建立在脆弱的全球合作之上。台积电依赖ASML的光刻机,而ASML又依赖TRUMPF、Zeiss等供应商,这种多层次的依存关系带来了显著的效率,同时也隐藏着风险。这一供应链的分布表明,ASML的核心竞争力在于系统集成和EUV技术的创新,而非所有组件的独立生产。

2025-03-11 15:17:46 741

原创 服务器GPU集群硬件资源监控完整部署指南

Grafana + Prometheus + DCGM:GPU监控完整部署指南

2025-03-10 13:52:59 1482

原创 如何快速迁移打包进行离线部署docker镜像服务

通过docker构建大模型的服务,或者是rag的服务的时候,快速迁移部署,省去解决很多依赖问题耽误时间,采用docker镜像的形式,本身在dokcrfile构建的时候,拉取的是NVIDIA CUDA为基础镜像,所以镜像中已经有cuda加速平台,但是对于驱动来说必须要在宿主机上进行集成需要注意的是。

2025-01-08 13:24:27 1147 1

原创 0-1大模型的训练思路

随着大语言模型(LLM)技术的快速发展,如何高效训练LLM成为一个重要研究课题。本项目旨在实现一个完整的LLM训练系统,包括预训练、SFT和DPO三个阶段,并引入多项优化技术提升训练效率。

2025-01-02 14:24:48 1025

原创 测评qwen 、glm ,deepseek的模型 对垂直领域的能力的支持情况对比

对于Deepseek模型的输出结果来看,实际上当时选择的模型coder类型,侧重编码,在相同的提示词的情况下,输出直接输出的就是命令的的排查方法,但是确实思路的分析,首先进行了排除对于GLM和qwen的回答,对保存告警的排查思路和命令行的输出都有着不错的效果,在参考模型参数的大小,对于glm4:9b 占用 5.5 GB硬盘资源,是90亿参数的模型,qwen2.5:latest 占硬盘 4.7 GB ,是70亿参数的模型,最终选择qwen2.5:latest 作为我们项目的最终基座模型。

2024-10-20 19:00:20 8483 1

原创 pandas学习这些就够了

是一个二维的、大小可变的、具有潜在异构类型列的表格型数据结构。Series 的标签通常是唯一的,但这不是强制的。如果字典中传递,将作为键参数,使用排序的键,除非它传递,在这种情况下的值将会选择。主要用到的三个函数:loc,iloc和ix,loc函数按标签值进行提取,iloc按位置进行提取,ix可以同时按标签和位置进行提取。7、对category字段的值依次进行分列,并创建数据表,索引值为df_inner的索引列,列名称为category和size。这是有用的如果你串联串联轴没有有意义的索引信息的对象。

2024-05-04 20:49:19 1659

原创 pandas学习这些就够了

是一个二维的、大小可变的、具有潜在异构类型列的表格型数据结构。Series 的标签通常是唯一的,但这不是强制的。如果字典中传递,将作为键参数,使用排序的键,除非它传递,在这种情况下的值将会选择。主要用到的三个函数:loc,iloc和ix,loc函数按标签值进行提取,iloc按位置进行提取,ix可以同时按标签和位置进行提取。7、对category字段的值依次进行分列,并创建数据表,索引值为df_inner的索引列,列名称为category和size。这是有用的如果你串联串联轴没有有意义的索引信息的对象。

2024-05-04 03:30:00 674

原创 Python中的容器类型介绍

作为python学习的基础,到底重点在哪里呢?我们应该如何学习?我总结了几个学习思路:1.划分可变和不可变:可变类型我们从增删改查的思路进行研究,不可变类型我们从查的思路进行研究2.遍历容器类型:具体看下面看每个容器类型最下举例说明3.容器类型的嵌套:在整个文章的最后进行介绍。

2024-04-17 21:35:49 805

原创 python如何理清进程和线程的学习思路?

当多个线程同时访问全局变量时,为了避免数据竞争和不一致,需要使用同步机制。常见的同步机制包括锁(互斥锁、读写锁等)、条件变量、信号量等。了解常见的并发问题和调试技巧,如死锁、活锁、资源争用等,并学会如何避免和解决这些问题。这个模块允许你创建和管理线程,并提供了基本的线程同步机制。你可以使用这个模块来创建、管理和同步多个进程。等)来评估和优化多进程/多线程程序的性能。对于多进程,Python标准库提供了。对于多线程,Python标准库提供了。学习如何使用性能分析工具(如。

2024-04-07 09:24:34 1785

原创 python入门对于新手应该注意哪些细节,可以少走弯路?

1.首先就是环境和平台的搭建,这个基本功能,对于平台来说是不断地优化和更新的,新的版本可能提高了,我们的开发效率,所以平台的搭建是非常重要的.2.然后学习基本的语法,对于python语言来说,学习完 变量,容器,分支结构,while和for循环,我觉得就算是入门了,可以实现一些简单的功能3.我们更多的时候是编程的思想是"面向对象"进行编程,所以说在学习完基本的语法后,更应该是多多使用和积累一些api,这样会使我们的编程思路打开,使用很小的力气做更大的事情.

2024-03-31 07:19:06 1673 2

空空如也

空空如也

TA创建的收藏夹 TA关注的收藏夹

TA关注的人

提示
确定要删除当前文章?
取消 删除