- 博客(583)
- 资源 (89)
- 收藏
- 关注
原创 【公司系列】001:墨芯科技
墨芯科技主要致力于切片自动研磨机,铜球自动清洗机,真空层压机,膜渣在线干燥机,双面胶带自动贴合机等自动化设备的研发、生产和服务。主要业务:核心是人工智能芯片设计,通过自研稀疏计算技术,提供云端和终端AI推理加速方案,产品可应用于数据中心、互联网、运营商、自动驾驶、医疗、智能制造等场景。基本情况:墨芯人工智能科技(深圳)有限公司成立于2018年8月10日,总部在深圳前海,法定代表人是王维。公司人员主要来自于行业电渡技术,工业自动化设计,设备维修技术,PCB技术专家等行业资深技术人员。
2026-11-03 11:06:49
104
原创 【智能体系统AgentOS】核心26:DeepSeekHarness、WAMHarness
WAM擅长有限时域内的物理预测和动作生成,但面对需要全局规划、跨阶段状态维护和失败恢复的复杂任务时,就显得力不从心,这被称为 “预测-深思鸿沟”问题。6:作业域区scope,提供作业作用区域的注册原语,让工具和智能体的组件能够被隔离在特定的上下文实现智能体的精细化管理。低层执行(高频):一个轻量级的进度估计器持续提供高频的执行证据,驱动WAM进行原子技能层面的预测和动作生成。定向修改:基于瓶颈,智能体对WAM的代码进行有针对性的修改,应用编译、内核融合、量化等加速技术。
2026-11-01 10:23:42
130
原创 【大模型技术】模型推理001:投机解码
系统层:①连续批量处理是新请求可以动态加入正在进行的批次无需等待当前批次完全结束,从而大幅提升芯片利用率与吞吐量、②算子融合定制是将多个计算步骤合并为一个芯片计算指令内核减少启动开销操作、③分布异构推理是张量并行、流水线并行将大模型切分到多卡或多机上计算结合编排调度算法,在多长度请求混合场景中,平均端到端时延可降低 40%。推理引擎:kvcache、lmcache、vllm、sglang、tilelang,量化、并行、批量调度、缓存复用。模型推理服务:主要是基于模型推理过程的计算逻辑优化设计或重构。
2026-10-30 13:41:07
93
原创 应用研发框架02
起步依赖 (Starters):你只需在 Maven/Gradle 中引入一个 spring-boot-starter-web,它就会自动带入 Spring MVC、Jackson、内嵌 Tomcat 等一整套协调好版本的依赖。自动配置 (Auto-configuration):当它发现类路径中有 Tomcat 和 Spring MVC 时,会自动为你配置好 DispatcherServlet、视图解析器和内嵌服务器,你无需写一行配置代码。
2026-10-05 19:10:55
203
原创 Skill is all you need
MCP 和 Skill 不是二选一的关系,而是互补的两层:MCP 让 AI 能做事:提供工具调用能力,连接外部系统。Skill与MCP的主要区别:Skill(技能)本质是“标准化能力包”,像一份给智能体用的“操作手册 + 工具箱”:用 SKILL.md 描述流程,配脚本和参考资料,告诉智能体“遇到这类任务,按这个流程、用这些工具去做”。抽象层次:MCP 是协议层(底层通信),Skill 是应用层(业务逻辑封装)。运行位置:MCP 在模型外部独立进程运行,Skill 在模型内部提示词层面。
2026-10-05 10:46:42
173
原创 【LLM基础研究】:模型推理
用户Prompt → Tokenization → Prefill → KV Cache生成 → Decode → Token输出 → KV Cache更新 → 下一Token生成。其中,Prefill决定首Token响应速度(TTFT),Decode则主要影响后续Token生成速度(TPOT/ITL),二者共同决定大模型在线推理系统的整体服务性能。在面向长上下文、高并发和多用户的大模型推理系统中,Prefill已经从单纯的模型前向计算逐渐发展为涉及。预填充技术的核心目标是。
2026-09-17 22:20:46
165
原创 【智能体系统AgentOS】核心24:MAEI
它将“具身智能(Embodied AI)”与“多智能体系统(MAS)”深度融合,旨在让多个具备物理实体(或高保真仿真实体)的智能体在复杂的现实环境中,通过感知、交互、协作来完成共同或各自的任务。多智能体强化学习(MARL): 在单智能体RL基础上扩展,解决状态空间和动作空间爆炸、信用分配(谁该为成功/失败负责)、非平稳环境(其他智能体策略在变)等难题。受限环境下的通信机制: 研究显式通信(如无线电波传递消息)和隐式通信(如通过观察其他智能体的动作推测其意图),以及通信中断时的容错策略。
2026-09-17 09:29:18
239
原创 【LLM基础研究】:投机解码
投机解码是大模型推理的一种“无损加速”技术:用一个更小、更快的模型(或额外的“草稿”模块)先“猜”出后面若干个 token,然后用原本的大模型一次性对这些猜测做验证,把通过的 token 留下、不通过的再重采样。若在某位置 k 发现草案 token 的概率偏低(没通过采样),就丢弃从 k 开始的整个后缀,改用大模型在该位置的分布重采样出 token,并结束这一轮投机。小模型推理成本远低于大模型。小模型“会错得太多”的场景:如果任务难度高到小模型和大模型分布差异大,接受率下降,收益减弱甚至持平。
2026-09-16 14:59:12
175
原创 【智能体系统AgentOS】核心22:RSI
自我迭代学习试图打破这一僵局,其核心假设是:模型可以通过自身生成的经验进行自主学习和演化,如同AlphaZero通过自我对弈超越人类监督的局限,LLM也应当能够通过自我生成的训练信号实现能力的持续跃升。这一范式转变,标志着从"人类教模型"到"模型自学"的理念革新。基础模型:从Qwen2系列(1.5B-7B)、Llama3.1(8B)等中小规模模型起步,旨在验证自我迭代能否让小模型"以小博大"——R3实验显示,经训练的1.5B-7B模型可超越同系列10倍大小的未训练模型。这是"无需教师模型"的关键技术前提。
2026-08-01 09:28:47
274
原创 【智能体系统AgentOS】核心22:Agentic AI
同时,北京市也出台了专项政策,将其视为新的经济增长点,从“根技术”、“一人公司”新模式到“Token经济”和“以模治模”的安全治理,进行了全链条布局。Agentic AI通过多智能体协同,让扮演“项目经理”、“研究员”、“程序员”等角色的智能体分工合作,共同完成如软件开发或科学报告撰写这样的宏大项目,这远超单一大模型的能力范围。建立新评价体系:传统的基准测试不再适用。可靠性危机:在多步骤任务中,智能体在中间环节犯错(如误删文件)的概率远高于用户容忍度,尤其在医疗等容错率极低的领域,这种“失智”是致命的。
2026-07-28 08:52:00
230
原创 产品研发流程
研发设计中的“研发流程”通常指从产品概念到量产交付的全生命周期管理。虽然不同行业(如软件、硬件、化工)有差异,但通用的核心流程可归纳为以下六个阶段:定义价值、定义功能、定义场景、定义用户。
2026-06-06 12:13:41
463
原创 【计算机基础系列】python语言:变量类型
python中常见的数据类型为6种:动态数据类型为(List列表、Dict字典、Set集合)、静态数据类型为(Num数字、字符串Str、元组Tup)常见的4种数字类型:int、long、float、complex。
2026-06-03 11:32:59
31
原创 【解决方案设计】001:概论
它不限于一个产品,可能包含多个产品、服务、咨询、定制开发甚至业务流程改造。比如给一家物流公司做“仓储分拣效率提升方案”,可能涉及自动化设备、软件系统、人员培训等。从客户的痛点、行业场景、商业模式出发。从产品功能、技术实现、用户体验出发。”“数据库怎么设计?比如“仓库管理系统”的产品方案,会写清楚有哪些模块、界面交互、数据存储、性能指标等。解决方案:客户决策层(CEO/业务负责人)、销售、售前、项目交付团队。产品方案:产品经理、设计师、开发工程师、测试、运营。产品方案:通常在产品规划-设计-开发-发布阶段。
2026-06-03 07:39:19
201
原创 【LLM基础研究】工具01:Xtuner
你的需求应选择的工具微调大模型(LLM/VLM),如让模型学习特定领域的知识或对话风格XTuner(AI Lab版)优化openGauss数据库性能,解决SQL跑得慢的问题X-Tuner(openGauss版)从生态角度来看,AI Lab版的XTuner生态更完整——训练后的模型可以直接配合LMDeploy(部署工具)和(评测工具)使用。
2026-06-02 17:47:19
233
原创 【智能体系统AgentOS】核心21:VLA和WMA
VLA=输入(图像/视频、语言指令、机器人状态)+视觉编码器,多模态大模型,动作解码器+机器人控制指令。是VLA进一步演化出来的新一代具身智能架构。VLA主要是看到+理解+动作,WMA主要是看到+预测未来世界+动作规划+动作执行。WMA=输入(图像、深度、语言、机器人状态)+世界模型学习(当前状态+动作分析未来状态)+输出(图像、视频、潜在状态)+输出动作解码执行。WMA=输入(视觉编码器)+潜在状态+世界模型编解码器+未来状态预测+未来状态反馈+动作指令+机器执行。
2026-06-02 16:50:03
294
原创 【智能体系统AgentOS】核心20:CodeAgent和DataAgent
该论文由北京大学高可信软件技术重点实验室团队发表,聚焦代码生成模型的API选择难题,提出ToolCoder框架,首次将API搜索工具与代码生成模型深度融合,显著提升公共库、私有库场景下的代码生成准确率,核心价值是让模型学会像人类程序员一样借助外部工具精准选API。
2026-06-01 18:02:44
252
原创 【LLM基础研究】核心六:AIInfra
AI基础设施研究聚焦如何构建高效、可扩展的系统支撑AI训练与推理。核心挑战包括:1)计算层面优化混合并行策略与通信延迟掩盖;2)存储系统需解决EB级数据供给与I/O瓶颈;3)网络需构建高吞吐、低延迟的通信架构;4)推理系统需应对长序列内存消耗与异构任务调度;5)工程化需确保高可用、安全合规及全链路监控。研究重点在于平衡规模、性能、成本与可靠性,涉及计算、存储、网络等多领域协同优化。
2026-05-28 11:28:29
252
原创 【智能体系统AgentOS】核心19:MAS
MSA:多智能体系统:侧重基于MoE的分布式智能体治理。PSM: 物理空间模型:物理仿真与空间预测。WMA:行为世界模型:物理仿真与行为控制。VLA:视觉语言模型:模型生成与行为控制。
2026-04-13 13:11:55
207
原创 【LLM基础研究】核心五:PTX
DSL:(领域特定语言,Domain-Specific Language)是针对特定问题领域设计的编程语言,与通用语言(如Python、Java)相反,它只专注解决某一类特定任务。核心特点专注性强:语法和语义都针对特定领域优化,表达力强简洁高效:用很少代码完成通用语言需要大量代码的工作非图灵完备(通常):不追求能做所有事,只做领域内的事可嵌入/独立:可以嵌入宿主语言,也可以独立使用RTL:指一种用来描述数字电路的行为的设计方法或抽象层级语言;在编译器领域为中间语言。
2026-04-12 22:31:59
377
原创 《相关研究》008:世界模型
目标是通用机器人:两者缺一不可——VLA负责意图,世界模型负责常识。训练目标是最小化预测误差。想象增强:VLA在实际执行前,先在世界模型中“想象”执行后果,进行试错(类似AlphaGo的自我对弈)。规划:VLA采样多个动作,世界模型预测每个动作的未来结果,VLA选择结果最好的动作执行。数据生成:用世界模型生成海量虚拟机器人交互数据,用来训练VLA(解决真实数据稀缺问题)。世界模型指给定当前状态和一个动作,它预测下一步会变成什么状态。:VLA负责“做什么”(策略),世界模型负责“会发生什么”(模拟)。
2026-04-10 17:41:35
172
原创 《相关研究》007:动态渲染
提出的4D-GS首次将 3D 高斯溅射扩展为 4D 时空表征,通过高斯形变场网络精准建模 3D 高斯的运动与形状形变,实现了高分辨率动态场景的实时渲染(合成数据集 82 FPS/800×800、真实数据集 30 FPS/1352×1014),且训练效率高、存储成本低。动态场景渲染的核心痛点:动态场景的三维表示与渲染是 3D 视觉的重要任务,需精准建模复杂的时空运动,但现有方法难以同时兼顾渲染质量、实时性、训练 / 存储效率,尤其是从稀疏的时空输入中建模复杂运动时,效率损失问题突出。
2026-04-08 17:38:28
255
原创 《相关研究》006:模型安全
核心关键词为:智能合约、意图检测、深度学习、Web3 软件工程、内部风险、Universal Sentence Encoder、K-means 聚类、BiLSTM、多标签分类。智能合约安全风险的新痛点:现有研究多聚焦于检测智能合约的外部风险(如重入、整数溢出等代码漏洞,易被黑客利用),但由开发者恶意意图引入的内部风险(如预埋后门、随意修改交易规则、卷款跑路等)已造成巨额加密资产损失,却缺乏有效检测方法。传统检测方式的局限性:目前识别开发者意图依赖专家人工审计,耗时且成本高;
2026-04-08 17:27:05
408
Deep Learning in Radiology: Recent Advances, Challenges and Future Trends
2017-07-06
深度学习matlab代码
2017-10-10
Miniforge-pypy3-Linux-aarch64.sh
2020-07-20
gcc-10.1.0 .tar.gz
2020-05-19
exchange.7z
2020-05-21
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人
RSS订阅