- 博客(8)
- 收藏
- 关注
原创 chatgpt需要对设备进行更改问题
这个问题最近在 Windows 客户端里确实有人遇到:即使 UAC 点了“是”,应用仍会卡在“完成 Windows 设置”,原因通常是。配置文件损坏、格式不兼容,或者升级后旧配置无法被新版本正常读取。这个方法已经有人用来解决同样的。,不是你 UAC 那一步点错了。这样程序会自动重新生成一份新的。你可以先用这个最简单的方法,
2026-09-14 16:42:26
162
2
原创 KuiperInfer学习笔记--跑项目
首先自己跑一下,验证一下readme中的操作,但是源码这里的权重文件缺失了一些,在线的链接也失效了。现在只有yolov5的模型参数和权重是存在的。在跑yolo之前,需要修改KuiperInferGitee/demos/yolo/yolo_test.cpp这个文件中的代码,,主要的功能是将训练好的模型转换成可执行的计算图,接受输入数据(图片)后,通过算子计算出推理结果,全程使用C++实现。如果没有demos文件夹就说明,在根目录下的CMakeLists.txt中的代码--BUILD_DEMO选项没选中。
2026-03-16 22:16:04
63
原创 谈谈ai infra
主要的工作职能是将模型翻译成芯片能跑的指令,跟硬件强绑定,NPU/GPU/TPU都需要编译器。岗位较少,比较稀缺。只要跑模型、跑推理、跑训练的公司全都要:芯片公司、机器人、AIoT、自驾公司以及大模型公司、云厂商。深度不如前几个,但好找工作,只要上线模型的公司都要,门槛最低。最容易入门、岗位最多,几乎所有做 AI 产品的公司都有。让矩阵计算/卷积/Attention等算子跑的最快。集中在做ai芯片/大模型底层的公司。只有钱超多、训大模型的公司才有。让模型上线跑得稳、快、省资源。让大模型能分布式训练。
2026-03-14 14:09:39
549
原创 vllm学习
方法是采用动态批处理的处理手段:一个请求生成完,立即踢出、新请求立刻加入,不用等待整批结束。主要解决在模型推理时有大量小算子,频繁读写显存,速度慢,方法是将多个计算的步骤合并成一个GPU操作,减少现存读写次数,拉高GPU计算效率。主要解决大模型推理KV Cache显存浪费严重的问题,方法是将注意力中的KV Cache分成固定大小的页(page),不需要连续显存。给用户调用的Python API、Open AI兼容的API、命令行,主要作用是接收推理请求(文本生成)4、底层执行层(GPU算子)
2026-03-14 10:59:41
35
原创 leecodehot100刷题--矩阵
定义四个边界指针:top、bottom、left、right用来界定指针移动的范围,不断地将指针从左到右移动->从上到下移动->从右到左移动->从下到上这样循环移动。如果target < x, 那么说明x比较大,则往x这一行的左边寻找,若target与x这一行一直左移后的元素不等,如果出现左移的元素<target,那么往下一行寻找。如果target > x,说明x还是太小了,但是x是这一行最大的元素,就往下一行找;,对于为 true 的列,将该列所有元素设置为 0。,返回矩阵中的所有元素。
2025-06-03 16:03:38
1861
原创 解决IEEE会议论文模板中遇到2x3作者不对齐的问题
只需要将第3个作者与第四个作者中间的\and改成\linebreakand即可。第一行作者跟第二行作者左右不对齐。
2025-06-02 08:29:11
620
原创 leecodehot100刷题--普通数组
这里使用了动态规划的思想,就是说如果当前元素的加上前面的元素比不上当前元素大的话,就舍弃前面的元素,从当前元素开始。,请你找出一个具有最大和的连续子数组(子数组最少包含一个元素),返回其最大和。区间 [1,3] 和 [2,6] 重叠, 将它们合并为 [1,6].连续子数组 [4,-1,2,1] 的和最大,为 6。一个不重叠的区间数组,该数组需恰好覆盖输入中的所有区间。区间 [1,4] 和 [4,5] 可被视为重叠区间。向右轮转 1 步: [99,-1,-100,3],请你找出其中没有出现的最小的正整数。
2025-05-21 16:43:39
1249
原创 leecodehot100刷题--子串
这道题的解题思路是:设置左右指针,首先将左指针定死,右移右指针看窗口是否有子串。如果没有出现字串就一直右移右指针,如果出现字串就记录窗口的大小并且记录字串,然后左移左指针,缩小窗口直到窗口不满足子串条件就再右移右指针。这里的解题思路是始终保持队首是窗口的最大值,如果队首不是窗口最大值,则将前面的元素都踢出窗口,如果队尾的索引值超过窗口的长度,则把队首踢出窗口。这里的解题思路是利用前缀和+哈希表的方法,其中首先初始化一个哈希表,先加入0这个键,它的出现次数是1。的滑动窗口从数组的最左侧移动到数组的最右侧。
2025-05-19 14:13:39
1573
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人
RSS订阅