- 博客(342)
- 收藏
- 关注
RSS订阅原创 读论文：基于节流的流水线并行推理优化——gLLM
比如，在prefill阶段，所有的没有计算prefill的token都被计入1个，在decode阶段，由于是自回归的，所以往往一个请求只有1个token(就是上次生成的token)需要推理。另外，vllm的调度策略是FCFS(先来先服务)的，所以首先会按照请求抵达的顺序去调度running队列中的请求，当显存不足够满足当前请求的kv-cache空间请求的时候，会从后向前释放running队列中请求的显存占用，并将这些被抢占的请求加入waiting队列中。实际调度时，出现了4、4、4、14调度的情况。
2025-09-24 17:47:00
274
1
原创 科研牛马碎碎念
7年之前，刚进入高中的时候，我开始了写日记，名之“旧梦”。如今再去看里面记录的那些往事，竟真的亦真亦假、亦虚亦实，仿佛不是发生在自己身上的经历，而是做了一场很长又很短的梦，但又确是一些趣事，看来“旧梦”之名起的确实恰当。甭管是真是假、是虚是实，若干年后，故事重提，仿佛自己的人生更加丰满了一些。如今，是我进入研究生生涯的第25天。作为一个科研新手，迷茫而孤独。最近常常深陷于这种困扰的心境中。
2025-09-21 01:11:00
835
原创 Sapphire开发日志（九）控制台页面
排行榜这里展示积分最高的几名用户。为每个用户设计一个横向头像+姓名的组件进行展示。此外设置合适的链接，使得点击用户时可以跳转到对应的主页。为wrap，方向设置为row，然后让每个子容器的大小是30%。这样每个子容器的大小是1/3，当数量超过容器宽度时自动换行。此外，根据数据集与查询者的关系决定外部按钮的显示方法。当用户为拥有者时，显示。创意工坊相当于任务广场，用于展示当前的所有任务集，并展示一个排行榜。这里将左侧区域划分成三栏进行展示。,当用户已经认领了任务时，就显示。任务集展示使用封装的。
2024-06-21 17:38:37
371
原创 sapphire开发日志（八） 任务集详情界面优化——embedding进度条
在我们上传数据之后，后端需要较长的一段时间计算出embedding，在计算embedding这段时间，我们是不能进行标注的。所以需要向用户展示当前的embedding计算进度。
2024-06-14 21:14:47
371
原创 Sapphire开发日志 (七) 任务集详情优化——评论功能
这里需要维护一个状态msg用来保存输入框中的内容，监听输入框的change时间，然后适时修改msg的内容。希望为任务集添加一个评论的功能，用户可以对任务集进行评论，用于其他用户的参考是否要认领任务。然后就是需要借助封装好的react-query实现评论请求发送。具体实现比较简单，就是实现一个获取评论的接口，然后借助mui的。首先我们需要实现一个输入文本框，这里我自己封装了一个。组件，用来进行评论内容的展示。组件进行一些封装美化展示。在请求成功之后提示用户。组件，用于实现输入框。
2024-06-14 21:14:09
476
原创 Sapphire开发日志（五）路由组件封装
这个函数根据蒙版信息计算抠图区域，蒙版中为0的区域是没有被框选的，如果不是0，说明是被抠出的部分，那就加入到新的canvas中去。切换图片时，只要切换image和embedding即可，通过useEffect来监听这两者的变化，当他们发生变化时，我们会清空所有数据，然后将新图片交由模型进行推理。根据用户习惯，在这里滚动滚轮，理论上应该会横向滚动才对，所以我们添加一个监听器，监听这个位置的滚轮状态，组织默认行为，使用js修改当前容器的y轴。使用同样的方法，我们添加一个全部任务的展示栏，用于展示全局的任务。
2024-05-30 19:49:10
570
原创 Sapphire开发日志（四）SAM分割操作组件技术验证
使用刚才编写modelData来生成一个模型输入需要的数据feeds之后，使用model.run方法来执行推理，最终的推理结果将转换成svg蒙在原图之上，形成一种被选中的“错觉”。如果是点击的话，我们需要知道所有的点击点，这里我们用一个clicks数组来保存每个点击操作的坐标。modelData函数接收一个关于用户点击或者框选操作的输入，以及一个此前的推理结果（sam模型要求提供一个上次的推理结果）。本周任务，将模型进行封装，实现模型推理的基本API，从而可以根据输入数据输出蒙版数据。
2024-05-30 19:44:56
669
原创 Sapphire开发日志（三）web端运行onnx的问题与解决
这个函数根据蒙版信息计算抠图区域，蒙版中为0的区域是没有被框选的，如果不是0，说明是被抠出的部分，那就加入到新的canvas中去。切换图片时，只要切换image和embedding即可，通过useEffect来监听这两者的变化，当他们发生变化时，我们会清空所有数据，然后将新图片交由模型进行推理。根据用户习惯，在这里滚动滚轮，理论上应该会横向滚动才对，所以我们添加一个监听器，监听这个位置的滚轮状态，组织默认行为，使用js修改当前容器的y轴。使用同样的方法，我们添加一个全部任务的展示栏，用于展示全局的任务。
2024-05-30 19:41:52
1505
1
原创 Sapphire开发日志（二）框架设计
*系统管理员：**有用户管理权限、可以发布官方任务、查看全局统计信息**众包发布者：**可以发布任务、发布时需指定对于任务投入的积分**工人：**认领任务者，上线后可以即时认领任务开始标注，每张图片有其价格（与发布者投入的积分有关）用户角色既可以认领任务也可以发布，也就是既可以做发布者也可以做工人。
2024-05-30 19:37:54
1151
原创 Sapphire开发日志（一）需求设计
在人工智能和机器学习领域，数据标注的重要性不言而喻。这是训练准确模型的基础，直接影响到模型的性能和应用效果。然而，传统的手动数据标注方法效率低下，成本高昂，且难以保证一致性和准确性。随着数据量的爆炸性增长，这些问题愈发突出。随着深度学习和其他人工智能技术的发展，数据标注不再局限于人工操作。现代技术使得数据标注过程可以通过算法自动完成，大幅提高了效率和准确性。例如，AI预标注技术可以在语音转写项目中自动完成语音识别和文字转写的预处理操作，之后只需人工进行少量校对。
2024-05-30 19:34:47
702
原创 面向对象笔记
定义对象：一个面向对象的程序是由一个相互作用的代理团体组成，这些代理被称作对象。每一个对象承担一个角色。每一个对象都提供一种服务或者执行一种动作，以便为团体中其他对象服务。 对象是独立存在的客观事物，它由一组属性和一组操作构成。属性和操作是对象的两大要素。属性是对象静态特征的描述，操作是对象动态特征的描述。操作又称为方法或服务，它描述了对象执行的功能。通过消息传递，还可以为其它对象使用。...
2023-06-24 00:49:00
83
原创 从0开始的go+websocket构建五子棋对战系统
基本框架直接照搬，不多解释。dao为数据库处理层po为实体类middleware为中间件，cors处理跨域app对request请求进行封装router处理路由service为服务层，进行数据处理逻辑网络框架使用gin作为整体的网络框架，文档在这里https://github.com/gin-gonic/gin//main.gofunc main() { engine :...
2023-04-12 03:16:00
97
原创 组合式vue
vue组合式风格setup所有使用到的响应式状态都应在setup函数里面定义。<script>// `setup` 是一个专门用于组合式 API 的特殊钩子函数 setup() { const state = reactive({ count: 0 }) // 暴露 state 到模板 return { state } }...
2023-03-08 09:59:00
70
原创 token、session、cookie辨析——学生在线大例会
http的特点我们平时使用http进行前后端的数据传输，但是http的协议是无状态的，也就是他没有记忆。比如，我自我介绍，我是前端总监wxy，然后我要求在座的前端同学每人vivo50。然后大家就vivo50。然后我出去，再进来，说我是移动总监gsr，让在座的移动同学vivo50。如果使用http传输，你并不知道我与之前是同一个人，你就会认为我是gsr，然后移动的同学就又vivo50。这样显然...
2022-11-23 23:43:00
72
原创 学生在线前端第二次培训
css之盒模型概览html对每个容器进行了定义。这些容器之间的排版是由css来定义的。一个容器包含Margin,Border,Padding,Content四个部分。content指的是你的真正的内容。border是盒子的边框padding是边框与你的内容之间的填充部分margin是盒子之间的间距。zhgg去年用过一个非常形象的比喻：你可以把盒子看成一个个挂画，content是你...
2022-10-13 17:12:00
59
原创 react项目实战
架构Context介绍有些参数可能来自比较顶层的组件，然后在比较底层的组件使用，这时候如果在中间组件进行层层传递就会非常麻烦。react中使用上下文概念来解决这个问题。使用 const UserContext = React.createContext(0)来创建一个名为UserContext的上下文，其初值为0。然后在所要使用上下问组件的最外层嵌套一层标签<UserConte...
2022-10-06 23:36:00
151
原创 一九四三
2024-011号突然发现这篇日记已经一年多没更新了。真是太快了啊。2023年实在是过得太快了，已经没有什么印象了。只是感觉自己身上的冲劲越来越少了，对很多事情开始变得懈怠。但是过的也是很快乐的，跟侯侯去了北京、去了青岛，还去华为实习了一个月，去沈阳参加了优大和ccsp，跟门总和张哥去上海打了EC。新的一年要继续努力鸭！2022-1012号今天是四人组第一次见面一周年！！！！！...
2022-09-26 08:20:00
51
原创 我学python踩过的那些坑
变量作用域python对于变量作用域的处理，与我们常用的java，c都不同。下面这份代码会输出5，而不是4x=5def f(): x=4f()print(x)你可能觉着这很显然，因为这就相当于我在子函数里新建了一个同名局部变量嘛。但下面这个代码会报错x=5def f(): if x==5: print("right") x=3f()你可能以为报错发生在x=3。其...
2022-09-20 22:07:00
56
原创 五分钟构建go-cqhttp QQ对话机器人
go-cqhttp的下载与安装进入go-cqhttp的官网https://docs.go-cqhttp.org/下载对应的安装包然后双击安装包运行之后会生成一个config.yml配置文件在这个配置文件里，按照注释填写你的相关信息这里要注意，扫码登录要求登陆设备和手机在同一网络下。另外，要关闭QQ的设备锁。否则可能导致登录失败。然后解掉108、109行的注释图中信息不用修改...
2022-09-20 21:17:00
136
原创 难蚌
今天是六月17号，晚上的十一点四十五，星期五下周一考英语，周三考高数大物，周五考C++到现在大物一点没看，C++一点没看，课也没听英语更是没复习四级作文看错题目我是fw怎么越是到期末周破事儿越多呢先是浪费一天去竞选总监区块链要汇报，花了一整天时间看论文磨磨蹭蹭几天总算是把高数看完前几天牛客海投简历，有一家公司明天早上笔试，到现在基础知识一点儿没看。啥也不会，笔试就纯纯坐大牢，...
2022-06-17 23:58:00
78
原创 react破防记
3月22日，手机突响，拿起一看，艾特全员，正欲放下，突发好奇，点卡一看，新项目招人，本着提升能力(恰烂钱)为先的原则，我速速去接活此后十天了无音信，正以为要鸽，临近清明，本欲约三五好友，相聚牌桌，zhgg突然来滴直呼好家伙，意思是就剩我了呗。再问日期，惊觉，大事不妙6、7号满课，5日清明。寄！5日清明起个大早，室友还在酣睡，正苦无处自习，突然想到自己还加过学生会。打开文档，表单提...
2022-04-08 00:02:00
61
原创 计算机科学引论笔记
目录前言Unit1 information technology,internet,and youPEOPLESoftwareHardware数据(Data)连通性和互联网Unit2 The Internet，the Web and Electronic commerceInternet and webInternet Access 网络连接Web Utilities 网页工具包Communi...
2021-12-28 15:43:00
2054
2
原创 codeforces round743 D xor of 3
题目链接题意给出一个长度为n的01序列，每次操作可以选择一个位置\(i\)，然后将\(a_i,a_{i + 1},a_{i + 2}\)均变成\(a_i \otimes a_{i + 1} \otimes a_{i + 2}\)，找出一种操作方式，使得用不超过n次操作可以把整个序列变成0。如果不存在就输出NO思路显然只有当有偶数个1时才可能有解。如果n是奇数，那就依次对\(a_1,a_...
2021-09-23 15:29:00
46
原创 NOI.ac2020省选模拟赛13
比赛链接A.制胡窜problem给出一棵\(n\)个节点的树，树的每个节点上有一个字母，选出一条路径使得路径上的字符连起来构成回文串，问这个回文串最长可以是多长。solution留坑待填B.摔跤problem\(N\)个精灵和\(N\)个矮人正在举行摔跤大赛。\(N\)个矮人顺时针依次站在一个圆周上。第\(i\)个精灵将要和第\(A_i\)个矮人摔跤。然而，由于主办方的失误，\...
2020-06-14 10:18:00
63
原创 NOI.ac2020省选模拟赛12
比赛链接A.unionproblem给出两棵分别为\(n,m\)个节点的树A和树B。有Q次操作，每次将A树中\((a,b)\)路径上的每个点和B树中\((c,d)\)路径上的每对点\((i,j)\)两两之间的友好度\(f(i,j)\)加上\(c\)。最后输出所有的\(i\times j \times f(i,j)\)的异或和。\(1\le n,m \le10^4,Q\le 5\times...
2020-06-14 10:16:00
59
原创 NOI.ac2020省选模拟赛11
比赛链接A.Bproblem在一个 \(N \times N\) 的水池四周，有 \(4N\) 个人想要在这里钓鱼，他们围着水池站了一圈，水池四边每个格子都有一个人。一个人在钓鱼的时候，他需要把钓竿垂直于他所在的水池边线放置，并且他的钓竿不能与其他人的钓竿有交叉。每个人的钓竿长度不一定相同，但是有趣的是，处于同一边的人的钓竿长度是有序的，从左到右可能是升序，也可能是降序。同时，相对的两...
2020-06-14 10:15:00
66
原创 NOI.ac2020省选模拟赛10
比赛链接A.ballproblem有n条轨道，在这些纵道之间有m条横道，当有球从某个轨道经过时，如果路过了一个横道，那么这个球就会通过横道到达相邻的一个纵道。先放入m个横道，然后每次拿走一个。然后会有一些询问，询问当前从第i个轨道放下球最终会滚到哪个位置。solution用\(a_i\)表示第i个球滚到的位置。如果没有横道那么答案就是\(a_i=i\)。发现从上到下每个横道的作用就...
2020-06-12 07:39:00
56
原创 NOI.ac2020省选模拟赛9
比赛链接A.SAM2problem你需要构造一个自动机，使得这个自动机可以接受S的每个后缀(只需要接受S的后缀即可，别的不做要求)。并且让状态数尽量少。如果状态数为\(n\)，转移数为\(m\)，那么需要满足\(m\le 2n\)\(|S|\le 10^5\)solution首先状态数最少是\(n+1\)。考虑\(SAM\)的构造过程，再给新节点找\(parent\)的时候，如果找...
2020-06-09 21:58:00
54
原创 NOI.ac2020省选模拟赛8
比赛链接A.SAM挖坑B.T1problem给出一个字符串\(S\),\(S\)只包含阿拉伯数字,问\(S\)有多少个回文子串\(S[i,j]\)构成了不含前导零的能被三整除的整数。\(|S|\le 4\times 10^6\)solution题面不给数据范围真**先用\(manacher\)求出来所有回文串。然后对奇串和偶串分类讨论。如果一个串是偶串，那么要找的其实就是以...
2020-06-09 07:52:00
63
原创 NOI.ac2020省选模拟赛7
比赛链接A.t1problem如果一棵\(n\)个节点的数，每个节点上有一个元素，元素为集合\(S\)中的元素，初始为\(a_1,a_2,a_3...a_n\)。\(S\)中的元素可以进行加法操作，这里加法满足：对于任意的两个元素，得到的结果仍然属于\(S\)。满足交换律满足结合律满足幂等性(\(x+x=x\)对于任意的\(x\)成立)现在输入\(Q\)次询问，每次输入两个...
2020-06-08 22:22:00
58
原创 NOI.ac2020省选模拟赛5
比赛链接A.ZYB的测验计划problem有\(m\)道题，\(n\)个人，每个人对于每道题都有一个答案且每个人都可能来或不来，求出对于所有可能的\({2^m-1}\)个题目子集，每个子集有多少是有区分度的。一个题目子集有区分度当且仅当子集中的每个题都有人回答NO也也有人回答YES。\(n\le 10^5,m\le15\)solution暴力出奇迹用\(f(S)\)表示S这个集合中...
2020-06-08 22:02:00
62
原创 NOI.ac2020省选模拟赛4
A.背包problem有\(n\)个物品，价值都小于等于13，Q次操作，每次操作给出\(l,r\)，问区间\([l,r]\)内可以取任意多个物品，对于\(k=0,1,2,...12\)求出价值和\(m\% 13=k\)的方案数对2取模。然后将第l个物品和第i个物品价值和加1.\(n\le 8\times 10^6,Q\le 10^5\)solution丧心病狂的卡空间！结束前十分钟...
2020-06-04 22:24:00
56
原创 NOI.ac2020省选模拟赛3
比赛链接A.SAproblem给出一个字符串S，然后有Q次询问，每次询问给出一个字符串T，对于每个询问需要回答：S中有多少个连续子串与T恰好有一个字符不相同。\(|S|,\sum|T| \le 5\times 10^5\)solution先对于S建出后缀数组，然后对于一个询问T。枚举T的一个位置i，然后枚举一下把这个位置改成另外的一个字符c。下面就是在后缀数组中查询新的字符串出现过多...
2020-06-04 07:48:00
63
原创 NOI.ac2020省选模拟赛2
比赛链接A.旋转problem给出二维坐标系里的\(n\)个点。并且有\(Q\)次询问(操作)。每次询问给出一个区间\([l,r]\)。你需要回答一次询问并进行一次操作。输出这个区间内所有的中心(中心就是所有点坐标的平均值)。将\([l,r]\)内的所有点绕中心逆时针旋转\(60^{\circ}\)所有询问结束后，输出每个点的最终坐标\(n=10^5,Q\le 10^5\)...
2020-06-02 21:11:00
58
原创 luogu6584 重拳出击
题目链接solution为了方便，我们以小\(z\)的初始位置为根。大概理解完题意，可以发现有一个比较显然的性质：每一回合结束，每个\(Youyou\)与小\(z\)之间的距离不会变大。然后考虑小\(z\)移动所产生的影响。考虑当小\(z\)开始移动时，如果小\(z\)从\(u\)移动到了\(u\)的一个儿子\(v\)。那么这一回合结束，\(v\)子树中的每个Youyou与小z之间的距...
2020-05-30 19:52:00
50
原创 luogu1758 [NOI2009]管道取珠
题目链接solution我们可以将问题转化为进行两次游戏，最终输出的序列相同的方案数。为什么可以这么转化呢？我们尝试用式子表示这个新问题，对于一种序列\(i\)，如果在一次游戏中取到他的方案数为\(a_i\)，那么根据乘法原理，在两次游戏中都取到他的方案数就是\(a_i^2\)，那么所有可能序列的方案数之和自然就是\(\sum a_i^2\)了。那这个问题怎么做呢？我们设状态\(f[i]...
2020-05-28 16:29:00
40
原创 luogu4298 [CTSC2008]祭祀
题目链接problem给出一个有向无环图，找出最多的点，使他们两两之间不能到达。输出：最多找到的点数，输出一种方案，输出每个点是否存在一种方案使某个点可以被选出。Dilworth定理偏序集设R是集合A上的一个关系，R满足自反性，反对称性，传递性。那么就称R是集合A的偏序关系。集合A和关系R共同组成偏序集。例如，对于一个整数集合A，定义关系R为\(\le\)。那么A和R就组成...
2020-05-27 22:06:00
50
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人