- 博客(337)
- 资源 (10)
- 收藏
- 关注

原创 Bryce1010 Acm模板
目录STL标准模板库 STL简介 STL pair STL set STL vector STL string STL stack STL queue STL map upper_bound和lower_bound STL bitset STL iterator简介 STL a
2017-09-20 20:47:33
5576
2
原创 深入解析 vLLM:高性能 LLM 服务框架的架构之美(二)调度管理
vLLM 的调度系统是一个精心设计的多层次架构,通过多个协同工作的组件实现了高效的资源管理和任务调度。让我们从整体到细节来回顾这个系统。
2025-02-17 16:19:07
1089
原创 深入解析 vLLM:高性能 LLM 服务框架的架构之美(一)原理与解析
我们将看到调度器如何像一个睿智的指挥官,统筹安排每个请求的处理时机,以及内存管理器如何通过创新的 PagedAttention 机制,让有限的显存发挥出最大效能。调度器会判断是否有足够的内存块可以分配给新的 tokens。在模型部署的初始化阶段,vLLM 会通过一个模拟实验步骤来决定 GPU 和 CPU 上可以分配的 KV cache 物理块数量,确保后续推理时的内存分配不会导致显存溢出。从最初的模型初始化,到 KV Cache 的预分配,再到请求的具体处理,vLLM 展现出了令人印象深刻的工程智慧。
2025-02-14 14:38:21
1959
原创 SoundStream: 下一代的神经网络音频编解码器,实时压缩不牺牲音质
音频编解码技术的目标是,通过减少音频文件的大小来节省存储空间或减轻网络传输的负担。理想的情况下,即使音频被压缩,我们听到的声音与原版也应该没有任何区别。过去,已经有不少编解码技术被开发出来,满足了这些需求,比如Opus和EVS这两种编解码器就很出名。Opus是一个多才多艺的音频编解码器,它适用于各种应用,从视频会议(比如 Google Meet)到在线视频流(比如 YouTube)。Opus支持的压缩比率非常灵活,从每秒6千比特到每秒510千比特都可以。而EVS,是由针对移动>)开发的最新编解码器。
2024-04-29 11:36:27
2924
2
原创 大模型参数高效微调PEFT的理解和应用
如果对网络层每一层都要重新实现LoRA的方法,是比较复杂的,推荐使用HuggingFace的封装库peft,覆盖基本的网络模型。共用基础LLM是未来的趋势,如果需要快速适应特殊的任务,只需要训练LoRA的参数即可,大大降低了GPU的使用量;当不同任务的切换时,只需要切换不同的LoRA参数;
2023-09-11 11:25:19
571
原创 Java响应式HTTP客户端WebClient介绍
Java的HTTP客户端介绍阻塞式 RestTemplate响应式 WebClientWebClientpublic interface WebClient非阻塞,响应式的HTTP请求客户端可以通过静态方法 create(), create(String) , builder()构造实例。@Beanpublic WebClient webClient() { return WebClient.builder() .baseUrl(props.getFileServerUrl.
2022-01-06 23:50:46
2024
原创 推荐MIT工程能力课程:《计算机教育缺失的一课》
计算机教育中缺失的一课missing-semester-cn/missing-semester-cn.github.io大学的计算机主要介绍的都是操作系统、机器学习这些大主题的课程,但是对如何精通工具却留给学生自行探索。在这个课程中,作者讲授了如何使用命令行、文本编辑器、版本控制系统。此课程是很多工程能力的起航,本人在此课程的基础上推荐一些进一步加深学习的资料。中文目录课程概览与shell介绍shell基本知识,可掌握基础的linux任务,使用大多数程序的基本功能。shell工具和脚本
2021-10-09 11:03:49
1303
原创 开博四周年庆,博文分类汇总
软技能《How to read a book》 书评和资源前端技术后端技术《SpringBoot实战派》读书笔记编程语言计算机科学与技术内功找工作2021年后台开发岗找工作需要准备什么?(JAVA/C++)2020年秋招算法岗需要准备什么?深度学习(2020.04) Review: YOLOv4: Optimal Speed and Accuracy of Object Detection(2020 CVPR Detection)Review: EfficientDet: Towar
2021-01-16 11:34:38
348
原创 【Leetcode】(动态规划)最长公共子序列总结(路径压缩)
题目给定两个字符串str1和str2,返回两个字符串的最长公共子序列。分析这种题目是最经典的动态规划题目,下面简单介绍做法。首先根据题目设dp[i][j]表示str1[0…i]和str2[0…j]的子串最长公共子序列的长度为dp[i][j]那么有三种转换情况:dp[i-1][j] 如果str1[i]≠str2[j],dp[i][j]=dp[i-1][j]dp[i][j-1] 如果str1[i]≠str2[j],dp[i][j]=dp[i-1][j]dp[i-1][j-1] 如果str1[i
2021-01-07 11:11:51
484
原创 【Leetcode】(动态规划) 汉诺塔问题,求到达中间的状态的最优步数
汉诺塔问题:汉诺塔问题根据汉诺塔问题-维基百科的描述,是一个将左边的圆盘挪到右边任务。需要满足的条件是,每次只能移动一个圆盘,而且大盘不能再小盘上面。题目初始问题:给定一个数组arr, arr[i]表示第i个盘当前在第arr[i]柱子上,求从汉诺塔初始状态到这个arr数组的状态最优情况下需要多少步,如果不存在则返回-1.进阶问题:采用时间复杂度为O(n),空间复杂度O(1)实现上面的问题。例子arr = { 1,1} 返回0arr = { 2,1} 返回1arr= { 2,2 } 返回-
2020-12-18 21:55:22
1167
3
原创 《How to read a book》 书评和资源
文章目录resources介绍阅读的活力与艺术阅读的目标主动阅读 vs 被动阅读如何带着问题去读?如何做笔记?阅读的基本概念总结阅读的层次阅读的第一个层次:基础阅读阅读的第二个层次:检视阅读检视阅读一: 有系统的略读或粗度检视阅读二:粗浅的阅读阅读的速度检视阅读问题:逗留与倒退检视阅读章节总结阅读的第三个层次:分析阅读分析阅读的第一个阶段分析阅读的第二个阶段分析阅读的第三个阶段分析阅读的三阶段总结如何阅读实用型的书如何阅读想象文学的书如何阅读故事、戏剧和诗如何阅读历史书如何阅读数学和科学如何阅读哲学书如何阅
2020-12-14 15:03:26
1145
原创 【Leetcode】最长递增子序列(动态规划 + 二分搜索)
题目给定数组arr,返回arr的最长递增子序列举例:arr = [2,1,5,3,6,4,8,9,7],返回的最长递增子序列为[1,3,4,8,9]要求:如果arr的长度为N,请实现时间复杂度为O(nlogn)的方法。分析这一题也是经典的动态规划,那么常规的动态规划时间复杂度为O(n^2);如果加入二分的话,可以将动态规划优化到O(nlogn)。解法1 O(n^2)的动态规划了解题目以后,状态为数组的当前位置i就能决定返回值,那么dp[i]表示arr[0…i]的最长递增子序列dp[i] =
2020-12-06 14:14:48
6584
1
原创 【Leetcode】打气球的最大分数 (暴力递归+动态规划)
题目给定一个数组arr,代表一排有分数的气球。没打爆一个气球都能获得分数,假设打爆气球的分数为X,获得分数的规则如下:如果被打爆气球的左边有没有被打爆的气球,找到离被打爆气球最近的气球,假设分数为L;如果被打爆气球的右边有没被打爆的气球,找到离被打爆气球最近的气球,假设位数为R,那么获得分数为LRX。如果被打爆气球的左边有没有被打爆的气球,找到离被打爆气球最近的气球,假设分数为L;右边没有没被打爆的气球,那么获得分为为L*R。如果被打爆气球左边没有没被打爆的气球,如果被打爆气球的右边有没被打爆的气
2020-12-05 19:26:38
894
原创 【Leetcode】换钱的方法数(暴力递归,动态规划,记忆化搜搜,路径压缩)
题目给定数组arr,arr中所有的值都是整数且不重复。每个值代表一种面值的货币,每种面值的货币可以使用任意张,再给定一个整数aim,代表要找的钱数,求换钱有多少种方法数?分析这一题也是递归搜索的套路题,复习 机器人到达指定位置方法数首先可以通过递归搜索得到递归解法,复杂度比较大;其次通过记忆化搜索和动态规划进行优化;最后动态规划还能继续优化。解法1 暴力递归每张面值尝试不同的张数,如果arr=[5,10,25,1],aim=1000分析过程如下:用0张5元的货币,[10,25,1]组成剩
2020-12-04 15:11:35
530
原创 【Leetcode】机器人到达指定位置方法数 (动态规划)
Foreword原版是 https://www.notion.so/bryce1010/2b4b9e98bb34422084d3cf3f84534df3,原版查看体验更佳。Resources《程序员代码面试指南》《OI wiki dp部分》《labuladong动态规划详解》题目假设有排成一行的N个位置,记为1~N,N一定大于等于2.开始时机器人在其中的M位置上,机器人可以往左走,也可以往右走,如果机器人来到1位置,那么下一步只能往右来到2位置;如果机器人来到N位置,那么下一步只能往左来到
2020-12-01 17:00:45
1044
原创 《SpringBoot实战派》读书笔记
首发于:https://www.notion.so/bryce1010/Springboot-7a63f7d8cdb54052a95a262d170e53f6前言:SpringBoot是当前Java技术栈必学的框架,读完《SpringBoot实战派》后,给我的最大感觉就是简单易懂,这本书不仅包含的技术范围全面,而且每一个对应的技术都配有简单的样例,可以让人更快速的明白某种技术的作用,比较实用用于初学者入门,入门后对照各章节的技术再进行深入的研究。这份读书笔记参考的资料包括以下几个部分:YunaiV/
2020-11-10 16:25:53
425
原创 2021年后台开发岗找工作需要准备什么?(JAVA/C++)
2020年的秋招接近尾声了,今年的趋势大家都有目共睹,算法岗灰飞烟灭,开发岗需求旺盛,而且算法岗的薪资已经与开发岗相差不多,这是开发岗的优势。但是在找开发岗的过程中会发现,开发岗的天花板还是较低的,很难有诸如“阿里星”,“北斗计划”的五十万以上的高薪。我个人在今年的秋招中,既做了算法岗(研究生专业)的准备,也在开发岗(本科专业)有一定的沉淀。算法岗的准备过程参考上一篇2021年算法岗找工作需要准备什么?General职业生涯建议程序员如何把控自己的职业 | | 酷 壳 - CoolShell
2020-10-29 18:57:37
916
2
原创 2021年秋招算法岗需要准备什么?
找工作准备过程中,收集了一些个人觉得对算法岗有用的资料,以我的水平也很难评定出哪些资料的含金量高,稍微有些参考意义就都收藏了。GeneralCV公司 按城市分类amusi/CV-Company-ListAI求职攻略amusi/AI-Job-Notes算法岗面试准备深度学习面试宝典amusi/Deep-Learning-Interview-Book内包含AI算法求职群知识星球讨论组知识星球 | 深度连接铁杆粉丝,运营高品质社群,知识变现的工具算法/深度学习/NLP面试笔记Harley
2020-10-26 15:20:20
998
1
原创 (2020.04) Review: YOLOv4: Optimal Speed and Accuracy of Object Detection
当所有人以为Joseph Redmon会带着YOLO一起退出AI界的时候, 历史的车轮似乎并不愿意停下,,只是换了一位大佬而已,,这不YOLO v4作为单阶段的集大成模型传来喜讯。 大家再也不用到处去找调参模型了,作者表示, 我把所有最优的模型都调过了,你们都来参照我的实验。YOLO V4是2020年4月份新挂在Arxiv上的论文, 目前还未得知投稿了什么会议,但是非常值得学习,也很佩服作者的实践能力。 向大佬学习。那么讲到目标检测, 我也想顺着paper的思路, 先复习一下目标检测的背景和经典模型。.
2020-05-10 17:10:56
677
原创 (2020 CVPR Detection)Review: EfficientDet: Towards Scalable and Efficient Object Detection
RefEfficientDet: Scalable and Efficient Object Detection [paper]Tensorflow implement [github]Pytorch Implement [github]
2020-04-18 10:11:10
519
原创 (DeepLearning) CNN平移不变性的研究? 如何避免?
CNN不具有平移不变性?为什么?这一部分主要参考18年的一篇论文1, 论文中经过实验, 阐述了CNN不具有平移不变性, 图形经过细微的平移, 旋转, 像素点更改, 会使得结果发生巨大的改变.在上图中, 作者分别做了平移, 缩放, 视频时间不同的实验, 发现任一修改都会使得最后的分类结果发生很大的变化.那么为什么会发生这种现象呢?我们都知道, CNN的卷积操作本来带有平移不变形的属性, ...
2020-04-14 18:06:44
1374
原创 (论文笔记2019ICCV) Learn to Scale: Generating Multipolar Normalized Density Maps for Crowd Counting
这篇工作是发表在2019ICCV1上的, 关于Crowd Counting的文章;在Crowd Counting领域2, 经典的方法是采用基于目标检测的框架, 以滑动窗口的形式检测人头或者人身体的一部分, 但是随着人数越来越密集, 人与人之间的遮挡问题越来越严重, 造成基于检测的方法效果越来越差;在现代的Crowd Counting主流方法中, 基本都是采用基于回归的方法, 通过学习特征图到...
2020-04-10 20:26:04
1079
原创 (DeepLearning Classification)Bengali.AI Handwritten Grapheme Classification
Bengali.AI Handwritten Grapheme Classification 1st Place Solution — Cyclegan Based Zero Shot Learning第一名的工作真的是Impressive , 我还是第一次见到GAN应用到数据增强方向, 严格来讲也不算是是数据增强;Data比赛的任务是对孟加拉语的手写字进行识别;孟加拉语由三个部分组成: ...
2020-04-05 20:16:44
477
1
原创 【DeepLearning】Bags of tricks for Classification深度学习分类提分技巧汇总
目标分类与tricksImage Classification on ImageNet [url]过拟合解决方法simpler model structureregularizationdata augmentationdropoutBootstrap/Baggingensembleearly stoppingutilize invarianceBayesian...
2020-04-05 10:06:52
527
原创 [论文笔记 GAN] 2017 ICCV CycleGAN阅读
AbstractCycleGAN 是Berkeley AI Research (BAIR) laboratory, UC Berkeley发表在ICCV2017上的工作, 传统的GAN都是单向的, 论文首先提出了GAN inverse 构建功能, 即将生成的假图, 重建回原图的风格.Contents之前的工作考虑的都是在训练集中, 训练样本和label中的物体都是匹配好的, 但是在真实生活...
2020-04-02 11:32:53
518
原创 【二分】(中等)Leetcode 33. 搜索旋转排序数组
[题目]题目大意如上所属,要求在O(logn)的时间复杂度解决。要求时间复杂度为O(logn),首先要想到直接要循环搜索出旋转位置的方法是O(n)以上,所以不可行;那么根据题目中升序排序数组关键词容易想到,二分搜索来解决。通过分析可以发现,旋转后的数组由前一段升序和后一段升序组成。那么可以在每次查询过程中,判断当前查询位置是属于前一段还是后一段,这样就转化成常规的二分。class So...
2020-02-06 15:16:15
286
原创 【论文笔记 Detection】(2017 ICCV)Deformable Convolutional Network
文章前言文章目录文章前言文章内容总结文章内容总结
2020-02-05 10:50:16
485
原创 【论文笔记 Detection】OHEM: Training Region-based Object Detectors with Online Hard Example Mining
前言参考内容如下:Training Region-based Object Detectors with Online Hard Example Mining [paper] [OHEM中文笔记]S-OHEM: Stratified Online Hard Example Mining for Object Detection [paper]文章目录前言文章内容1. Fast RC...
2020-02-01 11:28:47
601
原创 【论文笔记 detection】soft-nms: Improving Object Detection With One Line of Code
前言文章目录前言文章内容总结文章内容总结
2020-01-31 11:20:53
574
原创 【DeepLearning综述】 2020年DeepLearning Detection 综述
##RefAwesome Detection paper+ranking [url]SSD [paper]
2020-01-08 15:46:54
803
原创 [Few-shot]2020年few-shot detection综述
文献调研怎么做?作者同样总结一个"三步法”:善用学术搜索引擎,(比如google学术,Arxiv)找出3-5篇相关领域近期最高引用的论文;了解这些论文的工作原理,并阅读其中的related work部分,幸运的话,这些内容可以直接帮你完成文献综述;在这些论文的参考文献中,找出其共同引用的论文,或者重复出现的作者姓名;访问这些关键人物网站,查看他们近期发表的论文,也可以看看他们参加了哪些顶...
2020-01-07 22:30:31
2913
原创 (few-shot)2020年few-shot learning Classification overview 小样本综述
小样本学习:基础 [blog]相关问题为了更好的了解 FSL, 这一小节列举一些和 FSL 相关的问题类别做比较.半监督学习(Semi-supervised Learning) 是同时从有标注和无标注的数据中学习最优假设 . 正样本半监督学习(Positive-unlabeled learning) 是一类特殊的半监督学习, 只有正样本和无标注样本可以使用. 主动学习(active ...
2020-01-03 22:40:08
2036
原创 [Few-shot Classification]Review:(ICLR 2019)A Close Look at Few-shot Classification
前言本次的Review,我将按照[How to read a paper]的顺序进行阅读。1. General Information文章是对Few-shot classification的一个综述性质的文章,但是在其基础上还提出了自己的模型,并对以前的方法进行了统一的标准。文章的主要贡献如下:对现有的few-shot classification算法做了公平性的比较分析,结果显示更...
2019-12-30 15:57:01
1496
原创 How to Read a Paper (怎样阅读论文)
[paper]0. Three Pass Approach作者介绍了一个"Three pass"的看论文阅读方法,目的是为了在人们阅读论文细节之前有一个大体的掌握。第一遍是掌握论文的大体意思;第二遍是查阅论文的主题,但是不看论文的细节;第三遍是帮助你更佳深度的了解论文细节。1. The first pass第一遍的目的是对全文有一个快速的掌握,并依据第一遍获得的信息决定要不要读...
2019-12-30 10:17:00
1224
原创 (Few-shot Detection)Review: Comparison Network for one-shot Conditional object detection
本篇文章思路比较简单,作者认为,One-shot Learning只检测与query image相似的目标,是一种有条件的检测任务,适合引入贝叶斯条件概率理论。网络的大致模型:(a) 表示以前做One-shot conditional detection任务的常用做法,采用selective windows设计一个固定的metric 方法;(b)表示LSTD的做法,对RPN和分类器都采用f...
2019-12-14 15:34:15
681
1
原创 (Few-shot Detection)Review: Transductive Learning for zero-shot object detection
Ref 半监督学习 - - 直推学习(Transductive learning)1. 提出问题在做zero-shot detection的时候,由于源数据(Seen)和目标数据集(unseen)之间的数据分布并不匹配,导致了严重的域偏移问题;由于模型是根据seen的数据训练的,导致引入了较大的偏差,在一般的zero-shot设定下,会把unseen数据更大概率的预测成seen里面的...
2019-12-14 15:33:35
589
1
算符优先文法
2017-11-19
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人