研发学习记录
文章平均质量分 75
笔记记录数学原理或理论之外,借着实际研发过程,梳理一些理论和工程上的应用实现方法。比如要实现一些很有价值的点,NIPT的判定的算法和数学方法,泛肿瘤早筛,品种鉴定以及个性化基因组学方面的东西。笔记仅作为上下游配套的补充。各章节可选择阅读,逻辑弱相关
西域番僧--鸠摩罗志
任何问题合/作可私信
展开
专栏收录文章
- 默认排序
- 最新发布
- 最早发布
- 最多阅读
- 最少阅读
-
研发笔记(六续)从词性标注到DNA序列元件
这个特殊的有向图就是lattice图,找到从第一个字到最后一个字的概率最大路径即可以找到最佳分词,与上篇文章相同的原理,概率最大可以转化为负对数相加,即路径最短,如果穷举路径则计算上不可接受。'维特比算法是针对一种特殊的有向图' ----->BMEBESBESSBESBME 分词为:‘维特比/算法/是/针对/一/种/特殊/的/有向图’例如:'我喜欢蔬菜' --正确词性标注为------> SBEBE 则分词为 '我/喜欢/蔬菜'当然实际如何分词是正确的是根据词库得到的,是可以调整的。原创 2025-12-22 12:54:00 · 260 阅读 · 0 评论 -
统计学习研发笔记(一 续)
在统计分析中很多数据操作用pandas 更方便,因为很多数据操作比如类似R中的groupby等在pandas中有提供,但是pandas 和 R一样,一般会将文件全部读入内存。df = pd.read_csv(fname, usecols=['col1', 'col2']) 只读入每行的col1 和col2列)pandas虽然提供了很多便利性,但也具有一定黑箱性,其特殊的数据结构需要熟悉,很多行为如果把握不好也容易用错,比如如果。有非数字内容或混合类型的列 → 保持为。能识别为数字的列 → 自动转为。原创 2025-10-22 12:28:43 · 190 阅读 · 0 评论 -
研发笔记(七)简单看一下机器学习--决策树到随机森林
虽然深度学习也属于机器学习,但是一般说机器学习指的是除深度学习以外的传统的旧的机器学习算法。sklearn.tree.DecisionTreeClassifier(criterion=’gini/xxx’)中有C 4.5 C4.5C4.5 什么的,使用的是增益率准则,先从候选划分属性中找出信息增益高于平均水平的属性,再从中选择增益率最高的。随机森林是多个决策树的集合,每个树有各自的标准并且每棵树用,例如n=百分之八十的样本,部分数据集而非全部数据集N训练,最终少数服从多数得到最终的判定结果。原创 2025-07-27 12:43:29 · 479 阅读 · 0 评论 -
学习笔记(五) 了解Transformer原理与AI应用的RAG(langchain)构建私有知识库
FNN前馈神经网络的固定输入节点数量是固定的,为了更适于翻译这种输入文本长度变化的序列转导任务,出现了RNN循环神经网络,如下图,可以模拟人类说话一个字一个字按时间顺序的过程。将所以事物都映射维向量存储到向量数据库,对每个‘字’,‘词’,‘图像’等非结构化的数据都定义了一个高维向量,这样就把语言文字转化为了可计算的数学量,与上篇讨论的用向量表示文章一样,语义相近的文本或单词对应的向量也相近。例如,这里的“水”不是和‘液体’,‘油’,‘喝的’ 等词义相近的名词,而是修饰课程怎么样的形容词。原创 2025-06-04 16:01:26 · 943 阅读 · 0 评论 -
学习笔记 <数学之美>的文本处理和pagerank到SVD(四)
我觉得杂志的影响因子算法可以考虑文章被引用的时间因素,即当风潮过去后事情区域客观而仍被引用的文章可能更有基础性贡献,时间越长反而会上扬或者沉默速率相对别的跟风文章变慢的,应该比大团队认为运作刷引用的价值更高。那么再查找相关的网页,最简单的想法是,包含这些词频率高的网页相关度越高,于是计算所有网页的这些词的词频TF, 但是有些词的信息量大,比如‘大模型’比‘应用’这个词重要,有些词比如‘的’这种词几乎没有语义,所以用TF·IDF计算每个网页的这三个词的TF-IDF的和,∑TF·IDF 作为相关性的排名。原创 2025-05-27 15:56:26 · 836 阅读 · 0 评论 -
统计学习笔记 <数学之美>贝叶斯网络内容校正(三)
他这个箭头指向的是原因。贝叶斯图可以看成是马尔科夫链推广到有向图的结果,一般都假定一阶,即与只于前一个结点(即父结)点有直接关系,一般表示都是父结点(xt)指向下一结点(xt+1),即指向的是导致的结果,或下一个状态。第二,图中表头按照红色修正的标记更好理解一点,家族病史和高血脂对应的是下面第一列的四个 “有,无”,并且圈中应为无。《数学之美》是一部非常不错的书,以连贯的思维勾勒出包括自然语言处理,一直到到第三版增加了比特币密码学合深度学习的原理,可以快速了解一些技术,至少对多年前的人们来说。原创 2025-03-30 23:41:57 · 384 阅读 · 0 评论 -
统计学习笔记 生物基因组学应用(二)
这篇文章给了一个实际的例子,用神经网络预测一段序列当中的motif, 分割成2000小段序列,每段50bp,实验已知每段是否包含motif 比如增强子,标记为0、1,分成训练集和预测集进行验证,最后解释,实际真实的序列是(CGACCGAACTCC。先对数据编码,一般对四种碱基编码为:A [1,0,0,0],T [0,0,1,0],C [0,1,0,0] ,G [0,0,0,1]#arrays[0], arrays[1], arrays[2]进行堆叠,所以结果与原始数组一样。原创 2024-06-08 22:43:56 · 864 阅读 · 0 评论 -
统计学习笔记 生物基因组学应用(一)
生物信息基因组大数据处理,经常会用到numpy, panda 包和pysam包,panda包也是很多大数据及AI工作中常用的包,所以有必要对些常用数据处理函数,实现了什么,数理逻辑怎样进行直观易理解的整理供查询。array的reshape()函数如果有-1,比如encd.reshape(-1,1)会生成列数为1,填充进去之后,就是多少行二维数据就是多少行1列。LabelEncoder的fit_transform()将类别转为整数,比如,DNA碱基序列(只有四种)转为0,1,2,3。原创 2025-07-01 23:22:21 · 953 阅读 · 0 评论
分享