- 博客(23)
- 收藏
- 关注
原创 第二十三周-最优传输理论(讲座三)
最优传输理论在计算机领域大放异彩,但其背后深刻的几何内涵同样引人入胜。本文将带你深入浅出地解析《海天讲座(三)》的核心——Minkowski问题与Alexandrov问题,揭示它们如何为离散最优传输映射提供存在性保证,并成为连接纯粹数学与工程应用的桥梁。Abstract一、Minkowski问题:如何用“面”与“方向”重构一个三维物体?我们先从一个经典的几何“逆问题”开始。正问题(易):给定一个凸多面体(如立方体),求它各个面的面积和朝外的法向量。这是一个简单的测量与计算问题。
2025-11-16 20:18:19
989
原创 第二十二周-最优传输理论(二)
本文探讨了计算机图形学中的3D模型参数化问题,重点分析了保面积参数化的数学原理与实现方法。主要内容包括:1)参数化类型(保角、保面积、等距)及其特点;2)最优传输理论的应用,将非线性蒙日-安培方程转化为离散最优传输问题;3)通过Brenier势能函数和凸几何方法求解;4)勒让德对偶理论在算法实现中的作用;5)完整的保面积参数化流程。研究证明,最优传输理论为保面积参数化提供了严格的数学框架,通过Brenier势能函数和凸包计算实现了高效求解,解决了传统参数化方法中面积畸变的问题,在几何处理和渲染中具有重要应用
2025-11-09 20:41:24
1184
原创 第二十一周-最优传输理论(海天讲座一)
摘要:本文系统介绍了最优传输理论的历史背景、数学框架和计算方法,及其在三维人脸聚类中的应用。该理论起源于1781年蒙日提出的土方运输问题,康塔洛维奇通过松弛条件将其转化为线性规划问题。核心数学工具包括黎曼映射(将曲面保角映射到圆盘)、蒙日-安培方程(描述最优传输的偏微分方程)和Wasserstein距离(衡量分布差异)。数值计算方法涵盖线性规划、熵正则化(Sinkhorn算法)和偏微分方程求解。在三维人脸聚类中,通过黎曼映射将人脸参数化为概率分布,计算Wasserstein距离矩阵,再结合多维尺度分析和聚类
2025-11-02 18:15:32
1231
原创 第二十周—SNN(2)
脉冲神经网络(Spiking Neural Networks,SNN)作为第三代神经网络,因其事件驱动的特性和高度的生物合理性,在低功耗类脑计算领域展现出巨大潜力。本文系统性地综述了SNN的学习过程与最新研究进展,重点分析了脉冲神经元模型、信息编码策略、学习算法及其数学基础。在模型层面,深入探讨了泄漏积分-发放(LIF)模型、Izhikevich模型和脉冲响应模型(SRM)的数学表达与特性;
2025-10-26 20:05:59
1222
原创 第十九周-训练embedding
Word2Vec和GloVe是两种主流的词嵌入方法。Word2Vec基于分布式假设,通过CBOW(用上下文预测中心词)和Skip-gram(用中心词预测上下文)两种浅层神经网络模型,将词语映射为稠密向量。其核心是通过局部上下文窗口学习词向量,并采用负采样等技术优化训练。而GloVe则利用全局词共现统计信息,通过构建共现矩阵并优化加权回归损失,直接捕捉词语间的共现规律。两者对比:Word2Vec擅长局部语义建模,GloVe更能反映全局统计特征,在词类比和相似度任务中各具优势。
2025-10-19 13:36:37
1007
原创 第十八周-认识SNN
本文介绍了脉冲神经网络(SNN)的基本原理与典型模型。SNN通过脉冲序列传递信息,模仿生物神经元工作机制,具有动态响应和稀疏激活特性。重点解析了LIF神经元模型的数学公式、代码实现及参数影响,并探讨了两种典型学习算法:基于时序依赖性的无监督学习STDP规则,以及结合时空信息的监督学习STBP算法。STDP通过脉冲时间差调整突触权重,而STBP通过梯度下降实现时空维度上的监督学习。文章通过公式推导、参数说明和代码示例,系统阐述了SNN的核心数学模型和学习机制。
2025-10-12 20:42:15
845
原创 第十七周-通用量子门与Deutsch-Jozsa算法
量子计算中的通用门集合与相位反冲技术 摘要:本文探讨了量子计算的三个核心概念:1)通用量子门集合,通过有限门组合实现任意酉操作,其中{CNOT,H,T}门集合具有通用性;2)相位反冲技术,将函数信息转化为相位变化;3)Deutsch-Jozsa算法,展示了量子计算在函数判定问题上的指数加速优势。研究表明,量子计算通过通用门集合和相位反冲等技术,在特定问题上展现出超越经典计算的潜力。
2025-10-05 19:57:07
941
原创 第十六周-基本量子3
本文摘要:文章系统介绍了量子信息处理的核心概念与技术。首先阐述了正交归一基的定义及其在量子测量中的应用,包括测量概率计算和基变换方法。其次详细讲解了两种重要量子通信协议:超密编码(利用1个量子比特传递2个经典比特)和量子隐形传态(借助纠缠态传输未知量子态)。随后介绍了量子电路基础,包括单量子比特门(泡利门、旋转门)和控制门(CNOT、控制-U门)的工作原理及矩阵表示。全文内容覆盖量子测量、量子通信和量子计算的基本要素,为量子信息处理提供了理论基础。
2025-09-28 20:42:19
762
原创 第十五周-量子计算2
本文系统介绍了量子计算的基础理论。首先阐述了经典计算的可逆性原理,指出Toffoli门作为通用可逆门的特性,并说明辅助比特在可逆计算中的作用。其次详细讲解了量子比特的数学表示,包括Dirac符号、Bloch球描述以及量子态的幺正演化特性。然后列举了常见单量子比特门及其矩阵表示,并揭示其与薛定谔方程的物理关联。最后探讨了多量子比特系统的张量积表示方法,重点分析了纠缠态的本质特征,特别是Bell态不可分解为单量子比特态乘积的关键性质。全文构建了从经典计算到量子计算的理论框架,为理解量子计算原理提供了系统的基础知
2025-09-21 20:15:21
816
原创 第十四周-量子计算入门
量子计算突破经典计算极限,利用量子叠加、纠缠等特性实现指数级算力提升。核心优势在于并行处理能力,可加速分子模拟、密码破解等复杂问题。目前超导、离子阱等技术路径并存,IBM、谷歌等已推出可编程平台。但面临退相干、纠错等挑战,需在硬件、算法等方向持续创新。未来将从专用量子优势向通用量子计算演进,开启全新计算范式。
2025-09-14 20:27:58
955
原创 第十三周-文本情感分析实验(基于GRU的文本情感分析)
摘要:本文介绍了一个基于PyTorch框架的GRU神经网络中文情感分析实验。实验流程包括:1)Python环境配置(3.7.4版本)及必要工具包安装;2)数据处理与词向量制作(分词、构建词典、文本数值化);3)GRU模型搭建与训练(30轮epoch);4)模型评估(精确率、召回率、F1值)。预处理阶段使用jieba进行中文分词,并自制词向量。训练过程采用Adam优化器和BCELoss损失函数,最终在测试集上评估模型性能。完整代码可在frank330/Emotion_analysis获取。
2025-09-07 17:07:58
986
原创 第十二周周报-GAN
本文介绍了生成对抗网络(GAN)的核心概念与应用。首先阐述了生成模型相比判别模型的优势,特别是在处理"一对多"问题时能产生多样化输出。接着详细解析了GAN的对抗训练机制:生成器(G)负责生成逼真数据,判别器(D)负责鉴别真伪,二者通过交替优化相互促进。文章还探讨了GAN的理论基础,指出其本质是最小化真实数据与生成数据分布间的散度,并分析了原始GAN的局限性。最后介绍了改进的Wasserstein GAN如何通过更优的距离度量解决训练不稳定问题。GAN作为强大的生成模型,已在图像生成等多个
2025-08-31 19:42:42
593
原创 第十一周周报-机器学习的可解释性
【摘要】AI模型的可解释性研究日益重要,这源于"神马汉斯"效应的警示——模型可能基于数据中的虚假关联而非真实理解做出决策。可解释性技术分为局部解释(分析单个决策)和全局解释(理解整体模型)两大类。主流方法包括显著性图、Grad-CAM等可视化技术,以及LIME等模型无关方法。研究面临解释本质界定、评估标准缺失等挑战,但其核心价值在于提升AI的可靠性、可信度与合规性,推动人工智能从"黑箱"走向"玻璃箱"发展。
2025-08-24 16:27:48
750
原创 第十周周报-Auto-encoder
本文介绍了自监督学习中的自编码器技术。自编码器是一种无监督学习模型,通过编码器将高维输入压缩为低维表示(瓶颈层),再由解码器重建原始数据。重点讨论了:1)自编码器通过数据压缩实现特征提取;2)去噪自编码器(如BERT)通过掩码任务实现特征学习;3)在异常检测、语音转换等领域的应用。自编码器的核心价值在于无需人工标注即可学习数据本质特征,为下游任务提供有效的特征表示。
2025-08-17 20:06:47
646
原创 第九周周报-BERT2
摘要:预训练模型(如BERT、GPT)通过大规模无监督学习获取通用语言表示,再通过微调适配下游任务。核心架构Transformer利用自注意力机制处理序列数据,实现双向上下文理解。模型分为编码器(如BERT)和解码器(如GPT),前者擅长理解任务,后者专注生成任务。优化方向包括轻量微调(Adapter)、信息融合(XLNet)和效率提升(ELECTRA)。不同模型各具优势:ELMo采用双向LSTM,GPT专注自回归生成,BERT通过掩码语言模型实现双向理解,而BART针对序列转换任务设计。这些技术进步显著提
2025-08-10 21:04:49
1035
原创 第八周周报-BERT
文章摘要:本文系统介绍了BERT模型及其相关技术。首先阐述了监督学习、自监督学习和无监督学习的区别,重点说明BERT作为自监督学习模型的特点。接着详细解析了BERT的架构、预训练方法(如掩码语言建模MLM)和微调范式。文章还探讨了BERT的强大性能来源,包括上下文语义理解和优质参数初始化两方面,并分析了其多语言处理能力、规模效应以及输入长度限制等特性。最后总结了BERT的创新突破,包括利用无标签数据预训练、动态上下文词向量和通用架构等优势,开创了"预训练+微调"的新范式。
2025-08-03 20:27:38
659
原创 第七周周报-transformer
Transformer是一种基于自注意力机制的Seq2Seq模型,由编码器和解码器组成。其核心创新包括:全注意力机制解决长距离依赖、并行计算提升效率、位置编码注入序列信息。模型通过多头自注意力和前馈网络堆叠实现,解码器采用掩码自注意力防止信息泄露。训练使用教师强制和计划采样,支持束搜索等解码策略。应用覆盖语音识别、机器翻译等场景,通过复制机制处理专有名词。优化方向包括非自回归解码、稀疏注意力等,奠定了BERT等预训练模型的基础。
2025-07-27 21:01:11
844
原创 第六周周报-自注意力机制(Self-attention)
自注意力机制是处理可变长序列数据的关键技术,能够动态学习序列元素间的关联权重,解决传统神经网络在固定输入长度、上下文关联和长程依赖等方面的局限性。其核心原理是通过Query、Key、Value三个向量计算注意力分数,加权聚合信息生成输出。多头自注意力和位置编码进一步增强了模型的表达能力。相比CNN和RNN,自注意力具有并行计算能力强、长程依赖处理效果好等优势,已广泛应用于NLP、语音、图像等领域。当前研究重点在于优化其O(L²)计算复杂度,开发高效变体以适应长序列场景。
2025-07-20 20:37:19
756
原创 第五周周报-RNN2
RNN面临梯度不稳定问题(消失/爆炸),LSTM和GRU通过门控机制(记忆累加)有效解决。进阶应用包括Seq2Seq(编码器-解码器)、CTC(处理不对齐序列)和Attention机制(动态聚焦)。相比结构化学习,RNN隐式建模序列但难加约束,融合两者(如BiLSTM+CRF)成为主流。前沿扩展涉及神经图灵机(外部记忆)和端到端语音翻译,GAN与结构化学习结合提供全局优化信号。核心在于通过创新架构平衡序列建模能力与训练稳定性。
2025-07-13 20:51:15
985
原创 第四周周报-RNN1
本文介绍了三种处理序列数据的神经网络模型:RNN、LSTM和双向RNN。首先阐述了基础RNN的工作原理及其在槽位填充等任务中的应用,指出其无法处理长距离依赖的缺陷。接着重点讲解了LSTM的结构,通过输入门、遗忘门和输出门三个门控机制有效解决了梯度消失问题。随后介绍了双向RNN的正反向处理机制及其上下文理解优势。最后通过参数量和适用场景对比了三种模型,并以PyTorch代码展示了LSTM的实现方式。这些模型在自然语言处理和时间序列分析中具有广泛应用价值。
2025-07-06 20:32:48
847
原创 第三周周报-卷积神经网络
1、CNN核心思想与解决的问题图像识别挑战输入:固定尺寸图片(如100x100x3,RGB三通道)输出:One-hot向量(如[0,1,0]表示"猫")传统全连接问题:参数量过大(100x100x3输入+1000神经元 → 3000万参数),易过拟合关键洞察局部性(Locality):关键特征(如鸟嘴、眼睛)仅存在于局部区域,无需全局感知平移不变性(Translation Invariance):相同特征(如鸟嘴)可能出现在图像任意位置2、CNN两大核心机制。
2025-06-29 20:01:54
947
原创 第二周周报--反向传播-案例讲解回归问题
任务目标:建立回归模型输入:宝可梦的特征向量:当前CP值:物种(如妙蛙种子/杰尼龟):生命值:体重:身高输出:进化后的CP值数据集训练集:10只宝可梦的进化记录(如杰尼龟→卡咪龟,CP 375→973)测试集:另外10只未参与训练的数据采用均方误差(MSE):其中是第只宝可梦进化后的真实CP值。
2025-06-22 20:36:18
1144
原创 第一周周报-机器学习基础概念
终止条件:w往小的方向移动,当达到一定次数或者满足预先设定的最低阈值。此时可能出现局部最小值不是最优的情况。我们应该更关注没有观看的数据,因此当选择层数时应该选择没有看过的数据中误差更小的一层。Loss(损失值)越大越不好,越小越好。等高线图中常常以红色表示L值越大,蓝色表示值越小。为自己设定的值成为超参(hyperparameter)新模型的计算和上面leaner的方式并无不同。可以用多段的函数叠加,形成更好的模型。Linear model:三部曲。损失值等于预测值与真实值的差。label:正确的值。
2025-06-15 21:00:00
219
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人
RSS订阅