权威期刊Cell Discovery新成果!上海交大洪亮团队提出CPDiffusion模型,超低成本、全自动设计功能型蛋白质

2025 年国人友好神刊盘点:20 本审稿快、分区高的 SCI 期刊,速抢发文先机! 科睿唯安最新发布的 2024 年影响因子(2025 年公布)显示,多本 TOP 期刊影响因子迎来大幅上涨!尤其是对国人友好的期刊,因审稿效率高、版面费亲民、国人发文占比超 40%,成为科研人员投稿热门。本文精选 20 本潜力神刊,涵盖Cell 子刊、顶流期刊、黑马期刊、性价比之王及新晋分区 TOP,附完整的影响因子、中科院分区、审稿周期、收稿方向攻略,助你抢占发文先机! 阅读详情

蛋白质是生命活动的主要执行者,其结构与功能之间的关系一直是生命科学领域研究的核心议题。近年来,随着深度学习的兴起,借助其强大的数据处理能力,让模型学习蛋白质序列、结构及其功能之间的映射关系,设计出具备更高稳定性、更强结合亲和力、更高酶活性的新型蛋白质,可以大幅提升蛋白质设计的效率,并有效降低其研发成本。

然而,现有方法通常需要在大规模数据集上训练一个参数量极大的模型,难以推广到同源序列稀少的特异蛋白上,往往也只能生成结构、功能相对简单的蛋白质。此外,实验验证表明,设计出的蛋白一般活性较低,能够超越野生型蛋白质的更是凤毛麟角。

对此,上海交通大学自然科学研究院/物理与天文学院/张江高等研究院/药学院洪亮课题组的助理研究员周冰心等人,设计了一种扩散概率模型框架 CPDiffusion, 该框架结合蛋白质骨架结构、活性位点等多种生成条件,能够以非常低的训练成本、数据成本,学习蛋白质的序列、结构与功能之间的隐含映射关系,进而生成多样化的蛋白质序列,这些生成的序列能够在湿实验验证中以极高的成功率通过测试。

值得注意的是,CPDiffusion 的训练和推理过程几乎不需要专家指导, 可自动识别高度保守的区域,进而在确定保守区功能的基础上,在非保守区域引入更多的变化,提高所生成序列的多样性。该研究以「A conditional protein diffusion model generates artificial programmable endonuclease sequences with enhanced activity」为题,发表于 Nature 旗下 Cell Discovery。

研究亮点:

  • 该研究成功设计并生成内切核酸酶 KmAgo、PfAgo,它们的 DNA 剪切活性最高提升 10 倍以上,显著高于现在已发现的中温野生型蛋白活性

  • 该研究可一次性改变数百个氨基酸,为蛋白质工程研究提供了更多的可能性

  • 多样化生成的新型蛋白序列还能扩展蛋白质家族的数据库,为科学家们提供更为丰富的研究资源

在这里插入图片描述

论文链接:
https://www.nature.com/articles/s41421-024-00728-2
开源项目「awesome-ai4s」汇集了百余篇 AI4S 论文解读,并提供海量数据集与工具:

https://github.com/hyperai/awesome-ai4s

数据集:确保样本多样性,避免数据偏见

为了学习蛋白质序列-结构-功能之间的映射关系,CPDiffusion 模型用 CATH 4.2 中的 2 万条野生型蛋白质进行训练,此外,研究人员还在训练集中加入了 694 条 pAgos 蛋白质,用于强化模型对待生成蛋白质特征的理解。

这些蛋白质来自先前研究中整理的 pAgo 蛋白质家族,包括短型、long-A、long-B 型的 pAgo 蛋白质,确保了所选样本的多样性,以此减少可能存在的数据偏见问题。此外,数据集中大多数 WT 蛋白质是中温 pAgos,仅有少数 long-A pAgo 蛋白质属于嗜热型。

模型架构:6 步法自动设计 pAgo 蛋白

为了验证 CPDiffusion 对功能性蛋白质的生成效果,研究人员选择将关注点放在 pAgo 蛋白上。pAgo 蛋白是一种在原核生物 DNA 干扰过程中起重要作用的内切核酸酶,能够特异性地识别并切割特定的单链 DNA 或 RNA 序列,在诊断学领域具有广泛的应用价值。此外,pAgo 蛋白对底物具有高度亲和力,并能够特异地识别目标序列,这使得它们成为成像和基因编辑的重要工具。

研究人员利用 CPDiffusion 框架设计新型 pAgo 蛋白,如下图 a 所示, 首先将输入蛋白质 (Original pAgo) 的序列和信息转化为一种图表示,这种图表示在氨基酸层面展示了蛋白质的分子生化和拓扑特性。如图 b 所示, 蛋白质进入前向扩散 (Forward Diffusion) 阶段,原始蛋白质中的每种氨基酸类型都会遵循某个替换概率矩阵,在一系列步骤(T 步)中被破坏,直到整个序列变得均匀分布。

在这里插入图片描述

CPDiffusion 设计新型 pAgo 序列的工作流程

如上图 c 所示, 在逆向扩散 (Reverse Diffusion) 阶段,研究人员从 20 种均匀分布的氨基酸类型中随机抽样氨基酸,随后,对蛋白质序列逐步去噪。如上图 d 所示, 在去噪过程中,研究人员依据一些条件(如目标蛋白质的野生型骨架结构 Backbone、二级结构 Secondary Structure,以及基于野生型蛋白质的氨基酸替换矩阵 Transition Matrix 等)来指导这一过程。为了确保模型能够学习到蛋白质三维结构中隐含的等变性,研究人员使用了一个等变图卷积层来拟合传播函数。随后,该模型会生成蛋白质骨架上每个氨基酸位置的联合概率分布,通过对学习到的分布进行采样 (Sampling),研究人员可以得到相应的蛋白质序列 (Generated pAgo),如上图 e 所示。

接下来,研究人员使用 AlphaFold2 对生成的序列进行结构预测,并通过评估 RMSD 和 pLDDT 等指标来筛选出合适的序列。最后,如下图 f 所示, 这些合适的序列会在实验室中通过湿实验(实验合成 Synthesis、表征 Characterization 和评估),进一步确认它们的实际特性,如表达水平、酶活性和热稳定性等。

在这里插入图片描述

湿实验

实验结论:新型蛋白质活性、热稳定性更强

研究人员以嗜温 pAgo 蛋白(如 KmAgo)、嗜热 pAgo 蛋白(如 PfAgo)作为候选蛋白,进一步生成两组新蛋白质序列。如下图所示,利用生成和筛选框架 CPDiffusion,研究人员成功生成了 27 种新型人工 KmAgos (Km-APs) 和 15 种新型人工 PfAgos (Pf-APs)。这些新生成的蛋白质,与原始的野生型 (WT) 模板相比,有 50%-70% 的序列同一性,与其他非模板 WT 蛋白质(即 NCBI 数据库中的其他 WT 蛋白)相比,序列同一性则低于 40%。

  • KmAgo 是一种中温酶,野生型的 DNA 切割活性相对较低,限制它在实际应用中的潜力

  • PfAgo 是一种超高温酶,野生型的 DNA 切割活性更高,但通常仅在高温下发挥作用,随着温度下降,活性也会随之减弱

在这里插入图片描述

CPDiffusion成功学习蛋白质序列的保守特征、表面带点性等重要性质

值得一提的是,CPDiffusion 的训练和推理过程几乎不需要专家指导, 可自动识别高度保守的区域,从而在确定保守区功能的基础上,在非保守区域引入更多的变化,提高所生成序列的多样性。

通过多种实验验证,如下图所示,研究人员发现为 KmAgo 生成的新序列中,所有序列都能够表达。将近 90% 的新序列具备 DNA 切割活性,超过 70% 的序列表现出比野生型更高的活性,其中,表现最佳的新 KmAgo 活性比野生型 KmAgo 高出将近 9 倍。此外,相较于野生型 KmAgo,部分 Km-AP 的热稳定性也得到了增强。

在这里插入图片描述

e: 37 °C 下 27 种 Km-AP 的 DNA 切割活性
g: 27 个 Km-AP 中,发挥不同作用的蛋白质数量
f: 42°C 下培育 2min 和 5min后,WT KmAgo 和 27 种 Km-APs 的 DNA 切割活性

如下图所示,在为 PfAgo 生成的 15 个新序列中,所有的序列都能够表达,并展示出单链 DNA 切割活性。其中表现最佳的新 PfAgo 不仅将野生型 PfAgo 的熔解温度从 100°C 左右降低到了约 50°C,而且在 45°C 时的单链 DNA 切割活性是野生型 PfAgo 在 95°C 时的 2 倍,更是中温下野生型 KmAgo 切割活性的 11 倍。

在这里插入图片描述

c: 45 °C 下 15 种 Pf-AP 的 DNA 切割活性
d: WT PfAgo 和 Pf-AP 的熔融温度
e: 15 个 Pf-AP 中,发挥不同作用的序列数量

综上,CPDiffusion 可作为一种强大的全新蛋白质序列设计工具,能够自动从野生型功能蛋白中学习,并设计出功能更强大的复杂蛋白质序列,丰富现有蛋白质数据库,为蛋白质工程设计带来更多的可能。

AI 重塑蛋白质工程的未来之路

用 AI 解码蛋白质奥秘,对于生命科学研究的数字化进程具有关键意义,在这场探寻生命本质的竞赛中,中国研究团队正不断前进,贡献力量。作为该领域的杰出代表之一,本研究的通讯作者洪亮教授及其课题组长期关注 AI 蛋白质定向改造和辅助药物设计, 具体研究内容包括但不限于蛋白质结构预测和优化、蛋白质定向改造和设计、辅助药物设计和优化等,团队成果颇丰。截止目前共发表论文 77 篇,其中多篇登顶 Nature 期刊。

洪亮教授课题组主页:

https://ins.sjtu.edu.cn/people/lhong/index.html

自 2021 年起,洪亮教授团队就尝试将 AI 用于蛋白质领域,比如,构建蛋白质工程领域的专有模型,端对端地面向功能设计序列。 他们曾与上海人工智能实验室的谈攀研究员合作,提出了一个基于蛋白质预训练模型的微调训练方法 FSFP,该方法能在只利用 20 个随机湿实验数据的情况下,高效训练蛋白质预训练模型,大幅提高模型的单点突变预测阳性率,可适用于蛋白质适配性的小样本学习,在实际应用中显示出了巨大的潜力。

洪亮教授团队还开发了一种名为 ProtLGN 的微环境感知图神经网络, 能够从蛋白质三维结构中学习并预测有益的氨基酸突变位点,指导具有不同功能白质单位点突变和多位点突变设计。实验结果显示,超过 40% 的 ProtLGN 设计单点突变体蛋白质优于其野生型对应物。

此外,他们还引入了一种简单、高效、可扩展的适配器 SES-Adapter, 将蛋白质语言模型嵌入与结构序列嵌入结合,以创建结构感知表示 (structure-aware representations),能够显著增强蛋白质语言模型的性能。

以上研究展示了深度学习在蛋白质设计中的强大潜力,毫无疑问,随着深度学习技术在蛋白质领域的进一步应用,蛋白质工程的研究将迎来更加广阔的发展空间。

参考资料:
https://mp.weixin.qq.com/s/a4gsV4yjzKnW4u6Vtl8LiQ
https://ins.sjtu.edu.cn/article

AI对战五子棋——深度学习策略网络 在本篇博文中,我们完成了:✔ 构建一个 CNN 五子棋策略网络✔ 让神经网络输出落子概率✔ 使用 Policy Gradient 强化学习训练 AI✔ 让 AI 实现人与 AI、AI 自对弈博弈。 阅读详情

相关推荐

数学建模更新10(蒙特卡罗模拟)

蒙特卡罗模拟一.目录二.引例1:布丰投针实验1.投针步骤2.思路3. 历史实验者二.蒙特卡罗模拟概述1.定义2.提出3.原理4.讨论三.应用实例1.三门问题【1】问题【2】代码2.模拟排队问题【1】题目【2】引入参数【3】总结题目信息【4】过程可视化【5】一些推导公式【6】代码3.有约束的非线性规划问题【1】问题的分类【2】例子【3】推导过程【4】代码 一.目录 二.引例1:布丰投针实验 1.投针步骤 步骤: 1:取一张白纸,在上面画出许多条间距为a的平行线 2:去一根长度为l的针,随机的向纸张上投掷n次

沉晨尘宸的博客 3044

Simultaneous——使用进化模型(EVcouplings)和优化算法(Gibbs采样)设计蛋白质变体

这篇论文通过使用进化模型(EVcouplings)和优化算法(Gibbs采样)设计出了一系列带有多重突变的蛋白质变体。

weixin_47520540的博客 2158

汇川伺服驱动器参数优化实战指南

本文详细介绍了汇川伺服驱动器参数优化的实战技巧,涵盖控制模式选择、电子齿轮比调整、刚性匹配与振动抑制等关键内容。通过实际案例和实用技巧,帮助工程师快速掌握伺服驱动器参数调校方法,提升设备运行精度和稳定性。特别针对高精度定位和高速响应场景提供了专业指导。

weixin_29070721的博客 741

RaptorX-3DModeling 项目教程

RaptorX-3DModeling 项目教程 1. 项目介绍 RaptorX-3DModeling 是一个用于预测蛋白质接触/距离/方向和局部结构属性的深度卷积残差网络项目。它还通过预测的距离/方向和phi/psi角度构建蛋白质序列的3D模型。该项目主要在Linux发行版CentOS(>6.0)上测试,使用bash shell和Python 2.7。不过,如果你已经安装了Python 3,...

gitblog_00130的博客 604

Win11系统下Notepad++右键菜单失效?3种修复方法实测有效(附注册表备份指南)

本文针对Windows 11系统中Notepad++右键菜单失效的常见问题,提供了三种经过实测有效的修复方法。核心解决方案包括使用官方NppShell.dll重新注册、手动修复注册表项以及系统级问题排查,并详细说明了操作前的注册表备份指南,确保修复过程安全可靠。

m2n3b4v5c6的博客 328

解决微信浏览器弹出 Download: Null 问题的终极指南(附阿里云 OSS 配置详解)

微信内置浏览器点击下载链接时弹出 "Download: Null" 的问题,是开发者常遇到的痛点。本篇文章全面解析其原因,包括 iOS 文件下载限制、Content-Disposition 响应头的重要性,以及阿里云 OSS 默认配置的影响。通过详细教程,教你如何在阿里云 OSS 中设置 Content-Disposition 元数据(attachment;filename=xxx.pdf),有效解决该问题。同时,拓展介绍微信浏览器的文件下载限制、跨平台兼容性优化以及 CDN 配置注意事项。

楠搏万的博客 4003

顶刊秒变 “风险刊”?被批影响因子虚高,IF暴跌70%,口碑一落千丈!

植物分子与细胞生物学;自2015年创刊以来,其影响因子(IF)曾一度接近40,院士、杰青、优青等高水平研究者的文章占比超过三分之一,堪称国产期刊的标杆。作为分子和细胞生物学领域的权威期刊,自创刊以来就颇受学术界关注,虽然影响因子近几年表现不佳,但其严格的审稿流程(拒稿率超90%)和学科影响力仍值得关注。新冠的影响因子通货膨胀时代已经结束了,即时影响因子11分,未来分数应该会稳定在15-20分之间,国产中还是可以的,未来再想涨,只能学习sttt多收综述了。,大类为生物学,小类为细胞生物学,无中科院预警记录。

zkyf2022的博客 1153

2024年最全scrapy+scrapyd+gerapy 爬虫调度框架,字节跳动面试时间

scrapyd是一个用于部署和运行scrapy爬虫的程序,它允许你通过JSON API来部署爬虫项目和控制爬虫运行,scrapyd是一个守护进程,监听爬虫的运行和请求,然后启动进程来执行它们方便地控制爬虫运行直观地查看爬虫状态实时地查看爬取结果简单地实现项目部署统一地实现主机管理轻松地编写爬虫代码。

2401_84140653的博客 1204

Zero-Shot突变预测VenusREM的安装和使用

通过改造野生型蛋白质,以提升其催化活性、稳定性、结合亲和力等特性,从而满足工业和科研的需求。近年来,展现出了相较于传统方法(如定向进化和理性设计)更优越的效果和更低的成本。在突变效应预测中,预训练深度学习模型的关键在于精准理解蛋白质。本研究提出了一种,用于综合分析蛋白质的本征属性(通过序列和局部结构相互作用)以及进化属性(通过检索得到的同源序列)。研究人员在一个公开基准数据集 ProteinGym 上,使用来自 217 个实验的逾 200 万个突变体对该模型进行了评估,验证了其领先的性能。

qq_41025456的博客 2540

利用eds editor生成CANOPEN 设备eds文件

通过以上步骤,您可以根据实际设备的功能特性,自动生成一份符合CANopen协议标准的电子数据表(EDS文件),该文件可以被上位机软件或其他CANopen主站设备用于识别、配置和控制您的CANopen从站设备。使用CANopen EDS Editor生成CANOPEN设备的EDS文件是一个系统化的过程,它涉及将设备的具体技术参数和功能映射到CANopen规范定义的对象字典中。

weixin_38604759的博客 6463

【深度学习新浪潮】Token经济学深度解析:从AI“新智元”梗到产业核心,研究成果+标杆产品全拆解

在正式深入研究和产品分析前,必须先破除概念误区:行业内常说的Token经济学,并非单一概念,而是分为AI词元Token经济学和Web3通证Token经济学两大核心分支,二者底层逻辑、应用场景天差地别,也是大众最容易混淆的点。Token是AI时代的新大宗商品:黄仁勋将Token类比为工业时代的电力、石油,是AI时代的核心生产资料与基础计价单位,不再是单纯的技术单元,而是具备标准化、可计量、可交易、可分层的数字商品,其价值由算力消耗、推理效率、实际应用价值共同决定,而非虚拟炒作。Token五层定价模型。

专注:太空算力、AI infra、异构调度、大模型成本工程 686

权威期刊Cell Discovery新成果!上海交大洪亮团队提出CPDiffusion模型,超低成本、全自动设计功能型蛋白质...

本文约3500字,建议阅读5分钟本文介绍了上海交通大学洪亮团队设计了一种扩散概率模型框架 CPDiffusion。上海交通大学洪亮团队设计了一种扩散概率模型框架 CPDiffusion,该框架能够以非常低的训练成本、数据成本学习蛋白质的序列、结构与功能之间的隐含映射关系,从而生成多样化的蛋白质序列。蛋白质是生命活动的主要执行者,其结构与功能之间的关系一直是生命科学领域研究的核心议题。近年来,随着深...

数据派THU 275

OpenClaw人人养虾:配置通义千问(Qwen)

通义千问(Qwen)是阿里云推出的大语言模型系列。OpenClaw 支持通过 Qwen Portal 插件实现 OAuth 免费额度认证,每日可免费使用 2000 次请求,无需绑定支付方式。

王国平的博客 1270

Cell Discovery| 蛋白质组学+人工智能| 基于蛋白质的甲状腺结节人工智能分类器

COVER❝Sun Y, Selvarajan S, Zang Z, et al. Artificial intelligence defines protein-based classification of thyroid nodules [published correction appears in Cell Discov. 2022 Sep 30;8(1):100]. Cell Disc...

weixin_45822007的博客 659

复分析 阿尔福斯(Ahlfors) 第三版答案 英文

答案分为十章,有部分习题没有答案,全英文复分析阿尔福斯(Ahlfors) 第三版答案

温度PID控制PLC程序

温度PID稳定控制程序,适用于欧姆龙PLC,对其他PLC也具有很大参考价值

Cell Discovery:人类特异基因促进大脑皮层折叠新机制

近日,中国科学院动物研究所焦建伟研究组在Cell Discovery杂志上发表了题为Human SERPINA3 induces neocortical folding and improves cognitive ability in mice的研究论文。这项研究发现人源基因SERPINA3促进了小鼠皮层的扩张和折叠的产生,增加了上层神经元的数量,并且明显改善了小鼠的认知能力。

u011661076的博客 792

深度学习工具包 DeepLearningToolbox

深度学习工具包Deprecation notice.-----This toolbox is outdated and no longer maintained.There are much better tools available for deep learning than this toolbox, e.g. [Theano](http://deeplearning.net/software/theano/), [torch](http://torch.ch/) or [tensorflow](http://www.tensorflow.org/)I would suggest you use one of the tools mentioned above rather than use this toolbox.Best, Rasmus.DeepLearnToolbox================A Matlab toolbox for Deep Learning.Deep Learning is a new subfield of machine learning that focuses on learning deep hierarchical models of data.It is inspired by the human brain's apparent deep (layered, hierarchical) architecture.A good overview of the theory of Deep Learning theory is[Learning Deep Architectures for AI](http://www.iro.umontreal.ca/~bengioy/papers/ftml_book.pdf)For a more informal introduction, see the following videos by Geoffrey Hinton and Andrew Ng.* [The Next Generation of Neural Networks](http://www.youtube.com/watch?v=AyzOUbkUf3M) (Hinton, 2007)* [Recent Developments in Deep Learning](http://www.youtube.com/watch?v=VdIURAu1-aU) (Hinton, 2010)* [Unsupervised Feature Learning and Deep Learning](http://www.youtube.com/watch?v=ZmNOAtZIgIk) (Ng, 2011)If you use this toolbox in your research please cite [Prediction as a candidate for learning deep hierarchical models of data](http://www2.imm.dtu.dk/pubdb/views/publication_details.php?id=6284)```@MASTERSTHESIS\{IMM2012-06284, author = "R. B. Palm", title = "Prediction as a candidate for learning deep hierarchical models of data", year = "2012",}```Contact: rasmusbergpalm at gmail dot comDirectories included in the toolbox-----------------------------------`NN/` - A library for Feedforward Backpropagation Neural Networks`CNN/` - A library for Convolutional Neural Networks`DBN/` - A library for Deep Belief Networks`SAE/` - A library for Stacked Auto-Encoders`CAE/` - A library for Convolutional Auto-Encoders`util/` - Utility functions used by the libraries`data/` - Data used by the examples`tests/` - unit tests to verify toolbox is workingFor references on each library check REFS.mdSetup-----1. Download.2. addpath(genpath('DeepLearnToolbox'));Example: Deep Belief Network---------------------```matlabfunction test_example_DBNload mnist_uint8;train_x = double(train_x) / 255;test_x = double(test_x) / 255;train_y = double(train_y);test_y = double(test_y);%% ex1 train a 100 hidden unit RBM and visualize its weightsrand('state',0)dbn.sizes = [100];opts.numepochs = 1;opts.batchsize = 100;opts.momentum = 0;opts.alpha = 1;dbn = dbnsetup(dbn, train_x, opts);dbn = dbntrain(dbn, train_x, opts);figure; visualize(dbn.rbm{1}.W'); % Visualize the RBM weights%% ex2 train a 100-100 hidden unit DBN and use its weights to initialize a NNrand('state',0)%train dbndbn.sizes = [100 100];opts.numepochs = 1;opts.batchsize = 100;opts.momentum = 0;opts.alpha = 1;dbn = dbnsetup(dbn, train_x, opts);dbn = dbntrain(dbn, train_x, opts);%unfold dbn to nnnn = dbnunfoldtonn(dbn, 10);nn.activation_function = 'sigm';%train nnopts.numepochs = 1;opts.batchsize = 100;nn = nntrain(nn, train_x, train_y, opts);[er, bad] = nntest(nn, test_x, test_y);assert(er < 0.10, 'Too big error');```Example: Stacked Auto-Encoders---------------------```matlabfunction test_example_SAEload mnist_uint8;train_x = double(train_x)/255;test_x = double(test_x)/255;train_y = double(train_y);test_y = double(test_y);%% ex1 train a 100 hidden unit SDAE and use it to initialize a FFNN% Setup and train a stacked denoising autoencoder (SDAE)rand('state',0)sae = saesetup([784 100]);sae.ae{1}.activation_function = 'sigm';sae.ae{1}.learningRate = 1;sae.ae{1}.inputZeroMaskedFraction = 0.5;opts.numepochs = 1;opts.batchsize = 100;sae = saetrain(sae, train_x, opts);visualize(sae.ae{1}.W{1}(:,2:end)')% Use the SDAE to initialize a FFNNnn = nnsetup([784 100 10]);nn.activation_function = 'sigm';nn.learningRate = 1;nn.W{1} = sae.ae{1}.W{1};% Train the FFNNopts.numepochs = 1;opts.batchsize = 100;nn = nntrain(nn, train_x, train_y, opts);[er, bad] = nntest(nn, test_x, test_y);assert(er < 0.16, 'Too big error');```Example: Convolutional Neural Nets---------------------```matlabfunction test_example_CNNload mnist_uint8;train_x = double(reshape(train_x',28,28,60000))/255;test_x = double(reshape(test_x',28,28,10000))/255;train_y = double(train_y');test_y = double(test_y');%% ex1 Train a 6c-2s-12c-2s Convolutional neural network %will run 1 epoch in about 200 second and get around 11% error. %With 100 epochs you'll get around 1.2% errorrand('state',0)cnn.layers = { struct('type', 'i') %input layer struct('type', 'c', 'outputmaps', 6, 'kernelsize', 5) %convolution layer struct('type', 's', 'scale', 2) %sub sampling layer struct('type', 'c', 'outputmaps', 12, 'kernelsize', 5) %convolution layer struct('type', 's', 'scale', 2) %subsampling layer};cnn = cnnsetup(cnn, train_x, train_y);opts.alpha = 1;opts.batchsize = 50;opts.numepochs = 1;cnn = cnntrain(cnn, train_x, train_y, opts);[er, bad] = cnntest(cnn, test_x, test_y);%plot mean squared errorfigure; plot(cnn.rL);assert(er<0.12, 'Too big error');```Example: Neural Networks---------------------```matlabfunction test_example_NNload mnist_uint8;train_x = double(train_x) / 255;test_x = double(test_x) / 255;train_y = double(train_y);test_y = double(test_y);% normalize[train_x, mu, sigma] = zscore(train_x);test_x = normalize(test_x, mu, sigma);%% ex1 vanilla neural netrand('state',0)nn = nnsetup([784 100 10]);opts.numepochs = 1; % Number of full sweeps through dataopts.batchsize = 100; % Take a mean gradient step over this many samples[nn, L] = nntrain(nn, train_x, train_y, opts);[er, bad] = nntest(nn, test_x, test_y);assert(er < 0.08, 'Too big error');%% ex2 neural net with L2 weight decayrand('state',0)nn = nnsetup([784 100 10]);nn.weightPenaltyL2 = 1e-4; % L2 weight decayopts.numepochs = 1; % Number of full sweeps through dataopts.batchsize = 100; % Take a mean gradient step over this many samplesnn = nntrain(nn, train_x, train_y, opts);[er, bad] = nntest(nn, test_x, test_y);assert(er < 0.1, 'Too big error');%% ex3 neural net with dropoutrand('state',0)nn = nnsetup([784 100 10]);nn.dropoutFraction = 0.5; % Dropout fraction opts.numepochs = 1; % Number of full sweeps through dataopts.batchsize = 100; % Take a mean gradient step over this many samplesnn = nntrain(nn, train_x, train_y, opts);[er, bad] = nntest(nn, test_x, test_y);assert(er < 0.1, 'Too big error');%% ex4 neural net with sigmoid activation functionrand('state',0)nn = nnsetup([784 100 10]);nn.activation_function = 'sigm'; % Sigmoid activation functionnn.learningRate = 1; % Sigm require a lower learning rateopts.numepochs = 1; % Number of full sweeps through dataopts.batchsize = 100; % Take a mean gradient step over this many samplesnn = nntrain(nn, train_x, train_y, opts);[er, bad] = nntest(nn, test_x, test_y);assert(er < 0.1, 'Too big error');%% ex5 plotting functionalityrand('state',0)nn = nnsetup([784 20 10]);opts.numepochs = 5; % Number of full sweeps through datann.output = 'softmax'; % use softmax outputopts.batchsize = 1000; % Take a mean gradient step over this many samplesopts.plot = 1; % enable plottingnn = nntrain(nn, train_x, train_y, opts);[er, bad] = nntest(nn, test_x, test_y);assert(er < 0.1, 'Too big error');%% ex6 neural net with sigmoid activation and plotting of validation and training error% split training data into training and validation datavx = train_x(1:10000,:);tx = train_x(10001:end,:);vy = train_y(1:10000,:);ty = train_y(10001:end,:);rand('state',0)nn = nnsetup([784 20 10]); nn.output = 'softmax'; % use softmax outputopts.numepochs = 5; % Number of full sweeps through dataopts.batchsize = 1000; % Take a mean gradient step over this many samplesopts.plot = 1; % enable plottingnn = nntrain(nn, tx, ty, opts, vx, vy); % nntrain takes validation set as last two arguments (optionally)[er, bad] = nntest(nn, test_x, test_y);assert(er < 0.1, 'Too big error');```[![Bitdeli Badge](https://d2weczhvl823v0.cloudfront.net/rasmusbergpalm/deeplearntoolbox/trend.png)](https://bitdeli.com/free "Bitdeli Badge")

diabetes影响因子2017_大侠留步!看看你投的SCI杂志影响因子2019年涨了没有,最全影响因子预测...

“新的影响因子出来了!”正聚(jiāo)精(tóu)会(làn)神(é)写文章的我,手一抖,笔都掉了。哦不,是在用电脑写文章,没有笔。殃及池鱼,桌子上的笔都被碰掉了。Calm Down! Calm Down! 说好以后做什么都要淡定的嘛。影响因子出来就出来嘛。我都不在乎!我不在乎!“是公众号预测的新的影响因子”“快!拿给我看看。”还是没忍住,“嗯?……不对啊,怎么几乎所有杂志分数都降了...

weixin_28717611的博客 1280

WINCC7.3破解文件

WINCC7.3硬件够破解文件,有需要的下载!WINCC7.3硬件够破解文件,有需要的下载!

RNNoise-SpeexDSP-WebRTC使用说明

本文介绍RNNoise、SpeexDSP与WebRTC音频处理库的下载、调用及参数配置方法,适用于Android语音工程集成。RNNoise基于深度学习,适合非稳态噪声降噪,需48kHz输入;SpeexDSP支持多采样率与回声消除,适用于全双工场景;WebRTC提供轻量级窄带处理。三者可串联使用:麦克风信号先经前级降噪(RNNoise或SpeexDSP),再进入WebRTC媒体引擎进行编码。重点说明各库的典型应用场景、接口调用方式、关键参数调节策略及采样率转换注意事项,帮助开发者高效集成与优化语音处理链路。

知识共享,你我皆是知识的搬运工 239

Transformer 为什么能取代 RNN?从自注意力讲起

2017 年谷歌在《Attention Is All You Need》中提出 Transformer,核心是。它如今是 GPT、BERT、ChatGPT 的共同底座。

anew___的博客 979

基于深度学习的商品评论情感分析系统-毕业设计

面向商品评论的中文情感分析系统,支持单条预测、批量分析、情感分布与关键词、报告导出。TextCNN、BiLSTM、Transformer 在同一词表、同一数据切分、同一种子与超参下公平对比,测试集 F1 分别为 0.9101、0.9089、0.9075。结论是这一规模下模型复杂度未带来收益,但误差结构不同。附技术栈、截图、文档预览与演示视频。

csbysj2020 158

【原创深度学习项目】基于深度学习的建筑工地防护装备检测系统|安全帽与反光衣检测系统(RT-DETR-L 模型)

本文设计并实现了一套基于RT-DETR-L的建筑工地防护装备检测系统,采用Django+Vue前后端架构,实现对安全帽、反光背心等7类装备及“无PPE”“未戴安全帽”等缺失状态的精准识别。系统支持图片、视频、摄像头实时检测,具备参数可调、数据可视化与统计分析功能,有效解决小目标漏检、误检及管理难问题,助力智慧工地安全管理落地。文末可获取源码。

qq_1445749146的博客 232

图解循环神经网络(RNN)

RNN(循环神经网络)就是“带记忆的网络”:让网络拥有一块“记忆”,在处理当前数据时,能同时参考之前看过的内容;它不一次性看完全部输入,而是像人读书一样,一个字一个字地读,每读一个字就更新一次脑子里的记忆,然后用这份记忆去理解当前这个字。但便签一直在被改写,新信息不断挤占旧信息,传到第 40 步时,“巴黎”的痕迹已经淡得几乎没了。读到“贵”的时候,网络并没有重新去查“好看”这个词——但“好看”的影响已经融在了便签里(那个 1.5)。这三个困难的共同点:答案不在当前这一个字里,而在“前面那串东西”里。

技术管理两手抓,两手都要硬. 427

神经网络入门指南:从 CNN、RNN 到 Attention

神经网络的学习,本质是“预测—比较—纠错”的循环;CNN 通过局部连接与权重共享理解图像;RNN 通过隐藏状态传递上下文;LSTM 和 GRU 用门控机制管理记忆;Encoder–Decoder 把理解与生成拆成两个阶段;Attention 则让模型在每一步都能主动寻找最相关的信息。到这里,我们已经走完了从普通神经网络到 Attention 的完整路线。下一篇将正式进入 Transformer,看看它如何摆脱 RNN 的顺序计算,又如何让每个 Token 直接找到与自己相关的信息。

爱敲代码的小黄 397

AI 学习第 15 课:变长序列不 pack 直接喂 RNN,隐状态全被 0 污染

NLP 的 batch 里句子长短不一,短句垫 0 补齐后直接喂 RNN,看似能跑,实际上每个 0 垫步都在更新隐状态——短序列的最后一步输出根本不是它真实句子的结果。这一课用 torch 2.15(

aifannihao的博客 161

CNN 卷积神经网络深度解析:卷积、池化与特征提取的底层原理

卷积核(Kernel),也叫滤波器(Filter),本质上是一个可以训练的权重矩阵。1 0 -11 0 -11 0 -1这个卷积核可以对图像中的局部像素进行加权计算。不同的卷积核能够提取不同类型的特征:水平边缘特征垂直边缘特征纹理特征角点特征局部形状特征在传统图像处理中,滤波器通常由人工设计。而在 CNN 中,卷积核的权重通过训练数据和反向传播自动学习得到。这也是 CNN 能够自动提取图像特征的关键。# 第一层卷积padding=1# 第二层卷积padding=1。

2503_90237586的博客 295

图解常用深度学习优化器

来隐式构造 Hessian 逆的近似,从而直接估计出“谷底在哪”,而非仅仅判断“哪边最陡”。即SGD/Adam 主要看“当前坡度”,LBFGS 还会看“最近几步坡度怎么变”,像用局部地形图来规划路线。训练 Transformer 时,有些层梯度大,有些层梯度小。如果用 Adam + L2,梯度大的参数反而可能被“少衰减”,正则效果不稳定;:你要下山,但每次迈步前都要派侦察兵把整座山的每一个坡面都测量一遍,算出“绝对最陡”的方向才走一步。:还是下山,但这次你只问身边一个路人“哪边最陡”,然后就走。

技术管理两手抓,两手都要硬. 219

【无标题】无人机视角道路坑洞坑洼目标检测数据集深度学习 目标检测 无人机航拍 道路坑洞 路面病害 YOLO格式 数据集发布9032期

(一)类别构成该数据集聚焦单一类别——坑洞(类别 ID 为 0),任务指向明确,围绕无人机俯视视角下的道路坑洞目标开展检测标注。类别体系精简,与公路路面病害巡检的实际需求高度契合,图像中的坑洞样本可直接作为路面破损识别的核心正样本,便于对接道路养护排查流程。(二)数据数量数据集规模为 3285 张无人机俯视航拍图像,采用标准 YOLO txt 标注格式,标注框总计 4457 个,其中带有效标注的图片 2007 张,全部图片均带有有效标注。

qq_2529413168的博客 187
上一篇: 聚焦Llama新场景和AR眼镜,扎克伯格用AI赋能元宇宙,Meta Connect 2024开发者大会即将开始
下一篇: 凌晨1点开播!Meta Connect 2024开发者大会,聚焦Llama新场景和AR眼镜
HyperAI超神经
博客等级 码龄7年 8873粉丝 1753原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值