- 博客(701)
- 资源 (11)
- 收藏
- 关注
RSS订阅原创 从 Seq2Seq 到 Transformer：深度学习注意力机制与编码-解码框架综述
本文首先介绍了序列到序列（Seq2Seq）模型的概念与演进过程，包括其在处理变长输入和输出序列方面的优势与局限。随后重点阐述了注意力机制（Attention）的提出背景、核心思想与重要特性，并结合自注意力（Self-Attention）、交叉注意力（Cross-Attention）等不同形式，剖析了它们在解决长时依赖与信息丢失问题中的关键作用。接着，本文详细展示了基于 Transformer 的编码器-解码器（Encoder-Decoder）结构，包括多头注意力、多层前馈网络、残差连接和掩码技术在解码过程中
2025-01-15 18:57:28
1059
原创 零基础定制大模型=基础模型+自定义数据集+微调--Datawhale AI
零基础定制大模型：lora原本要训练W这么多的参数，现在只用训练A和B的参数了，A和B的秩很小，所以其组成的适配器需要训练的参数很少，就降低了计算和存储成本。例如，使用Adam对GPT-3: 175B进行微调，与使用LoRA进行微调，可训练参数减少10,000倍和GPU内存需求减少3倍。将LoRA与量化相结合，优化内存使用和计算效率。添加少量可训练的参数，同时保持原始参数冻结。
2024-12-10 16:31:31
834
原创 目标跟踪 - 学习
ByteTrack：通过关联每个检测框实现多目标跟踪沿着多目标跟踪（MOT）中tracking-by-detection的范式，我们提出了一种简单高效的数据关联方法BYTE。利用检测框和跟踪轨迹之间的相似性，在保留高分检测结果的同时，从低分检测结果中去除背景，挖掘出真正的物体（遮挡、模糊等困难样本），从而降低漏检并提高轨迹的连贯性。BYTE能轻松应用到9种state-of-the-art的MOT方法中，并取得1-10个点不等的IDF1指标的提升。
2024-10-27 11:26:19
775
原创 论文解释--大数据时代人工智能特征工程与数据可视化分析
随着信息技术的飞速发展，人类社会正面临着前所未有的数据泛滥。大数据的兴起不仅体现在数据量的爆发式增长上，还体现在数据的处理、访问和分析方式的创新变化上。这种转变引发了研究实践、企业管理乃至公共政策建设的颠覆性创新。在这个大数据时代，如何从浩瀚的数据海洋中提取出实用的知识和见解，是当前研究的核心挑战。特征工程是机器学习和人工智能的基石，涉及对初始数据进行预处理、变换和选择，以提取能够充分揭示问题核心特征的表征。高质量的特征选择不仅可以大大提高模型的性能，
2024-10-21 12:36:11
1008
原创 主成分分析PCA:Principal Component Analysis & 线性判别分析 LDA: Linear Discriminant Analysis
PCA个人理解
2024-09-26 11:13:10
384
原创 机器视觉 概念复习
对比度增强去除模糊降噪美化修复和修饰分割数字水印数字内容篡改检测物体检测人脸检测自动签名验证和识别这些功能对自动人脸识别有效吗?生物识别技术图像分析与理解1.分解2.周期3.共轭对称性，和幅值对称性4.线性和标度5.卷积定理1.定理3:对于任何有限数据集，如果样本中位数偏离样本均值，则至少存在一个样本与样本均值的距离大于样本与均值的平均绝对偏差，即让2.定理4:如果平均值偏离中位数，ITM算法将截断阈值单调地减小到零。
2024-09-22 12:02:14
881
原创 leetcode基础算法教程 #Datawhale
穷举：列举所有解，比较，得到满足条件解优势：编程简单，算法正确容易证明劣势：大数据情况下，效率低下。
2024-09-17 12:41:50
1307
原创 3.Datawhale AI夏令营 AIGC Task3：了解微调的基本原理，微调的各种参数，实现一个更好的效果，文生图的工作流平台工具ComfyUI
GUI 是 “Graphical User Interface”（图形用户界面）的缩写简单来说，GUI 就是你在电脑屏幕上看到的那种有图标、按钮和菜单的交互方式。ComfyUI是GUI的一种，用于操作图像的生成技术，将AIGC模块化，类似思维导图的流程图一样，控制图像生成。LoRA (Low-Rank Adaptation) 微调是一种用于在预训练模型上进行高效微调的技术。它可以通过高效且灵活的方式实现模型的个性化调整，使其能够适应特定的任务或领域，同时保持良好的泛化能力和较低的资源消耗。
2024-08-17 14:43:40
989
原创 2.Datawhale AI夏令营 AIGC Task2：精读代码，实战进阶
Datawhale AI夏令营 AIGC Task2：精读代码，实战进阶
2024-08-12 12:37:37
689
原创 1.Datawhale AI夏令营 AIGC TASK1
提示词主体描述，细节描述，修饰词，艺术风格，艺术家【负向prompts】(lowres, low quality, worst quality:1.2), (text:1.2), deformed, black and white,disfigured, low contrast, cropped, missing fingers主体描述【提示】美丽可爱的女孩，微笑，16岁，牛仔夹克，渐变背景，柔和的色彩，柔和的灯光，电影边缘照明，明暗对比，动漫，超级细节，8k。
2024-08-08 20:58:01
847
原创 2.Datawhale AI夏令营 AI+气象 TASK2
在机器学习和深度学习中，特别是在处理诸如图像、视频、时间序列或科学数据等复杂数据类型时，一般对于回归任务而言, MSELoss是最常用的。
2024-07-30 00:39:44
1164
原创 1.Datawhale AI夏令营 AI+气象 TASK1
方便后续自定义数据集和数据加载类, 方便我们训练时取数据# Feature部分time=0)# GroundTruth部分class GT:# Feature部分 class Feature : def __init__(self) : self . path = feature_path。
2024-07-28 22:03:10
494
原创 1.Parallel Coordination 平行坐标图
我们最多可以可视化 3 维数据。但是我们有时需要可视化超过 3 维的数据才能获得更多的信息。我们经常使用 PCA 或 t-SNE 来降维并绘制它。在降维的情况下，可能会丢失大量信息。在某些情况下，我们需要考虑所有特征， 平行坐标图有助于做到这一点。
2024-07-23 15:33:37
591
原创 1.CNN: convolutional neural network
【【什么是CNN？】浙大大佬教你怎么卷CNN，卷积神经网络CNN从入门到实战，通俗易懂草履虫听了都点头(人工智能、深度学习、机器学习、计算机视觉)】
2024-07-22 21:57:27
700
原创 Interesting Website Text To ASCII Art Generator
Interesting Website Text To ASCII Art Generator
2024-07-19 11:15:25
337
原创 2.Machine Learning AndrewNG 2022: learning progress
It usesalgorithmsorpatternsf : resultw : weightb : error。
2024-07-18 22:29:30
550
原创 1.Machine Learning AndrewNG 2022: Prepare for study
【(强推|双字)2022吴恩达机器学习Deeplearning.ai课程】
2024-07-18 21:54:53
535
原创 《大数据分析与智能计算》电大考试回忆
4道简答题，一题15分，2道大题，一题20分开卷考试课后习题5.4原题课后习题14.2原题PPT 6.2PPT 19.5.1 例题原题PPT 19.6 例题原题PPT 19.6 没有对应给出学生成绩表格，要求查成绩PPT 13.2 没有对应例子PPT 6.1 例子原题改数据
2024-01-03 19:02:25
781
原创 IDEA编译Rebuild Project，target文件夹中文件没有生成
可能是Project Setting中Modules的Paths，也就是编译路径问题。IDEA编译Rebuild Project，target文件夹中文件没有生成。我的问题是编译到maven仓库里，运行的是本机的代码，导致程序找不到对应的类。应该改为当前项目的下的target文件夹。
2023-03-28 12:25:07
1610
原创 工业数字化与新一代数字化系统设计平台----工业软件讲坛第一次讲座
专业的系统软件如下想系统的将多领域统一建模仿真现在最新的是Modelica 面向对象建模非因果陈述式建模多领域统一建模连续-离散混合建模
2022-06-28 16:37:25
1762
2
原创 计算机网络-cisco选择题
Cisco-ITN-以太网该概念考试测试题_bald_and_cute的博客-优快云博客https://blog.youkuaiyun.com/bald_and_cute/article/details/124719014小技巧：网页中直接按“Ctrl+F”，即可快速搜索关键词 Cisco网站模块4-7：以太网的概念考试题目及答案_我不是毕加索的博客-优快云博客_思科以太网概念考试2021~2022思科网络试题（模块4~7以太网的概念）_伊斯电子编程的博客-优快云博客_存储转发交换方式与直接转发交换方式相媲美的优
2022-06-15 19:30:50
9381
2
pycurl-7.43.0.3-cp27-cp27m-win32.whl
2024-07-18
pycurl-7.43.0.3-cp27-cp27m-win-amd64.whl
2024-07-18
基于Python的图像分类 项目实践——图像分类项目材料.zip
2021-03-19
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人