kjt项目回顾(1)

最新推荐文章于 2025-08-05 20:37:31 发布
原创 最新推荐文章于 2025-08-05 20:37:31 发布 · 690 阅读 · 0 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。

从零实现深度学习框架——Transformer从菜鸟到高手(一)
日积月累，天道酬勤
08-02 3504
图解Transformer理论+自己动手实现Transformer！
AIGC革命背后的Transformer架构：深入浅出解析其工作原理
AI天才研究院
04-22 628
随着ChatGPT、MidJourney、Stable Diffusion等AIGC工具的爆发式增长，Transformer架构已成为现代人工智能的核心基础设施。本文旨在从技术原理层面对Transformer进行系统性解析，涵盖其架构设计、核心算法、数学模型及工程实现，帮助技术从业者和AI爱好者理解这一改变行业的底层技术。本文采用从基础到进阶的分层结构：先建立核心概念框架，再深入算法原理与数学模型，通过实战案例验证理论，最后探讨应用场景与未来趋势。
TorchRec - PyTorch生态下的推荐系统解决方案 [官方文档翻译]
AI工程化、开源分享、文档翻译、代码笔记
04-30 1900
TorchRec 为什么选择TorchRec？ TorchRec 高级架构 TorchRec的并行策略：模型并行 表格嵌入 相关内容 TorchRec 概念 JaggedTensor KeyedJaggedTensor 规划器 EmbeddingTables的划分 使用TorchRec分片模块进行分布式训练 分布式模型并行 优化器 推理 相关链接 设置 TorchRec 系统要求 版本兼容性 安装 运行一个简单的 TorchRec 示例
2023年1月国内外量子科技进展
renhongxia1的博客
02-27 1548
其中量子科技领域，围绕量子计算、量子通信和量子测量三大领域，以强化基础研究，推动应用突破为方向，加强成熟技术转移承接、中试，推进技术项目化、产业工程化，重点发展量子密钥分发器、量子路由器、量子交换机、量子随机数发生器、量子激光器、光量子探测仪等量子通信核心装备。1月23日消息，法国泰雷兹阿莱尼亚宇航公司（Thales Alenia Space）已与欧洲航天局（ESA）签署合同，领导TeQuantS项目，旨在开发量子空地通信技术，为网络安全应用和未来的量子信息网络开发量子技术。
大语言模型应用指南：人工智能的起源
AI天才研究院
07-26 516
人工智能，这一曾经只存在于科幻小说中的概念，如今正以惊人的速度走进现实，深刻地改变着我们的世界。从自动驾驶汽车到智能语音助手，从医疗诊断到金融交易，人工智能的应用已经渗透到各个领域，为人类社会带来了前所未有的机遇和挑战。在人工智能发展的漫长历史中，大语言模型（Large Language Model, LLM）的出现无疑是一个重要的里程碑。它们是基于深度学习技术构建的巨型神经网络，能够理解和生成人类语言，并在各种任务中展现出惊人的能力。
ChatGPT 引领 AI 人工智能的智能交互新时代
AI 领航者的博客
06-06 766
本部分旨在为读者全面介绍 ChatGPT 引领 AI 人工智能智能交互新时代这一主题的相关背景知识。我们将探讨 ChatGPT 出现的历史背景、技术背景以及其在当今科技领域中的重要地位。同时，明确文章的讨论范围，涵盖 ChatGPT 的核心技术、应用场景、发展趋势等多个方面，帮助读者建立起对该主题的整体认知。本文将按照以下结构进行组织：首先介绍 ChatGPT 诞生的背景，包括人工智能技术的发展历程以及自然语言处理领域的关键突破；
从零开始：如何用AI原生技术实现精准行为分析？
AIGC应用创新大全的博客
04-30 636
行为分析是互联网、零售、金融等行业的核心需求——比如判断用户是否会流失、识别异常交易、优化商品推荐。传统方法（如规则引擎、简单统计）因无法捕捉复杂行为模式，逐渐被AI技术取代。本文聚焦“AI原生技术”（以数据为中心、自动化建模的新一代AI方法），系统讲解如何用深度学习、时序分析等技术实现精准行为分析。AI原生技术与传统行为分析的本质区别？实现精准行为分析需要哪些关键步骤？如何用Python代码快速落地一个行为分析系统？AI原生技术：从数据中自动学习行为模式，替代传统规则；时序数据。
AI原生应用领域跨语言理解的关键算法与实践
大模型应用工坊
08-05 916
想象一下：你开发了一款AI客服机器人，在中国能流畅处理中文咨询，但当公司拓展到东南亚市场时，它却对越南语、泰语"一脸茫然"——这就是AI原生应用全球化的典型痛点。跨语言理解的目标，就是让AI系统像掌握多门语言的翻译官一样，无需为每种语言单独训练模型，就能理解不同语言表达的相同语义。
AIGC前沿：稀疏注意力机制的最新研究进展
大模型应用工坊
04-23 1121
在AIGC蓬勃发展的当下，注意力机制作为深度学习中的关键技术，在自然语言处理、计算机视觉等多个领域取得了显著成果。然而，传统的注意力机制在处理长序列数据时，计算复杂度和内存需求会显著增加，限制了其在大规模数据和长文本处理中的应用。稀疏注意力机制应运而生，旨在通过减少不必要的注意力计算，降低计算复杂度和内存占用，提高模型的效率。本文的目的是全面介绍稀疏注意力机制的最新研究进展，包括其原理、算法、应用场景等，为研究者和开发者提供一个系统的参考。
使用supermap做二次开发的一点感想
zmdds的专栏
11-04 7663
上一个项目使用mapXtreme开发的,这次的预研试了试supermap.两者都不算精通.最大的感觉就是mapXtreme的自定义功能开发方便.程序员可以很方便的介入后台处理.如点图后根据图元id,在其他属性表中查与此图元相关的属性.mapXtreme很方便可以直接查.而supermap分成了ajax和普通.net版本.处理各有不同.ajax版封装太死.我现在还没法干预.mapcontrol控件说
flex下使用google api获取对应经纬度的地名
zmdds的专栏
06-10 1596
用到的api为reverseGeocode(latlng);但是使用这个api返回的地名只到县这个级别的单位.如果要获得乡,村一级的单位需要自己做处理,我目前的处理方法是获得县,然后从自己的数据库中取出县所辖所有乡村的坐标,计算后确定地名.代码片段如下:public function onmyclick(event:MapMouseEvent):void  {      var geocode
ArcGIS mobile 开发笔记(一)
zmdds的专栏
03-26 932
经过两天的摸索,大致有了些头绪.在模拟器上已经可以获得GPS文件数据,然后叠加到图层上.可以访问局域网中的地图服务.摸索的测试都是在改写ArcGIS的示例程序Walkthrough_PPC05CSharp下进行.入门的好帖子http://wu-yongfeng.blogspot.com/2008/08/arcgis-mobile-sdk-93.html更加详细的网络配置参看http:/
Mapgis与ArcGIS的装换,Oracle Spatial的相关selsct
zmdds的专栏
07-20 554
今天没时间,贴两个链接 比较相同图元的sql语句.select Objectid 结果集数目多于一个时,运算速度巨慢SELECT A.*FROM temp_tudi_1 A, temp_tudi_1 BWHERE B.Objectid in (select objectid from temp_tudi_1 where objectid =1 or objectid =2) a
samba-vfs-iouring-4.14.5-7.el8_5.tar.gz
08-18
# 适用操作系统：Centos8 #Step1、解压 tar -zxvf xxx.el8.tar.gz #Step2、进入解压后的目录，执行安装 sudo rpm -ivh *.rpm
rubygem-ffi-1.10.0-3.el8.tar.gz
08-18
# 适用操作系统：Centos8 #Step1、解压 tar -zxvf xxx.el8.tar.gz #Step2、进入解压后的目录，执行安装 sudo rpm -ivh *.rpm
COMSOL相场方法在裂缝多孔介质渗吸模拟中的应用及与水平集方法的比较 · 水平集方法
最新发布
08-18
内容概要：本文介绍了COMSOL相场方法在裂缝多孔介质渗吸模拟中的应用，详细探讨了相场方法在简单和复杂几何模型下两相流动的模拟过程。文中不仅展示了如何利用COMSOL软件创建几何模型、设定物理参数和边界条件，还比较了相场方法在守恒和非守恒条件下的计算结果差异，以及与水平集方法的对比。通过这些分析，揭示了相场方法在处理复杂边界条件和物理参数方面的优势。 适合人群：从事地质工程、石油勘探、环境科学等领域工作的研究人员和工程师。 使用场景及目标：适用于需要精确模拟和分析复杂地质条件下流体流动的研究项目，帮助提升工程设计的准确性和可靠性。 其他说明：文章强调了COMSOL相场方法在渗吸模拟中的优越性，同时也指出了水平集方法的特点，为选择合适的数值模拟方法提供了依据。
rubygem-mime-types-doc-3.2.2-1.el8.tar.gz
08-18
# 适用操作系统：Centos8 #Step1、解压 tar -zxvf xxx.el8.tar.gz #Step2、进入解压后的目录，执行安装 sudo rpm -ivh *.rpm
rubygem-puppet-resource_api-doc-1.8.13-1.el8.tar.gz
08-18
# 适用操作系统：Centos8 #Step1、解压 tar -zxvf xxx.el8.tar.gz #Step2、进入解压后的目录，执行安装 sudo rpm -ivh *.rpm
item_kjt = KeyedJaggedTensor.from_jt_dict(item_kjt_dict)
07-18
<think>我们被要求使用中文回答问题，并在最后提出3-5个相关问题，且第一行必须是“§§相关问题§§” 用户的问题是关于如何从字典创建KeyedJaggedTensor，具体是使用`KeyedJaggedTensor.from_jt_dict`方法。 首先，我们需要解释KeyedJaggedTensor（键控锯齿张量）是什么以及这个方法的用途。 KeyedJaggedTensor是TorchRec（PyTorch推荐库）中的一种数据结构，用于处理变长特征（如稀疏ID特征）。它允许我们通过键（例如特征名）来索引不同的锯齿状张量（即每个样本的特征值数量不等）。 方法`KeyedJaggedTensor.from_jt_dict`的作用是从一个字典创建KeyedJaggedTensor实例，其中字典的键是特征名称，值是对应的JaggedTensor（锯齿张量）对象。 但是，请注意，在TorchRec中，JaggedTensor本身是一个表示变长数组的结构，它通常由values（值）和lengths（每个样本的特征数量）或offsets（偏移量）组成。 因此，我们需要先构造一个字典，其中每个键对应的值是一个JaggedTensor对象。 示例步骤： 1. 导入必要的模块。 2. 创建字典，键为特征名，值为JaggedTensor。 3. 使用KeyedJaggedTensor.from_jt_dict将字典转换为KeyedJaggedTensor。 下面是一个具体的代码示例：</think>在 PyTorch 的 TorchRec 库中，`KeyedJaggedTensor` 是处理稀疏特征的核心数据结构。`KeyedJaggedTensor.from_jt_dict()` 方法用于从字典创建键控锯齿张量，特别适用于处理多特征变长数据。 ### 完整用法示例： ```python from torchrec.sparse.jagged_tensor import KeyedJaggedTensor # 创建示例字典：键=特征名，值=对应特征的JaggedTensor item_kjt_dict = { "feature_A": JaggedTensor(values=torch.tensor([1, 2, 3]), lengths=torch.tensor([2, 1])), "feature_B": JaggedTensor(values=torch.tensor([4, 5, 6, 7]), lengths=torch.tensor([3, 1])) } # 从字典创建KeyedJaggedTensor item_kjt = KeyedJaggedTensor.from_jt_dict(item_kjt_dict) # 验证结果 print("Keys:", item_kjt.keys()) # 输出: ['feature_A', 'feature_B'] print("Values:", item_kjt.values()) # 输出: tensor([1, 2, 3, 4, 5, 6, 7]) print("Lengths:", item_kjt.lengths()) # 输出: tensor([2, 1, 3, 1]) ``` ### 关键概念解析： 1. **JaggedTensor**：表示单个变长特征的数据结构 - `values`：所有样本的特征值拼接张量 - `lengths`：每个样本的特征数量 2. **KeyedJaggedTensor**： - 管理多个特征（每个特征对应一个JaggedTensor） - 自动合并所有特征的values和lengths - 保留特征名到数据分区的映射关系 3. **典型应用场景**： - 推荐系统中的用户历史行为序列 - NLP中的变长文本特征 - 多模态输入的稀疏特征融合 ### 重要注意事项： 1. 所有JaggedTensor必须有**相同的批大小** 2. 特征键顺序决定最终values中的特征排序 3. 使用`to_dict()`方法可反向转换回字典格式
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值