- 博客(36)
- 收藏
- 关注
RSS订阅
原创 RTX AI PC 和工作站上部署多样化 AI 应用支持 Multi-LoRA
LoRA 是一种热门的参数高效微调技术，可以调节少量参数。其他参数称为 LoRA 适配器，表示网络密集层中变化的低秩分解。只有这些低级别的附加适配器是自定义的，而在此过程中，模型的剩余参数会被冻结。经过训练后，这些适配器将在推理期间通过合并到基础模型进行部署，从而在推理延迟和吞吐量方面尽可能减少，甚至不增加任何开销。图 1. A 和 B 中的参数表示可训练的参数，以展示 LoRA 技术（来源：LoRA：大型语言模型的低阶适应图 1 展示了有关 LoRA 技术的更多详细信息。
2024-09-09 20:11:04
1743
原创 Ai大模型书籍，必读巨作，带你制霸AI大模型开发之旅
本文即将推荐几本适合AI大模型开发的书籍，这些书籍涵盖了从基础理论到实际操作的各个方面。不论你是刚刚入门的初学者，还是希望深入了解并应用AI大模型的开发者，这些书籍都将为你提供宝贵的知识与实用的技巧，助你在这个快速发展的领域中取得突破。乘风破浪。
2024-08-22 19:53:38
2821
原创 深入探索《AI大模型开发之路》：我的读书心得
从构建第一个LangChain，到格式化模型输入与输出，再到信息检索、代理构建、链式构建等，高级功能的讲解让我眼前一亮。它为我们揭开了AI大模型的神秘面纱，提供了从理论到实践的全方位指导。通读全书，我深刻感受到作者在AI大模型领域的专业素养和对知识的严谨态度。中，作者通过完整的项目案例，带领读者一步步完成了从环境搭建、代码编写到部署上线的全过程。开始，作者详细介绍了自然语言处理的简史、AI大模型的概述，以及环境搭建与工具使用等基础知识。首先，这本书的目录非常丰富，涵盖了AI大模型开发的各个方面。
2024-09-26 21:21:16
779
原创 如何调用Ascend C算子
Ascend C是CANN针对算子开发场景推出的编程语言，原生支持C和C++标准规范，兼具开发效率和运行性能。基于Ascend C编写的算子程序，通过编译器编译和运行时调度，运行在昇腾AI处理器上。使用Ascend C，开发者可以基于昇腾AI硬件高效实现自定义的创新算法。本文重点介绍基于Ascend C算子编程语言完成自定义算子的开发和部署后，如何调用自定义算子验证算子功能。
2024-09-26 21:18:45
787
原创 阿里云百炼SFT微调实践
n\n将第二个方程代入第一个方程，我们得到：\n\n\\[T + 12 + T = 40\\]\n\n合并同类项：\n\n\\[2T + 12 = 40\\]\n\n两边同时减去 12：\n\n\\[2T = 28\\]\n\n两边同时除以 2：\n\n\\[T = 14\\]\n\n现在我们知道了 $T = 14$，可以通过将 $T$ 代入一个原方程来找到 $B$ 的值。准备数据过程中一个常有的问题是数据量不足的问题，从保证数据质量的角度考虑，数据量不足情况下 最好基于专业人员进行数据构造和标注;
2024-09-25 20:31:32
1672
原创 通义模型Prompt调优的实用技巧
Prompt 是用户与大语言模型交互的起始点，它告诉模型用户的意图，并且期望模型能以有意义且相关的方式回应。当我们希望大语言模型去完成一些较为复杂的任务时，Prompt的质量决定了大语言模型能否有好的回复。通过精心设计的prompt，我们能够有效地指引大型语言模型（LLM），深化其对用户需求的理解层次，从而激发更加精准且实用的回应生成。
2024-09-25 20:26:36
1603
原创 华为全联接大会2024 | 一文回顾华为云开发者联盟重磅干货
在刚刚结束的华为全联接大会2024上，华为云开发者联盟带来了一系列精彩的专题演讲、圆桌讨论、展览展示和体验活动，为开发者呈现了华为开发者空间的全新能力，携手根生态使能开发者学习成长，云上技术创新。
2024-09-24 16:31:31
566
原创 阅读《AI大模型开发之路》的十大理由
书中对Transformer的工作原理、自注意力机制、多头注意力机制等进行了深入浅出的讲解，帮助你彻底理解这一核心模型。书中详细介绍了LangChain的使用方法，帮助你掌握最新的开发工具，提高开发效率。书中提供的知识和技能，都是在实际工作中可直接应用的。无论你是想提升自身能力，还是需要解决工作中的实际问题，这本书都能提供有价值的帮助。从基础理论到实践应用，书中涵盖了AI大模型开发的方方面面。作者在书中结合当前AI大模型发展的最新趋势和热点，确保你所学的知识不过时，始终站在技术的前沿。
2024-09-24 16:27:50
957
原创 当人工智能聊天机器人出现问题时
业界花了 5-10 年的时间才让每个人都明白，在编写 SQL 查询时，需要对所有输入进行参数化，以免受注入攻击，”他说。像 Skeleton Key 这样的越狱方法的发现可能会削弱公众对人工智能的信任，从而可能减缓有益人工智能技术的采用。这可能不是公司想要的，”他说。有些攻击非常简单，而另一些攻击则涉及复杂的场景，需要经验丰富的黑客的专业知识。“我们希望进行更好的训练，这样模型本身就会知道，‘哦，有人想攻击我’，”李解释说。或“越狱”，它们暴露了人工智能系统的漏洞，引发了人们对其安全性的担忧。
2024-09-12 21:00:42
918
原创 值得信赖的人工智能工具
除了周到的监管和执法之外，道德 AI 的关键在于上市后审计、持续监控性能和将风险降至最低，”联合国和欧盟应用伦理和负责任 AI 顾问、Eticas.ai 创始人 Gemma Galdón-Clavell 解释道。人工智能伦理智库 Artificiality 的联合创始人 Helen Edwards 指出，让问题更加复杂的是，“一些偏见 [也] 是相互交叉的，会加剧多层偏见。人类将人工智能生成的文字冒充为自己的作品不仅是不诚实的，有时也是剽窃，可能会带来严重的法律后果。该领域著名的初创公司包括纽约的。
2024-09-12 21:00:38
1008
原创 如何利用 Smarter Balanced 塑造教育领域的 AI 治理
但人工智能的潜在优势使这项工作值得：“借助生成式人工智能，我们有机会更好地吸引学生，通过及时和可操作的反馈准确评估他们，并培养通过人工智能工具积极增强的 21 世纪技能，包括创造力、批判性思维、沟通策略、社交情感学习和成长心态，”Dungan 说。如果负责任地实施，人工智能具有变革性的潜力，可以提供个性化的学习和评估体验，以提高包括边缘群体在内的学生群体的评估公平性。包含来自不同利益相关者的持续投入、评估和审查的系统可以更好地培养信任并促进公平的结果，最终创造一个更具包容性和有效性的教育环境。
2024-09-12 21:00:32
1219
原创 机器人技术在汽车行业的兴起
这可能会带来更可持续的未来和更小的工厂，通用人形机器人可以在极小的空间内执行多项任务。“考虑到目前的执行器技术，双足行走机器人基本上是无用的，”Sanctuary AI 的首席执行官兼联合创始人 Geordie Rose 说，该公司生产轮式人形机器人 Phoenix。“我认为，在工厂环境中引入的机器会重复执行专门的任务，因此人们会将其视为在类似环境中引入的其他技术，”胡说。“腿式机器人的优势在于，它能够在复杂环境中以更灵活的方式移动，比如爬楼梯和跨过障碍物，而轮式机器人则不然，”胡说。
2024-09-12 21:00:27
1024
原创 面向 NetworkX 用户的加速生产就绪型图形分析
NetworkX 是一款热门且易于使用的 Python 图形分析库。然而，其性能和可扩展性可能无法满足中型到大型网络的需求，这可能会严重影响用户的工作效率。已经通过一项在本文中，我将讨论如何让 NetworkX 用户的生活更轻松，向您展示一个实现示例，并解释如何开始抢先体验。
2024-09-11 20:41:21
702
原创 RAPIDS AI 加速制造业预测性维护效率
根据国际自动化协会（ISA）报告，。在另一种情况下，各行各业的制造商在全球范围内放弃了大约647亿美元，而相应的部分在生产中则接近13万亿美元。当前的挑战是预测这些机器的维护需求，以最大限度地减少机时间、降低运营成本并优化维护计划。这种问题在提供 Desktop as a Service (DaaS) 服务的公司中尤为普遍，这些公司租用计算设备用于商业用途，并需要满足严格的 SLAs 要求。DaaS 行业的价值高达 3 亿美元，预计将增长 12%。
2024-09-11 20:39:06
1132
原创 聚焦：clicOH 借助 NVIDIA cuOpt 实现最后一英里交付速度 20 倍提升
clicOH旨在使用NVIDIA库解决一系列路由挑战。例如，该公司采用了来支持其与旅行推销员问题相关的工作，并确定最佳配送路线。cuOpt库与GPU以及RAPIDS和CUDA等库配合使用，以生成更快、更准确的配送路线。此外，RAPIDS 使 clicOH 能够在无需修改代码的情况下实施无监督式机器学习算法，从而提高数据分析的效率。这些无监督式算法能够对高需求的邮政编码进行集群，以提高交付效率，并识别难以到达的区域。
2024-09-11 20:37:37
409
原创 NVIDIA AI Workbench 让 Windows 上的 GPU 使用更加简便
是一款免费的、用户友好型开发环境管理器，可在您选择的系统（PC、工作站、数据中心或云）上简化数据科学、ML 和 AI 项目。在 Windows、macOS 和 Ubuntu 上，您可以本地开发、测试项目和构建项目原型，并在系统（本地和远程）之间轻松传输开发环境和计算工作，以优化成本、可用性和规模。AI Workbench 专注于简化开发者体验，而不会阻碍高级用户所需的自定义类型。那是 AI Workbench 处理容器的主要原因。它们是提供和修改 GPU 加速工作所需环境的最简单方法。
2024-09-11 20:36:25
1391
原创 大模型学习忘记不想要的东西
然而，对忘却技术的日益关注也凸显了这种技术的一些问题：忘记太多的模型，以及缺乏全行业工具来评估忘却的有效性。但更多的数据也意味着更多的问题。通过识别忘却目标，例如特定数据点，例如包含有害、不道德或受版权保护的语言的内容或不需要的文本提示，忘却算法可以有效地消除目标内容的影响。回答的问题和提供的答案，并使用其他护栏来检查模型的输出，但不需要的行为、恶意软件、有毒和受版权保护的材料仍然会悄悄溜走。第一个迫在眉睫的挑战是“灾难性遗忘”，这意味着模型忘记的比研究人员想要的要多，因此模型不再执行其设计的关键任务。
2024-09-10 20:40:42
760
原创 NVIDIA Blackwell 架构
Blackwell 是业内首款具备可信执行环境 (TEE) I/O 功能的 GPU，它不仅能够与具备 TEE-I/O 功能的主机一同提供性能卓越的机密计算解决方案，还能通过 NVIDIA® NVLink® 技术提供实时保护。NVIDIA NVLink 交换机芯片可在一个有 72 个 GPU 的 NVLink 域 (NVL72) 中实现 130TB/s 的 GPU 带宽，并通过 NVIDIA SHARP™ 技术对 FP8 的支持实现 4 倍于原来的带宽效率。这建立了智能可靠性技术，节省时间、能源和计算成本。
2024-09-09 20:14:41
1161
原创 使用模块化流简化 RHEL 8 上的 NVIDIA 驱动程序部署
在本文中，我将介绍在 Red Hat Enterprise Linux (RHEL) 8 上对 NVIDIA 驱动程序进行打包的工作，以改善安装和升级驱动程序的体验。当发布新的驱动程序更新时，仅针对驱动程序更新时最新发布的内核提供预编译驱动程序包。另一种表述方式是，现在，在任何时间点，都会为最新的 RHEL 内核和最新的 NVIDIA 驱动程序版本（每个受支持的分支）启用预编译驱动程序。您可以选择跟上最新和最好的版本，也可以锁定到特定的驱动程序分支，例如主版本等于“450”的驱动程序。
2024-09-01 10:41:09
1531
原创 让创意加速：RTX 驱动的全新 AI 硬件和软件亮相 COMPUTEX
热门专业级 3D 应用 Chaos Vantage 和 D5 渲染器的实时预览模式均支持光线追踪技术，并且两者均借助 DLSS 3.5 实现了显著的性能提升：光线重建性能可提升高达 60%，所有其他 DLSS 技术的性能可提升至原来的 4 倍。3.5 支持光线重建技术，此技术可将人工设计的图像降噪器替换为经过 NVIDIA 超级计算机训练的 AI 网络，以便在采样光线之间生成更高质量的像素，从而提高 NVIDIA RTX 和 GeForce RTX GPU 的光线追踪画质。敬请关注官方发布日期。
2024-09-01 10:31:10
1207
原创 光线追踪画质增强：解码 AI 驱动的 DLSS 3.5 光线重建
然而，这种方式存在局限性。输出的是带有间隙和噪声的斑点图像，足以确定光线追踪时场景的外观如何展现。为了填充未计算光线追踪的缺失像素，人工设计的降噪器使用两种不同的方法：在多帧中依时累积像素，或对其进行空间插值以将相邻像素混合在一起。启用 DLSS 3.5 和光线重建后，降噪器会在 AI 上进行训练，识别与阴影相关的某些模式并保持图像稳定，积累准确的像素，同时混合相邻像素以生成高质量的反射。而光线追踪相当于打造现实世界中被光束照亮的物体的数字版本，创造出光从观察者的眼睛到与光相互作用的物体的路径。
2024-09-01 10:23:34
1389
原创 Amazon SageMaker Canvas：微调基础模型
选项卡向您显示困惑和损失分数，以及可视化模型在训练期间随时间推移的改进情况的分析。以下屏幕截图显示了 “
2024-08-28 20:07:14
1099
原创 Amazon Titan Text 模型
亚马逊Titan文本模型包括亚马逊Titan文本 G1-Premier、亚马逊Titan Text G1 - Express和亚马逊Titan Text G1 - Lite。
2024-08-28 20:04:11
651
原创 Hugging Face 为开发者带来由 NVIDIA NIM 提供支持的推理即服务
借助由 NIM 微服务提供支持、在 NVIDIA DGX Cloud 上运行的 Hugging Face 推理即服务，用户可轻松访问针对 AI 部署进行优化的计算资源，在企业级环境中实验最新的 AI 模型。新服务通过热门 AI 模型为数百万开发者带来高达 5 倍的 token 效率提升，使他们能够立即访问在 NVIDIA DGX Cloud 上运行的 NIM 微服务。该平台提供可扩展的 GPU 资源，可为从原型设计到生产的每一步 AI 开发提供支持，同时无需开发者做出长期的 AI 基础设施承诺。
2024-08-27 18:55:24
723
原创 Edify 解密 — 一种帮助开发者创建自定义模型的技术，这些模型可基于其数据进行训练
Generative AI by iStock 为工作室和创作者提供了图像生成和修改工具。内容生成器 — 无论是生成语言、2D 图像、3D 模型还是视频 — 为创意社区提供了各种工具，可更快将想象变为现实。为帮助开发者构建这些新型生成式 AI 工具，NVIDIA 建立了。它有助于公司使用基于自己的已授权数据训练生成式 AI 模型。Edify 是一种多模态 AI 结构，可使用简单的文本提示生成图像、视频、3D 素材、360 度高动态范围成像和基于物理性质的渲染 (PBR) 材质。
2024-08-27 18:52:23
682
原创 “黑神话：悟空 (Black Myth: Wukong)”现已发布，并支持全景光线追踪和 DLSS 3——借助 GeForce RTX 40 系列 GPU 获得卓越体验
在“黑神话：悟空 (Black Myth: Wukong)”是一款由游戏科学公司开发的万众期待的动作角色扮演游戏，玩家将在游戏中踏上精彩纷呈的中国神话之旅。扮演天命人，探索一个充满挑战和惊人奇迹、广阔迷人的世界。在全景光线追踪和 NVIDIA DLSS 3 的增强下，发现古老传说背后隐藏的真相，揭开辉煌过去的秘密，并利用 GeForce RTX 40 系列的强大性能获得无与伦比的 PC 体验。
2024-08-25 19:30:43
1293
原创 在 Visual Studio Code 中开始使用 Amazon Q Developer(大模型实战)
在 Visual Studio Code 中开始使用 Amazon Q Developer将 AI 编码助手 Amazon Q 集成到 VS Code 中。本指南介绍如何安装扩展程序以实现代码完成聊天等功能以及由生成式 AI 提供支持的生产力提升功能。
2024-08-25 19:00:17
1695
原创 INTER通用硬件管理工具-OpenVINO(大模型实战)
penVINO 使您能够优化几乎任何框架的深度学习模型，并在一系列英特尔处理器和其他硬件平台上以一流的性能部署它。OpenVINO 的典型工作流程如下所示。
2024-08-24 21:37:31
1064
原创 AIGC：颠覆世界的数字革命！
人工智能生成内容（AIGC）正以惊人的速度重塑我们的世界。这不仅仅是一场技术变革，更是一场彻底的思维革命。从创意产业到科学研究，从日常生活到商业模式，AIGC的影响无处不在，势不可挡。
2024-08-23 16:07:58
172
原创 声音克隆项目coqui-aiTTS实战（大模型实战）
coqui-aiTTS是一个开源的文本转语音(TTS)项目,旨在提供高质量的声音克隆和语音合成功能。它利用深度学习技术,能够模仿特定说话人的声音特征,实现个性化的语音输出。该项目支持多语言,并提供了训练工具,允许用户使用自己的数据集来创建定制的TTS模型。coqui-aiTTS的目标是为开发者和研究者提供一个灵活、强大的TTS解决方案,可用于各种应用场景,如虚拟助手、有声读物或个性化语音界面等。（CUDA驱动11.8）
2024-08-23 15:59:40
3893
1
IBM 演示 Watson 动手实验
2024-08-28
coqui-ai TTS中文输出效果：tts -text "愿您心想事成,幸福安康,前程似锦,家庭美满,事业有成,快乐常在
2024-08-23
coqui-ai TTS英文输出效果："I love money " speech.wav
2024-08-23
Microsoft C++ 生成工具
2024-08-23
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人