Dragonfly 发布 v2.1.0 版本!

Dragonfly与Harbor集成:构建高效P2P私有镜像分发方案 本文详细介绍了如何通过Dragonfly与Harbor集成构建高效的P2P私有镜像分发方案,解决传统中心化分发的带宽浪费、单点故障和跨国传输慢等问题。通过核心架构解析、深度集成实战和性能调优,展示了P2P技术在镜像分发中的显著优势,包括带宽节省、下载时间缩短和高可用性提升。 阅读详情

612b90d67d5e1b7c59c568de80cf71ae.gif

Dragonfly 最新正式版本 v2.1.0 已经发布!感谢赵鑫鑫[1]同学帮助重构 Console 代码,并且提供全新的 Console[2]控制台方便用户可视化操作 P2P 集群。欢迎访问 d7y.io[3]网站来了解详情,下面具体介绍 v2.1.0 版本带来了哪些更新。

de9b170982e98ccffa09f48fcda57327.png

功能

  • Console v1.0.0[4]已经发布,它是一个全新的可视化控制台,方便用户操作 P2P 集群。

  • 新增虚拟网络拓扑探索功能,能够在 P2P 运行时探测节点之间的网络延迟,从而构建一个虚拟网络拓扑结构提供调度使用。

  • Manager 提供控制 Scheduler 可以提供的服务,例如在 Manager 中设置 Scheduler 不提供预热功能,那么 Scheduler 实例就会拒绝预热请求。

  • Dfstore 提供 GetObjectMetadatas 和 CopyObject 接口,支持 Dragonfly 作为 JuiceFS 的后端存储。

  • 新增 Personal Access Tokens 功能,用户可以创建自己的 Personal Access Tokens 在调用 Open API 的时候鉴权使用。

  • Manager REST 服务提供 TLS 配置。

  • 修复当 Dfdaemon 没有可用的 Scheduler 地址时启动失败的现象。

  • 新增 Cluster 资源单位,Cluster 代表一个 P2P 集群,其只包含一个 Scheduler Cluster 和一个 Seed Peer Cluster,并且二者关联。

  • 修复 Dfstore 在 Dfdaemon 并发下载时,可能导致的对象存储下载失败。

  • Scheduler 新增 Database 配置,并且把之前 Redis 的配置信息移入到 Database 配置中,并且兼容老版本。

  • 在 Dfdaemon 中使用 gRPC 健康检查代替 net.Dial。

  • 修复调度器过滤以及评估过程中 candidateParentLimit 可能影响到调度结果的问题。

  • 修复 Scheduler 中的 Storage 在 bufferSize 为 0 的时候,导致的无法写入下载记录的问题。

  • 日志中隐藏敏感信息,例如 Header 中的一些 Token 信息等。

  • Manager 中 Scheduler、Seed Peer 等资源删除过程中,不再使用软删除。

  • Scheduler 数据库表中新增 uk_scheduler 索引,Seed Peer 数据库表中新增 uk_seed_peer 索引。

  • 由于初期功能设计定位不清晰的原因,删除 Security Domain 和 Security 的功能。

  • Manager 和 Scheduler 新增 Advertise Port 配置,方便用户配置不同的 Advertise Port。

  • 修复 Task 注册阶段状态机状态变更错误的问题。

破坏性变更

  • 不再提供 Scheduler Cluster 和 Seed Peer Cluster 之间 M:N 的关系。提供了 Cluster 的概念,一个 Cluster 即表示一个 P2P 集群,并且一个 Cluster 只包含一个 Scheduler Cluster 和 Seed Peer Cluster,且二者是 1:1 的关联关系。

控制台

2d23525be12bd35452131d714c5f5b5a.png

更多的关于控制台的内容可以参考官网文档 Manager Console[5]。

AI 基础设施

  • Triton Inference Server[6]使用 Dragonfly 下载模型文件,可以参考 #2185[7]。如果有对集成 Triton Inference Server 项目 Drgaonfly Repository Agent[8]感兴趣的同学,可以联系 gaius.qi@gmail.com。

  • TorchServer[9]使用 Dragonfly 下载模型文件,现正在开发,预计 v2.1.1 版本可以使用,项目仓库在  Dragonfly Endpoint[10]。

  • Fluid[11]基于 JuiceFS[12]运行时通过 Dragonfly 下载数据,正在开发,预计 v2.1.1 版本可以使用。

  • Dragonfly 助力火山引擎 AIGC [13]推理业务 P2P 镜像加速。

  • 社区中已经有很多案例,基于 P2P 技术使用 Dragonfly 分发 AI 场景中的文件。在 AI 推理阶段,推理服务并发下载模型可以有效通过 Dragonfly P2P 缓解模型仓库的带宽压力,从而提高整体下载速度。在 KubeCon + CloudNativeCon + Open Source Summit China 2023[14]社区联合快手做一次分享,主题是《Dragonfly: Intro, Updates and AI Model Distribution in the Practice of Kuaishou - Wenbo Qi, Ant Group & Zekun Liu, Kuaishou Technology》[15],感兴趣的同学可以关注。

维护者

社区新增四位 Maintainer,希望能够帮助更多的 Contributor 参与到社区的工作中。

  • 黄逸炀[16]:就职于火山引擎,主要专注于社区代码工程方面。

  • 温满祥[17]:就职于百度,主要专注于社区代码工程方面。

  • Mohammed Farooq[18]:就职于 Intel,主要专注于社区代码工程方面。

  • 许洲[19]:大连理工大学在读博士,主要专注于智能调度算法方面。

其他

版本更新包含的更多细节可以参考👇 

CHANGELOG:https://github.com/dragonflyoss/Dragonfly2/blob/main/CHANGELOG.md

相关链接

[1].Xinxin Zhao Github:

https://github.com/1zhaoxinxin
[2].Dragonfly Console Github:

https://github.com/dragonflyoss/console
[3].Dragonfly 官网:

https://d7y.io
[4].Dragonfly Console Release v1.0.0:

https://github.com/dragonflyoss/console/tree/release-1.0.0
[5].Manager Console 文档:

https://d7y.io/docs/reference/manage-console
[6].Triton Inference Server:

https://github.com/triton-inference-server/server
[7].issue #2185:

https://github.com/dragonflyoss/Dragonfly2/issues/2185
[8].Dragonfly Repository Agent Github:

https://github.com/dragonflyoss/dragonfly-repository-agent
[9].TorchServe:

https://github.com/pytorch/serve
[10].Dragonfly Endpoint Github:

https://github.com/dragonflyoss/dragonfly-endpoint
[11].Fluid:

https://github.com/fluid-cloudnative/fluid
[12].JuiceFS:

https://github.com/juicedata/juicefs
[13].Volcano Engine AIGC:

https://mp.weixin.qq.com/s/kY6DxRFspAgOO23Na4dvTQ
[14].KubeCon + CloudNativeCon + Open Source Summit China 2023:

https://www.lfasiallc.com/kubecon-cloudnativecon-open-source-summit-china/

[15].《Dragonfly: Intro, Updates and AI Model Distribution in the Practice of Kuaishou - Wenbo Qi, Ant Group & Zekun Liu, Kuaishou Technology》:

https://sched.co/1PTJb

[16].Yiyang Huang Github:

https://github.com/hyy0322
[17].Manxiang Wen Github:

https://github.com/garenwen
[18].mfarooq-intel Github:

https://github.com/mfarooq-intel
[19].Zhou Xu Github:

https://github.com/fcgxz2003

Dragonfly Star 一下✨:
https://github.com/dragonflyoss/Dragonfly2

   推荐阅读   

07609f3120bc345aa0906f0bc6304c83.jpeg

Dragonfly 最新版本 v2.0.9 发布

21728a2995faed5d1694a60655dba538.jpeg

火山引擎基于 Dragonfly 加速实践

c4642978f52553af1a28a57f3fe98db8.png

Dragonfly 中 P2P 传输协议优化

5ea04b7218e61a417884d6b612a0673c.png

Dragonfly 基于 P2P 的文件和镜像分发系统

e79a5fa948c6ce157375a3ab0e32c1a6.jpeg

Dragonfly实战:如何用P2P技术加速你的Docker镜像拉取(含Harbor集成指南) 本文详细介绍了如何利用Dragonfly的P2P技术加速Docker镜像拉取,并提供了与Harbor深度集成的企业级解决方案。通过实际性能对比数据,展示了Dragonfly在大规模集群中显著提升镜像分发效率的优势,包括带宽节省和发布效率提升。文章还包含SuperNode部署、HTTPS安全认证、跨机房优化等实战内容,适合企业IT架构师和DevOps工程师参考。 阅读详情

相关推荐

dragonfly 加 harbor 实现镜像预热

会话超时时间 和 令牌过期时间都是 默认 30分钟,加上限速 1M/s,因此当一个镜像 layer 超过 2G 的时候会预热失败(不通过 harbor 的方式预热),这个问题看 dragonfly issue。【项目】-选择设置了 P2P 预热并且想要预热的项目点进去-【P2P预热】-【新建策略】-选中策略-【其他操作】-【执行】-【确定】【项目】-选择触发了 P2P 预热的项目点进去-【P2P预热】-【新建策略】-选中策略。【项目】-选择一个项目点进去-【P2P预热】-【新建策略】

weixin_40548182的博客 973

dragonfly数据库

dragonfly数据库这段时间风头正盛,和redis的对飙也颇有看点。可能是刚出现的缘故,网上成型的资料还不多。今天接着这篇博客的机会,了解一下dragonfly。主要内容围绕以下几个主题:1.dragonfly基本信息2.dragonfly本身的特点3.dragonfly和redis对比。...

gls_nuaa的博客 1万+

ArcGISPro小白必看:5分钟搞定3D地形图制作(附免费数据源)

本文为ArcGISPro初学者提供5步制作专业3D地形图的完整指南,涵盖免费数据获取、项目初始化、数据预处理、3D场景构建和成果输出等关键步骤。特别推荐使用NASA的SRTM高程数据和吉林一号卫星影像,帮助用户快速掌握3D地形图制作技巧,适用于教学演示和科研分析。

weixin_28314575的博客 240

Dragonfly项目安装与使用指南

Dragonfly项目安装与使用指南 1. 项目目录结构及介绍 欢迎使用Dragonfly项目,该项目基于GitHub上的仓库 https://github.com/t4ngo/dragonfly.git。以下是对项目主要目录结构的解析: src: 此目录包含了项目的核心源代码。对于大部分开发者来说,这是最关注的部分,内含主要的功能实现。 config: 这里存放着项目的配置文件。理解这些...

gitblog_00646的博客 606

华为HCIP大数据备考实战:从题库精析到834分通关策略

本文详细介绍了华为HCIP大数据认证考试的备考策略,包括题库精析、重点章节突破和考场实战经验。作者以834分的高分通过考试,分享了官方教材的三遍阅读法、自建题库技巧以及各章节核心知识点,帮助考生高效备考并顺利通关。

weixin_29169899的博客 150

别再只会用555了!手把手教你用运放和RC电路搭一个50Hz正弦波信号源(附Multisim仿真文件)

本文详细介绍了如何使用运放LM358和RC电路搭建一个精准的50Hz正弦波信号源,涵盖文氏电桥核心原理、单电源供电解决方案、Multisim仿真及实物调试技巧。通过实战指南和优化建议,帮助电子爱好者快速掌握低频信号生成技术,适用于各种测试和校准场景。

weixin_34116482的博客 365

docker安装部署dragonfly2镜像加速服务

​ Dragonfly 作为龙蜥社区的镜像加速标准解决方案,是一款基于 P2P 的智能镜像和文件分发工具。它旨在提高大规模文件传输的效率和速率,最大限度地利用网络带宽。在应用分发、缓存分发、日志分发和镜像分发等领域被大规模使用。​ 现阶段 Dragonfly 基于 Dragonfly1.x 演进而来,在保持 Dragonfly1.x 原有核心能力的基础上,Dragonfly 在系统架构设计、产品能力、使用场景等几大方向上进行了全面升级。

ll535299的博客 2596

与本地电脑PDF文档对话的PDF问答程序

紧接着,从PDF文档中提取文本,这部分代码的作用是遍历PDF文档中的每一页,并使用extract text(0方法提取每一页的文本内容,然后将这些文本内容累加到raw text变量中。PDF问答程序的实现方式是利用LangChain已实现的向量存储、嵌入,以及使用查询和检索相关的链来获取外部数据集及处理文档,在进行相关性检索后进行合并处理,将其置入大语言模型的提示模板中,实现与PDF文件交流的目的。例如,你正在为一项重要的报告寻找资料,你必须知道你需要查找的关键词,然后在大量的信息中筛选出你需要的部分。

weixin_43961909的博客 1421

Dragonfly:高性能、易用的微服务框架

是一个专为构建高效、可扩展的微服务架构设计的开源框架。它以其独特的特性和强大的功能,让开发者能够轻松地创建和管理复杂的分布式系统。本文将深入探讨Dragonfly的核心技术、应用场景及其优势,以期吸引更多用户加入到这个社区中。 ## 项目简介 Dragonfly的设计目标是简化微服务开发过程,提供一套完整的工具链,包括服务注册、发现、路由、监控以及治理。通过优雅的API和灵活的配置选项,使得它

gitblog_00088的博客 875

FAST-LIVO2 源码精读(十八):实时性优化、漂移排查与工程落地

FAST-LIVO2 的工程价值,不在于某一个孤立的技巧,而在于它把"激光的几何精度、惯性的高频预测、视觉的纹理与色彩"用一套简洁的滤波框架紧紧拧在一起,又在实时性、鲁棒性、可扩展性之间取得了难得的平衡。先用内建计时表定位瓶颈,再按降采样、并行、滑窗、编译优化、双频输出逐项加速;遇到漂移先看现象、循诊断树定位根因、回到对应章节取解法。十八篇至此收束。

PX4-SLAM-PNC 217

使用C#实现的多人语音视频系统:WebSocket与WebRTC集成

通过上述的代码示例,我们可以使用C#编写一个多人语音视频系统,该系统集成了WebSocket和WebRTC技术。当然,这只是一个简单的示例,实际的多人语音视频系统可能需要更多的功能和优化。通过结合这两种技术,我们可以实现实时的语音和视频通信,支持多人同时参与。在上述代码中,我们创建了一个WebSocket服务器,监听在本地的8080端口,并创建了一个WebRTC连接。接下来,我们将详细介绍如何使用C#编写一个多人语音视频系统,包括使用WebSocket建立连接和使用WebRTC进行实时通信。

TjsReact的博客 1634

Dragonfly 最新正式版本 v2.0.9 已经发布!

Dragonfly 最新正式版本 v2.0.9 已经发布!感谢 Dragonfly 的贡献者们,同时也感谢默默支持 Dragonfly 项目的各个公有云团队。欢迎访问 d7y.io[网站来了解详情,下面具体介绍 v2.0.9 版本带来了那些更新。

阿里巴巴云原生的博客 928

OpenClaw 源代码深度分析报告 &如何把企业自有的MCP server 工具集成到OpenClaw里? 怎样通过OpenAI 风格SDK 解析出来OpenClaw的全部的流式输出内容?

项目属性详情名称OpenClaw版本2026.3.2许可证MIT语言最低运行时包管理器pnpm主要仓库},// 注册工具// 工具实现},});// 注册命令" }),});},方面评价模块化设计⭐⭐⭐⭐⭐ 插件架构清晰,扩展性强协议设计⭐⭐⭐⭐⭐ WebSocket 协议完善,支持多种客户端多渠道支持⭐⭐⭐⭐⭐ 20+ 消息通道,覆盖主流平台安全机制⭐⭐⭐⭐ 配对认证、设备签名、权限控制完善本地优先⭐⭐⭐⭐⭐ 数据本地存储,用户完全控制项目属性详情名称OpenClaw版本。

AI天才研究院 938

Dragonfly v2.2.0 is released!

Dragonfly v2.2.0 is released! ???????????? Thanks thecontributors[1]who made this release happend and welcome you to visitd7y.io[2]website.FeaturesClient written in RustThe client is written in Rust, offer...

金融级分布式架构 331

Pytorch CIFAR10图像分类 EfficientNet v1篇

EfficientNet源自Google Brain的论文EfficientNet: Rethinking Model Scaling for Convolutional Neural Networks. 从标题也可以看出,这篇论文最主要的创新点是. 论文提出了,混合缩放,把网络缩放的三种方式:深度、宽度、分辨率,组合起来按照一定规则缩放,从而提高网络的效果。EfficientNet在网络变大时效果提升明显,把精度上限进一步提升,成为了当前最强网络。

风信子的猫Redamancy的快乐星球 1852

pscad IEEE标准系统搭建说明

pscad IEEE标准系统搭建说明,包含典型的IEEE 9节点、14节点、30节点、39节点和118节点系统。内含标准测试系统的原始数据和潮流结果。

Dragonfly v2.4.0 发布

Dragonflyv2.4.0正式发布,重点优化云原生数据分发性能与稳定性。更新亮点包括:1)全新Vortex传输协议提升传输速度50%;2)负载感知调度算法实现智能资源分配;3)多集群K8s部署简化管理;4)Rust客户端替代Go客户端提升性能。此外还优化了预热功能、任务去重机制,并修复关键稳定性问题。建议用户关注Vortex协议的性能优势、多集群部署便利性及客户端迁移计划。该版本显著提升了大规模数据分发的效率与可靠性。

xixixixixixixi21的博客 376

老版QQ原生表情gif动态

这是老版的QQ表情,不过全是动态的的,Windows照片查看器是不会动的,可以右击用浏览器打开查看,再说一遍是老版的,只是分享给宁愿用老版也要动态的人。

Dragonfly 最新版本 v2.0.9 发布

文|戚文博(花名:百蓦)DragonflyMaintainer蚂蚁集团软件工程师主要负责「基于 P2P 的文件以及镜像加速系统」。本文5005字 阅读13分钟Dragonfly 最新正式版本 v2.0.9 已经发布!感谢 Dragonfly 的贡献者们,同时也感谢默默支持 Dragonfly 项目的各个公有云团队。欢迎访问 d7y.io[1]网站来了解详情,下面具体介绍 v2.0.9 ...

金融级分布式架构 910

android 蓝牙通讯demo

android 下蓝牙通讯demo,实现了发现蓝牙,使能蓝牙,通过蓝牙发送消息。

Probability and Statistics - 4th edition

Probability and Statistics - 4th edition

Dragonfly v2.5.0发布:新增多项功能、修复重要Bug,Nydus模块也有更新!

结合proxyAllRegistries: true,用户用一个_default/hosts.toml配置,就能将所有registries路由到Dragonfly,无需维护单独的、特定于registry的hosts.toml文件和X-Dragonfly-Registry headers。dfctl命令行工具:Dragonfly Client引入了命令行工具dfctl,用于管理客户端本地存储中的任务,涵盖tasks、persistent tasks和persistent cache tasks。

EveningTalk的博客 13

JuiceFS 社区版 v1.2 发布,新增企业级权限管理、平滑升级功能

JuiceFS 社区版 v1.2 今天正式发布,这是自 2021 年开源以来的第三个大版本。v1.2 也是一个长期支持版本(LTS)。我们将持续维护 v1.2 以及 v1.1 这两个版本,v1.0 将停止更新。JuiceFS 是为云环境设计的分布式文件系统,支持超过 10 种元数据引擎和 30 种以上的数据存储引擎。这些丰富的选择使得用户可以灵活应对多变的企业环境和数据存储需求;

JuiceFS的博客 1040

Opera Dragonfly 1.1的新功能

歌剧11.51发布于9月1日,2011年它进行固定的一个小更新的已知安全问题 ,提高了在Mac狮子的稳定性和提供全屏支持。 更感兴趣的web开发的是蜻蜓1.1 - Opera的萤火虫般的控制台。 我给五月版本1.0中的精彩评论 ,但也有引起关注的几个小niggles。 超过200个bug修复和界面更新已经在最新版本中实现,让我们看看亮点... DOM查看器 也许蜻蜓1.0的最大问题是缺...

219

阿里dragonfly_Opera Dragonfly 1.1的新增功能

阿里dragonfly Opera 11.51于2011年9月1日发布。它是次要更新,可修复已知的安全问题 ,提高稳定性并在Mac Lion中提供全屏支持。 Web开发人员更感兴趣的是Dragonfly 1.1 — Opera的类似Firebug的控制台。 我在5月份对1.0版进行了令人眼前一亮的评论 ,但是有一些小问题引起了人们的关注。 最新版本已实现200多个错误修复和界面更新,因此让我们...

133

直播倒计时 1 天 | SOFAChannel#34《Dragonfly & Nydus 在 AI 场景下的加速实践》

SOFAChannel#34直播倒计时1天!直播预约1.视频号SOFAGirl直播⬇️点击一键预约⬇️2.添加SOFAGirl 微信加入 SOFAChannel 技术交流群3. 钉钉搜索:22880028764钉钉群同步直播,讲师在线答疑4.扫描????下方二维码或“阅读原文”预约 B 站直播将有机会获得Dragonfly 精美贴纸~????明晚 7 点,不见不散一起期待这次分享吧????Dr...

金融级分布式架构 191

CNCF Dragonfly 毕业啦!基于P2P的镜像和文件分发系统快速入门,在线体验

Dragonfly专注于解决基于Kubernetes的云原生环境下大规模镜像与文件分发难题。该项目利用点对点(P2P)技术,提供高效、稳定且安全的数据分发与加速能力,旨在成为云原生架构中的标准解决方案,支持文件、容器镜像、OCI制品、AI模型权重、缓存、日志及依赖项的大规模分发。

藏云阁技术社区 1669

直播倒计时 2 天 | SOFAChannel#34《Dragonfly & Nydus 在 AI 场景下的加速实践》

????????????SOFAChannel#34直播倒计时2天!直播预约1.视频号SOFAGirl直播⬇️点击一键预约⬇️2.添加SOFAGirl 微信加入 SOFAChannel 技术交流群3. 钉钉搜索:22880028764钉钉群同步直播,讲师在线答疑4.扫描????下方二维码或“阅读原文”预约 B 站直播将有机会获得Dragonfly 精美贴纸~????本周三晚 19:00欢迎加入直播、参与讨...

金融级分布式架构 159

直播预告 | SOFAChannel#34《Dragonfly & Nydus 在 AI 场景下的加速实践》

Dragonfly 项目简介Dragonfly 是一款基于 P2P 的镜像加速和文件分发系统。它旨在提高大规模文件传输的效率和速率,最大限度地利用网络带宽。在 AI 数据分发、文件分发、日志分发和镜像分发等领域被大规模使用。在解决大规模文件分发场景下有着无可比拟的优势。自 2017 年开源以来,Dragonfly 被许多大规模互联网公司选用并投入生产使用,并在 2018 年 10 月正式进入 CN...

金融级分布式架构 204

Dragonfly项目服务端安装与部署指南

Dragonfly项目服务端安装与部署指南 前言 Dragonfly是一个基于P2P技术的智能分发系统,主要用于大规模文件分发场景。本文将详细介绍如何安装和部署Dragonfly的服务端组件supernode,这是整个系统的核心调度节点。 部署方式选择 Dragonfly服务端支持两种部署方式: Docker部署:适合快速体验和测试环境 物理机部署:推荐用于生产环境,性能更稳定 环境准备 Do...

gitblog_00078的博客 539
上一篇: 直播倒计时 2 天 | SOFAChannel#34《Dragonfly & Nydus 在 AI 场景下的加速实践》
下一篇: 直播倒计时 1 天 | SOFAChannel#34《Dragonfly & Nydus 在 AI 场景下的加速实践》
SOFAStack
博客等级 码龄7年 747粉丝 389原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值