- 博客(17)
- 收藏
- 关注
RSS订阅原创 【Pytorch框架】python绘图，指尖玩转TensorBoard基本用法
介绍TensorBoard的主要功能TensorBoard 是一组用于数据可视化的工具。它包含在流行的开源机器学习库 Tensorflow 中。可视化模型的网络架构跟踪模型指标，如损失和准确性等检查机器学习工作流程中权重、偏差和其他组件的直方图显示非表格数据，包括图像、文本和音频将高维嵌入投影到低维空间虽然TensorBoard包含在Tensorflow框架中，但是可以独立安装，并且服务于Pytorch等其他框架。
2024-12-01 10:23:29
1160
14
原创 【Pytorch框架】无中生有，从0到1使用Dataset类处理MNIST数据集
介绍pytorch框架及MNIST数据集的下载，讲解如何使用pytorch中的Dataset数据集处理类处理MNIST数据集。
2024-11-27 14:47:42
961
8
原创 【数论】莫比乌斯函数及其反演
这篇文章主要介绍了数论中的莫比乌斯函数及其反演。文章先介绍了完全积性函数和积性函数，随后列举了一些常见的数论函数，包括单位函数、常数函数、恒等函数、莫比乌斯函数和欧拉函数，强调了它们在数论中的重要性。阐述了狄利克雷卷积的定义，并推导了相关公式，随后对莫比乌斯函数进行了详细的解析。莫比乌斯函数的定义给出了其计算方式，指出了质因子的处理和相关特性，并给出了莫比乌斯反演的公式，强调了这个公式在该领域的重要性。接下来的部分提供了莫比乌斯函数的求解算法及相关例题，采用了欧拉线性筛的方式，时间复杂度为 (O(n))。
2024-11-23 00:04:08
1277
3
原创 【数论】整除分块
这篇文章介绍了“整除分块”技巧，这是一个在处理数论问题时极其重要的高效算法，特别适用于大数据范围。在文章中，通过简单题目引入该技巧，推导了相应的通用模板，并展示了具体应用的例题。利用整除分块，算法能够有效地减少计算复杂度，从而快速解决大规模数据问题。
2024-11-21 17:08:15
825
1
原创 【DecFL】一文读懂什么是去中心化联邦学习以及CoCo算法详解
本文着重讲解了联邦学习的出现和去中心化联邦学习的概念，以及精度论文《Accelerating Decentralized Federated Learning in Heterogeneous Edge Computing》（《加速异构边缘计算中的分散联邦学习》），提出了一种高效算法CoCo以加速DFL，它自适应地构建P2P网络拓扑，并为所有worker确定适当的压缩比，以克服网络动力学和系统异构性问题。
2024-11-17 16:46:31
2092
11
原创 【联邦学习框架FLGo】FLGo运行配置（二）算法与模型
本文将为大家讲解FLGo中如何使用不同的算法进行联邦学习训练以及如何自定义模型和切换模型进行训练。
2024-11-11 22:38:14
493
2
原创 【联邦学习框架FLGo】FLGo运行配置（一）初始化和数据集
本文详细介绍了联邦学习框架的基本运行环境配置和数据集管理。在联邦学习中，数据集的管理不仅包括数据的准备和加载，还需要考虑数据的分布特性。
2024-11-08 20:00:01
989
原创 【联邦学习框架FLGo】FLGo入门介绍及源码
FLGo是一个轻量级联邦学习框架，允许数据保留在本地设备上训练模型来确保用户的隐私性，降低了数据泄露的风险。该框架支持多个客户端同时参与模型训练，提高了训练过程的效率，充分利用了边缘设备的计算能力。原知乎教程链接手把手实战联邦学习FLGo的开发宗旨是让做联邦学习相关的研究变得更加简单。帮助使用者很轻松地自己手写一个联邦学习算法，并与其他算法进行对比；提供了数个主流地联邦数据集基准（图像、文本、图、表格等），支持各种常见地数据异构性划分，并提供接口辅助大家尝试在自己的数据集上进行联邦学习；
2024-11-08 19:49:52
742
原创 【论文阅读】联邦学习开山之作《Communication-Efficient Learning of Deep Networks from Decentralized Data》
相比于FedSGD，FedAvg能够在非独立同分布数据上更快收敛，在相同通信轮次下，测试集精度更高。在IID（独立同分布）和non-IID（非独立同分布）两种数据分布下进行实验，评估模型在不同数据分布条件下的收敛性和通信效率。文章提出的方法（FedAvg）经过了四个数据集，五个模型的实验，对于不平衡和non-IID的数据集表现良好，具有鲁棒性。探索异步联邦学习方法，减少同步通信的延迟问题，尤其在网络不稳定时保持模型的有效性。2、通信轮次：客户端与服务器通信的次数，评估联邦学习的通信效率。
2024-11-02 12:16:59
1108
1
原创 LLM大模型（二）——提示工程（Prompt Engineering）
提示工程（prompt engineering），又称为指令工程，指的是通过结构化文本等方式来完善提示词，引导LLM输出我们期望的结果。通过提示词工程可以在不更新模型权重的情况下，让LLM完成不同类型的任务。其主要依赖于经验，而且提示词工程方法的效果在不同的模型中可能会有很大的差异，因此需要大量的实验和探索。提示工程旨在获取这些提示并帮助模型在其输出中实现高准确度和相关性，掌握提示工程相关技能将有助于用户更好地了解大型语言模型的能力和局限性。
2024-10-23 17:30:06
964
1
原创 LLM大模型（一）——大语言模型与Transformer相关概念
它是研究、开发用于模拟、延伸和扩展人的智能的理论、方法、技术及应用系统的一门新的技术科学，通过模拟人的思考方式实现人的头脑思维，是计算机科学的一个分支，它企图了解智能的实质，并生产出一种新的能以人类智能相似的方式做出反应的智能机器，该领域的研究包括机器人、语言识别、图像识别、自然语言处理和专家系统等。
2024-06-27 10:03:22
1106
3
原创 C++位运算函数之__builtin_
该函数返回n的二进制表示中末尾1的位置，从1开始计数。该函数判断n的二进制表示中1的个数的奇偶性；该函数判断n的二进制表示中末尾0的个数；该函数判断n的二进制表示中1的个数。当n为0时，和n的奇偶性有关。
2024-05-29 22:34:59
570
6
原创 C++求和函数之accumulate函数
实现你想进行的操作。另外，accumulate函数对结构体，以及string等类型也是可以使用的。特别需要注意的是函数的返回值类型必须与初始值类型一致，否则会有意想不到的错误。可以是int、long long 、double等；函数有这四个参数，前三个参数为必要，第四个为非必要。是内置累乘回调函数，data_T是元素数据类型。或其他操作(累乘，倍数等），时间复杂度为。分别是起始迭代器和结束迭代器，其范围为。（2）计算数组中每个元素乘以3后的和。函数的主要用处是对区间元素。是数据类型，它作为函数的。
2024-04-08 12:12:52
2590
4
原创 动态规划——01背包问题
再观察一下，我们还可以发现对于每一维，它总是在上一维的基础上发生转移，并且不会改变下一维，由此我们可以直接在上一维进行操作来作为下一维的答案。进行遍历时，操作一个状态其前一个状态已经发生改变了，而我们所需要的答案是不需要改变的。找出关系数组即定义用来存储答案的数组，需要注意的是定义数组时要明确数组的含义，使其更易于找出递推表达式以及更易于表示答案。01背包的优化主要是对于空间的优化，一般情况下的01背包模型所使用的dp数组是二维的，对空间要求较高，如果。个物品，不选得情况下，价值为dp[i-1][j]；
2024-04-07 12:38:55
955
1
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人