iFlyAI的博客

人工智能学习离不开实践的验证，推荐大家可以多在FlyAI-AI竞赛服务平台多参加训练和竞赛，以此来提升自己的能力。FlyAI是为AI开发者提供数据竞赛并支持GPU离线训练的一站式服务平台。每周免费提供项目开源算法样例，支持算法能力变现以及快速的迭代算法模型。这篇将会着重介绍使用 pytorch 进行机器学习训练过程中的一些常见技巧，掌握它们可以让你事半功倍。使用的代码大部分会基于上一篇最后一个例子，即根据码农条件预测工资????，如果你没看上一篇请点击这里查看。目录保存和读取模型状态记录

人工智能学习离不开实践的验证，推荐大家可以多在FlyAI-AI竞赛服务平台多参加训练和竞赛，以此来提升自己的能力。FlyAI是为AI开发者提供数据竞赛并支持GPU离线训练的一站式服务平台。每周免费提供项目开源算法样例，支持算法能力变现以及快速的迭代算法模型。pytorch 简介pytorch 是目前世界上最流行的两个机器学习框架的其中之一，与 tensoflow 并峙双雄。它提供了很多方便的功能，例如根据损失自动微分计算应该怎样调整参数，提供了一系列的数学函数封装，还提供了一系列现成的模型，以及..

人工智能学习离不开实践的验证，推荐大家可以多在FlyAI-AI竞赛服务平台多参加训练和竞赛，以此来提升自己的能力。FlyAI是为AI开发者提供数据竞赛并支持GPU离线训练的一站式服务平台。每周免费提供项目开源算法样例，支持算法能力变现以及快速的迭代算法模型。...

人工智能学习离不开实践的验证，推荐大家可以多在FlyAI-AI竞赛服务平台多参加训练和竞赛，以此来提升自己的能力。FlyAI是为AI开发者提供数据竞赛并支持GPU离线训练的一站式服务平台。每周免费提供项目开源算法样例，支持算法能力变现以及快速的迭代算法模型。如果需要小编其他论文翻译，请移步小编的GitHub地址　　传送门：请点击我　　如果点击有误：https://github.com/LeBron-Jian/DeepLearningNote　　YOLO v4 算法就是在原...

在开始学习之前推荐大家可以多在FlyAI竞赛服务平台多参加训练和竞赛，以此来提升自己的能力。FlyAI是为AI开发者提供数据竞赛并支持GPU离线训练的一站式服务平台。每周免费提供项目开源算法样例，支持算法能力变现以及快速的迭代算法模型。目录　　自定义层、损失函数和评估指标　　自定义层　　自定义损失函数和评估指标　　自定义层、损失函数和评估指标　　可能你还会问，如果现有的这些层无法满足我的要求，我需要定义自己的层怎么办?事实上，我们不仅可以继承 tf.keras.Model ...

在开始学习之前推荐大家可以多在FlyAI竞赛服务平台多参加训练和竞赛，以此来提升自己的能力。FlyAI是为AI开发者提供数据竞赛并支持GPU离线训练的一站式服务平台。每周免费提供项目开源算法样例，支持算法能力变现以及快速的迭代算法模型。目录　　Keras Sequential/Functional API 模式建立模型　　使用 Keras Model 的 `compile` 、 `fit` 和 `evaluate` 方法训练和评估模型　　前面几章的示例均使用了 Keras 的 Su...

在开始学习之前推荐大家可以多在FlyAI竞赛服务平台多参加训练和竞赛，以此来提升自己的能力。FlyAI是为AI开发者提供数据竞赛并支持GPU离线训练的一站式服务平台。每周免费提供项目开源算法样例，支持算法能力变现以及快速的迭代算法模型。前言前几天又用到了TVM，想着是否能够间接替代TensorRT作为GPU服务器部署的一个后端。TensorRT在自家的GPU上确实强大，也是老黄家重点关照的”开源项目“。但TensorRT还是有一点点小缺点的：经过infer优化后的模型与特定GPU绑定，...

在开始学习之前推荐大家可以多在FlyAI竞赛服务平台多参加训练和竞赛，以此来提升自己的能力。FlyAI是为AI开发者提供数据竞赛并支持GPU离线训练的一站式服务平台。每周免费提供项目开源算法样例，支持算法能力变现以及快速的迭代算法模型。ICLR 2021杰出论文奖出炉！今年共有2997篇投稿，接收860篇，最后共有8篇获得杰出论文奖。这8篇论文中，谷歌成最大赢家，共有4篇论文获奖（包括DeepMind、谷歌大脑在内）。除此之外，AWS、Facebook等机构，以及CMU、南洋理...

在开始学习之前推荐大家可以多在FlyAI竞赛服务平台多参加训练和竞赛，以此来提升自己的能力。FlyAI是为AI开发者提供数据竞赛并支持GPU离线训练的一站式服务平台。每周免费提供项目开源算法样例，支持算法能力变现以及快速的迭代算法模型。“加个Hello函数”“加个Print”“在Hello中加引号”……程序员们，以后不要轻易动手了，声音编程了解一下~现在就有一款免费的AI小工具Serenade，插入正在使用的编译器（如VS Code、IntelliJ、Ato...

在开始学习之前推荐大家可以多在FlyAI竞赛服务平台多参加训练和竞赛，以此来提升自己的能力。FlyAI是为AI开发者提供数据竞赛并支持GPU离线训练的一站式服务平台。每周免费提供项目开源算法样例，支持算法能力变现以及快速的迭代算法模型。一、前言　　文本分类(Text Classification或Text Categorization，TC)，或者称为自动文本分类(Automatic Text Categorization)，是指计算机将载有信息的一篇文本映射到预先给定的某一类别或某几类别...

在开始学习之前推荐大家可以多在FlyAI竞赛服务平台多参加训练和竞赛，以此来提升自己的能力。FlyAI是为AI开发者提供数据竞赛并支持GPU离线训练的一站式服务平台。每周免费提供项目开源算法样例，支持算法能力变现以及快速的迭代算法模型。今天的社会正变得越来越以多媒体为中心、依赖数据和自动化。自动驾驶技术正在道路、海洋和太空中普及。自动化、分析和智能正在从人类转向“特定于机器”的应用。计算机视觉和视频将在我们未来的数字世界中扮演重要角色。数以百万计的智能传感器将通过人工智能嵌入汽车、智能城市、智...

Fly-AI竞赛服务平台 flyai.com在开始学习之前推荐大家可以多在FlyAI竞赛服务平台多参加训练和竞赛，以此来提升自己的能力。FlyAI是为AI开发者提供数据竞赛并支持GPU离线训练的一站式服务平台。每周免费提供项目开源算法样例，支持算法能力变现以及快速的迭代算法模型。无需标签，自我分析数据！Facebook的新AI模型在革计算机视觉的命？刚刚，Facebook宣布了一个在10亿张图片上训练的AI模型——SEER，是自监督（Self-supervised）的缩写。...

Fly-AI竞赛服务平台 flyai.com在开始学习之前推荐大家可以多在FlyAI竞赛服务平台多参加训练和竞赛，以此来提升自己的能力。FlyAI是为AI开发者提供数据竞赛并支持GPU离线训练的一站式服务平台。每周免费提供项目开源算法样例，支持算法能力变现以及快速的迭代算法模型。以前提到过此文（在想法中），WACV‘2021...

Fly-AI竞赛服务平台 flyai.com在开始学习之前推荐大家可以多在FlyAI竞赛服务平台多参加训练和竞赛，以此来提升自己的能力。FlyAI是为AI开发者提供数据竞赛并支持GPU离线训练的一站式服务平台。每周免费提供项目开源算法样例，支持算法能力变现以及快速的迭代算法模型。有几点原因：1. 后面实习要解决实例分割中的目标多尺...

Fly-AI竞赛服务平台 flyai.com在开始学习之前推荐大家可以多在FlyAI竞赛服务平台多参加训练和竞赛，以此来提升自己的能力。FlyAI是为AI开发者提供数据竞赛并支持GPU离线训练的一站式服务平台。每周免费提供项目开源算法样例，支持算法能力变现以及快速的迭代算法模型。在2019年橄榄球世界杯期间，我做了一个...

在开始学习之前推荐大家可以多在FlyAI竞赛服务平台多参加训练和竞赛，以此来提升自己的能力。FlyAI是为AI开发者提供数据竞赛并支持GPU离线训练的一站式服务平台。每周免费提供项目开源算法样例，支持算法能力变现以及快速的迭代算法模型。要了解什么是激活函数，首先要了解神经网络模型的基本工作原理。所谓激活函数（Activation Function），就是在人工神经网络的神经元上运行的函数，负责将神经元的输入映射到输出端。信号从一个神经元进入，经过非线性的激活函数，传入到下一层神经元；再...

人工智能学习离不开实践的验证，推荐大家可以多在FlyAI-AI竞赛服务平台多参加训练和竞赛，以此来提升自己的能力。FlyAI是为AI开发者提供数据竞赛并支持GPU离线训练的一站式服务平台。每周免费提供项目开源算法样例，支持算法能力变现以及快速的迭代算法模型。如果做过DNN的实验，大家可能会发现在对数据进行预处理，例如白化或者z-score，甚至是简单的减均值操作都是可以加速收敛的，例如下图所示的一个简单的例子：图中红点均代表二维的数据点，由于图像数据的每一维一般都是02550255...

摘要: Transformer虽然效果好，但是却对资源要求比较高，很难在端设备上运行。在传统的Transformer中，每个block中都有Multi-head Attention和全连接层，其中，随着序列长度N的增大，全连接层的计算量是线性增长，而attent ...人工智能学习离不开实践的验证，推荐大家可以多在FlyAI-AI竞赛服务平台多参加训练和竞赛，以此来提升自己的能力。FlyAI是为AI开发者提供数据竞赛并支持GPU离线训练的一站式服务平台。每周免费提供项目开源算法样例，支持算法能力...

人工智能学习离不开实践的验证，推荐大家可以多在FlyAI-AI竞赛服务平台多参加训练和竞赛，以此来提升自己的能力。FlyAI是为AI开发者提供数据竞赛并支持GPU离线训练的一站式服务平台。每周免费提供项目开源算法样例，支持算法能力变现以及快速的迭代算法模型。完整代码及其数据，请移步小编的GitHub　　传送门：请点击我　　如果点击有误：https://github.com/LeBron-Jian/MachineLearningNote　　在数据挖掘方面，经常需要在做特征工程和模...

摘要: 计算机视觉领域注意力机制的开篇之作。提出了non-local operations，使用自注意力机制建立远程依赖。- local operations: 卷积(对局部领域)、recurrent(对当前/前一时刻)等操作。- non-local operations用于捕获长距 ...人工智能学习离不开实践的验证，推荐大家可以多在FlyAI-AI竞赛服务平台多参加训练和竞赛，以此来提升自己的能力。FlyAI是为AI开发者提供数据竞赛并支持GPU离线训练的一站式服务平台。每周免费提供项目...

摘要:BERT中及XLNet和RoBERTa中，词嵌入大小 E 和隐藏层大小 H 相等的，H =E=768；而ALBERT认为，词嵌入学习单个词的信息，而隐藏层输出包含上下文信息，应该 H>>E。所以ALBERT的词向量的维度小于encoder输出值维度...人工智能学习离不开实践的验证，推荐大家可以多在FlyAI-AI竞赛服务平台多参加训练和竞赛，以此来提升自己的能力。FlyAI是为AI开发者提供数据竞赛并支持GPU离线训练的一站式服务平台。每周免费提供项目开源算法样例，支持算...

摘要: 我们都知道而且喜欢谷歌翻译（Google Translate），这个网站可以几乎实时地在 100 多种不同的人类语言之间互相翻译，就好像是一种魔法。我们还可以通过手机和智能手表使用谷歌翻译：谷歌翻译背后的技术被称为机器翻 ...人工智能学习离不开实践的验证，推荐大家可以多在FlyAI-AI竞赛服务平台多参加训练和竞赛，以此来提升自己的能力。FlyAI是为AI开发者提供数据竞赛并支持GPU离线训练的一站式服务平台。每周免费提供项目开源算法样例，支持算法能力变现以及快速的迭代算法模型。我们...

摘要：BLURB 包括 13 个公开可用的数据集，涉及 6 个不同的任务。为了避免偏重多可用数据集的任务，如命名实体识别（NER），BLURB 的报告和排名，将所有任务的宏观平均数作为主要得分。BLURB 排行榜是不分模型的。任何能够 ...人工智能学习离不开实践的验证，推荐大家可以多在FlyAI-AI竞赛服务平台多参加训练和竞赛，以此来提升自己的能力。FlyAI是为AI开发者提供数据竞赛并支持GPU离线训练的一站式服务平台。每周免费提供项目开源算法样例，支持算法能力变现以及快速的迭代算法模型。..

摘要：在过去的几年中，计算机不断增强的处理能力推动了机器学习的进步。算法越来越多地利用并行性，并依赖分布式训练来处理大量数据。然而，随之而来的是增加数据和训练的需求，这对管理和利用大规模计算资源的软件提出了 ...人工智能学习离不开实践的验证，推荐大家可以多在FlyAI-AI竞赛服务平台多参加训练和竞赛，以此来提升自己的能力。FlyAI是为AI开发者提供数据竞赛并支持GPU离线训练的一站式服务平台。每周免费提供项目开源算法样例，支持算法能力变现以及快速的迭代算法模型。Fiber：Uber ..

到现在为止，我们已经学习了几种不同的学习算法，包括线性回归和逻辑回归，它们能够有效地解决许多问题，但是当将它们应用到某些特定的机器学习应用时，会遇到过拟合(over-fitting)的问题，可能会导致它们效果很差。一：过度拟合问题（一）线性回归中的过拟合问题继续使用线性回归来预测房价的例子，我们通过建立以住房面积为自变量的函数来预测房价。1.我们可以用一次函数拟合数据，这样我们可以获取拟合数据的这样一条直线。但是这不是一个很好的模型，通过数据可以明显的看出随着数据房子面积的...

Logistic回归公式推导和代码实现1，引言　　logistic回归是机器学习中最常用最经典的分类方法之一，有人称之为逻辑回归或者逻辑斯蒂回归。虽然他称为回归模型，但是却处理的是分类问题，这主要是因为它的本质是一个线性模型加上一个映射函数Sigmoid，将线性模型得到的连续结果映射到离散型上。它常用于二分类问题，在多分类问题的推广叫softmax。　　本文首先阐述Logistic回归的定义，然后介绍一些最优化算法，其中包括基本的梯度上升法和一个改进的随机梯度上升法，这些最优化算法将用于分类器.

分类技术（或分类法）是一种根据输入数据建立分类模型的系统方法，分类法的例子包括决策分类法，基于规则的分类法，神经网络，支持向量机和朴素贝叶斯分类法。这些技术都使用一种学习算法（learning algorithm）确定分类模型，该模型能够很好的拟合输入数据中类标号和属性集之间的联系，学习算法得到的模型不仅要很好地拟合输入数据，还要能够正确的预测未知样本的类标号。因此，训练算法的主要目标就是建立具有很好泛化能力模型，即建立能够准确的预测未知样本类标号的模型。 在此之前，推荐大家可以多在Fly...

　　ID3算法是一种贪心算法，用来构造决策树，ID3算法起源于概念学习系统（CLS），以信息熵的下降速度为选取测试属性的标准，即在每一个节点选取还尚未被用来划分的具有最高信息增益的属性作为划分标准，然后继续这个过程，直到生成的决策树能完美的分类训练样例。 在此之前，推荐大家可以多在FlyAI竞赛服务平台多参加训练和竞赛，以此来提升自己的能力。FlyAI是为AI开发者提供数据竞赛并支持GPU离线训练的一站式服务平台。每周免费提供项目开源算法样例，支持算法能力变现以及快速的迭代算法模型。I...

在我深入探讨该主题之前，这儿有一个问题–机器学习的全部内容是什么，为什么它突然成为流行语？ 从根本上说，机器学习是“预测的艺术”。 这一切都是基于过去来预测未来。 成为流行语的原因实际上与数据，技术，计算能力或任何这些东西无关。 这只是关于人类的心理！ 是的，我们人类总是对未来充满好奇，不是吗？ 而且，这是数据的时代，我们可以做出以数据为依据的良好预测，这是机器学习的本质。 预测的有效性基于两个因素：预测的准确性和进行的时间。 您也许可以以99％的准确度预测降雨，但是如果您只能在下毛毛雨之前就知道，那就没.

开发机器学习算法越来越容易。有几个高级库可供使用，比如 TensorFlow, PyTorch 以及 scikit-learn 。多亏了那些天才的开发人员的惊人努力，这些库非常易于使用，只需要对底层算法有一个肤浅的了解。然而，这是以深刻理解为代价的。如果没有适当的理论基础，人们很快就会被复杂的技术细节所淹没。我的目标是展示出当我们有适当的视角时，如何用真正简单自然的想法来解释机器学习中看似晦涩难懂的方法。我们在机器学习中的数学工具就是概率论和统计学，它是预测模型的基础。使用概率论不仅仅是学术的培养，实际

Dynamic Fusion Network for Multi-Domain End-to-end Task-Oriented Dialog论文链接：https://arxiv.org/abs/2004.11019（文中的代码开源）摘要绝大多数神经网络对话模型都依赖大量的训练数据，但并非所有对话领域都能有大量的数据可用。然而，关于如何有效地使用来自所有域的数据来改进每个域和不可见域的性能的研究相对较少。为此，文中研究了明确利用领域知识和引入共享-私有网络来学习共享的和特有的知识的方法。此外，.

Unsupervised Real-world Low-light Image Enhancement with Decoupled NetworksProblems•基于GAN的模型被特别设计来解决光照增强的任务，但在实际的微光图像增强中，他们在两个方面有着共同的局限性：•1）增强图像的对比度和光照可能不理想，通常会出现颜色失真和不一致；•2）这些方法主要侧重于光照增强，而没有特别注意噪声抑制。 •结果，重噪声仍然存在，甚至可能在增强图像中被放大Method•我们建议将整个无监督增强任.

使用fast-bert进行医疗文本分类一、赛题分析医疗文本的分类能够及时快速的对患者的病症和问题进行判断分类，然后分配相应的科室和专家来进行答疑。这样会极大的减少资源的浪费、更快更及时的病症判断。本次竞赛需要根据患者的病症和问题来预测属于240个类别中的哪一类，如：普通内科、肝病科、健身、急诊科、手足外科等等。通过使用pandas分析了下本地提供的3万条数据，可以发现数据标签分布不均衡（主要的分类为：妇产科，神经科，消化科，呼吸科，内科等。）（看评分标准用的是准确率，所以也就没有对不平衡数据..

Yolo v3比Frcnn好调试多了……就是数据集准备比较麻烦…… 但是好Debug，linux和win10差别不大……代码链接（cpu版本）：https://github.com/eriklindernoren/PyTorch-YOLOv3/issues/340这个代码……作者说的太草率了……data怎么准备都没说清……好歹issue里面有大神解答，给了傻瓜版教程，运行他的几个脚本就好了，data文件夹就准备好啦！data文件准备，按照这个数据集准备虽然这个作者是用它来训练coco数据集，

一、机器学习的背景大家都说人工智能是综合的学科，而机器学习就是人工智能的大脑。它通过对数据的处理，不断地变得更好和更强，做出各种各样的判断和决策。人工智能、机器学习、深度学习，这三者是什么关系？我们可以参照下面这张图：机器学习是实现人工智能的一种方法，机器学习有很多的细分领域，其中有一个领域是人工神经网络，而深度学习是人工神经网络这个领域的一个分支。二、什么是机器学习呢？...