
Deep/Machine Learning
文章平均质量分 79
haixwang
。。。。。。
展开
-
神经网络和CNN的一些基础概念,基础知识的梳理
(好吧,这又是一篇软文,适合初学者)一、通用概念:1. 有监督学习方法与非监督学习方法: 必须要有训练集与测试样本,模型在训练集中寻找规律,训练结束对测试样本使用这种规律进行预测【所有的回归和分类算法都属于监督学习,常见的比如:线性回归(Linear Regression), 多项式回归(Ploynomial Regression)——处理非线性, 岭回归(Ridge Reg...原创 2017-05-21 00:05:17 · 3274 阅读 · 0 评论 -
TODO集合
从今天开始,我把所有18年起的TODO,都同步到这篇文章。 一方面是方便自己常“回来看看“,记得解决这些疑惑; 另一方面,希望知道/有解决思路的前辈们能留言或者(QQ911283415)指点一二,感激! (序列中所有非链接字体以及【】中的文字,可在文章中搜索定位)九、2018年06月23日:关于Object类一些重要方法的深入理解及重载第一段测试代码中,两个Integer引用未一...原创 2018-06-23 22:23:44 · 399 阅读 · 0 评论 -
实时机器学习系统调研
文章目录前言难点实时机器学习的分类[^1]对应部分开源技术MahoutSpark mlibStormFlinkML其他,是否实时未知Apache SystemMLMADlibPredictionIO实时推荐系统参考前言我把实时机器学习理解为两种情况:1、 实时出结果:这时使用的依然是离线训练好的模型,静态的模型,只是该模型需要对实时流入的“测试”集做出响应,给出模型的计算结果。很多时候,...原创 2018-09-18 23:37:37 · 3341 阅读 · 0 评论 -
记困扰很久的pytorch加载模型OOM,python import执行流程,python“懒运行”,whindows控制ubuntu远程桌面
前提:cudnn已装,7.0.5cuda:9.0.716conda create -n tfgpu16 Python=3.6conda install tensorflow-gpu==1.6.0原创 2018-10-26 13:03:00 · 1886 阅读 · 0 评论 -
keras gpu的问题
官方这样说道如果是tensorflow、cntk作为后端,那么会自动检测theano可以手动设置但是我这的速度,让人怀疑并没有运行在gpu上(一张图,运行时间近10秒)尝试运行时指定CUDA_VISIBLE_DEVICES=0 python demo.py 运行时间无变化显式设置backendimport keras.backend.tensorflow_backe...原创 2018-10-24 19:15:09 · 1869 阅读 · 0 评论 -
记一次随机森林小实践
代码是从Jupyter Notebook导出来的过程中借鉴了些的数据清洗写法,有时间再补充。好记性不如烂笔头,免得下次又导出查语法。py版本# -*- coding: utf-8 -*-# @Time : 18-11-1 上午10:43# @Author : wanghai# @Email : # @File : testt.py# @Software: PyC...原创 2018-11-01 11:13:38 · 880 阅读 · 0 评论 -
2018NIMA_ Neural Image Assessment阅读笔记
前言笔记最初是在有道云做的,没用markdown编写,时间原因,前面先上笔记截图吧。不影响阅读。有时间补上文字版。笔记截图文字(未补图)While technical quality assessment deals with measuring low-level degradations such as noise, blur, compression artifacts...原创 2018-11-13 14:21:12 · 1751 阅读 · 0 评论 -
随机森林的进一步思考
非数值型特征首先,对于非数值列,肯定得想办法处理为数值型或者onehot编码。sklearn中,DictVectorizer可以做这件事:DictVectorizer implements what is called one-of-K or “one-hot” coding for categorical (aka nominal, discrete) features. Categ...原创 2018-11-28 11:26:16 · 1948 阅读 · 0 评论 -
模型训练batch数据抽样
自定义DataGenerator生成器,结合佛如循环以及yield来产生数据但是以下代码暂时不能保证每个epoch,数据有且仅有一次参与训练以下代码摘自:https://github.com/yongxuUSTC/sednnimport numpy as npclass DataGenerator(object): def __init__(self, batch_siz...原创 2018-12-20 16:24:01 · 2468 阅读 · 0 评论 -
keras train_on_batch中合理使用callback进行tensorboard可视化
train_on_batchreturnsScalar training loss(if the model has a single output and no metrics)or list of scalars (if the model has multiple outputsand/or metrics). The attribute model.metrics_names ...原创 2018-12-21 15:51:46 · 6689 阅读 · 0 评论 -
keras些许分享
原创 2019-01-06 10:18:37 · 416 阅读 · 0 评论 -
大数据/深度学习机器组机以及CUDA10+RTX+18.04.2+Tensorflow1.13.1+cuDNN7.3.1
组机缘由:最近两次实习的工作内容,都与大数据关联不大,所积累的一些本就学得不深的知识便忘得不少。深度学习和大数据都很感兴趣,考虑到毕设是深度学习项目,故准备过几天投一些大数据的实习岗。利用周末的时间,捣鼓毕设。这样一来,做大数据,好的CPU,大的内存必不可少;做深度学习,大显存的显卡必不可少。于是决定自己装台机器。深度学习需要什么样的GPU?NVIDIA 部分GPU的技术参数:如何选...原创 2019-03-10 17:10:54 · 1414 阅读 · 0 评论 -
tensorflow 恢复模型部分权重,CNN输出到LSTM
一、需求语音增强迁移训练时,希望在CNN后面接2层LSTM但是后面几层CNN(VGG16)的feature map尺寸太小,怕LSTM学不到东西恢复前7层CNN的权重,然后第7层的输出reshape之后作为LSTM的输入恢复但不冻结二、步骤参考tf.train.saver文档参考StackOverflow原网络结构如下: for layer_id in range(n_...原创 2019-04-07 15:24:25 · 1738 阅读 · 3 评论 -
boosting家族之综合理论篇
概述先验知识集成学习boosting家族简述boosting家族——AdaBoostingboosting家族——GBDTboosting家族——XGBoost参考—————————————————–概述boosting往上了说,是集成学习的分支。往下分,有AdaBoost和GBDT以及xgboost和lightBgm。此文是我这个boosti...原创 2018-04-15 18:02:13 · 1906 阅读 · 0 评论 -
Tensorflow开源的object detection API中的源码阅读(四):inception_resnet_v2.py
“”“定义Inception Resnet V2 架构.参考论文: http://arxiv.org/abs/1602.07261.Inception-v4, Inception-ResNet and the Impact of Residual Connections on Learning Christian Szegedy, Sergey Ioffe, Vincent Vanh原创 2017-12-26 17:07:44 · 2655 阅读 · 2 评论 -
菜鸟角度的mnist_softmax代码详解
菜鸟角度的mnist_softmax代码详解 文章是我分析该代码的记录,修改了一点点代码尝试两种初始化权重以及偏置的方式(发觉对模型准确度无提升)使用指数学习率:train.exponential_decay增加了一层for循环,每训练100次打印一下准确度尝试增加一层隐藏层(准确度提升)继续增加模型复杂度,看一看过拟合的情况。再用Dropout减少过拟合看看结果 首先给出该教程的官网原创 2017-09-19 13:04:52 · 924 阅读 · 0 评论 -
CIFAR_10处理数据——搭建模型——训练模型
1.处理数据# -*- coding:utf-8 -*-"""time:2017/9/22version:0.1""""""此脚本处理并加载CIFAR_10的数据:以下是函数之间调用关系: distorted_inputs函数:调用read_cifar_bindata; _generate_image_and_label_batch函数:调用distorted_inputs;原创 2017-09-26 22:13:52 · 1175 阅读 · 0 评论 -
Mnist进阶代码分析,Tensorboard的基本使用
摘要:基于CNN的Mnist代码详解tensorflow.nn.conv2d函数stridesreshapetensorflow.nn.max_pool函数padding。。。。。。tensorboardtensorboard中的name_scopetensorboard中的summary.* 将graph加到tensorboard中。。。。。。详解Windows中查看tens原创 2017-09-19 21:09:40 · 1472 阅读 · 0 评论 -
object_detection“使用教程”翻译(三):defining_your_own_model.md
在本节中,我们将讨论一些用于配置检测模型的抽象概念。如果您想要定义一个新的检测模型并在Tensorflow Detection API中使用它,那么本节应该作为您需要编辑的文件的高级指南,以使您的新模型正常工作。DetectionModels(object_detection/core/model.py)为了使用我们提供的二进制文件进行训练,评估和导出,Tensorflow Object Dete翻译 2017-11-09 16:03:25 · 745 阅读 · 1 评论 -
object_detection“使用教程”翻译(一):configuring_jobs.md
(本人目前是一个tensorflow中关于object_detectionAPI的小白。深知其上手之不易,模块的“g3doc”中其实给出了使用指南,但是即使是英语好也不可能一次就读明白,索性翻译为中文,方便以后查阅。也希望这一系列的“译文”能够帮助到和我一样“白手起家”的爱好者们。本人翻译能力已经精力有限,有表述得不恰当的地方大家多多指正。此致敬礼。) (一【也就是此译文】)的原文:翻译 2017-11-08 22:44:14 · 4544 阅读 · 0 评论 -
object_detection“使用教程”翻译(二):Tensorflow检测模型zoo
我们提供了在COCO数据集上预训练好的检测模型的集合【译者注:针对COCO数据集,已经开源了好几个检测模型,具体可以到项目中查看】。如果您对COCO数据集中已经存在的类别(例如,人类,汽车等)感兴趣,那么这些模型可以开箱即用。在训练新数据集时,它们也可用于初始化模型。 在下表中,我们列出了这样的预先训练好的模型,包括: 与samples / configs目录中的配置文件的文件名相对应的模翻译 2017-11-08 22:32:08 · 2026 阅读 · 0 评论 -
Tensorflow开源的object detection API中的源码解析(一):FASTER RCNN with Inception架构图
写文缘由在谷歌给出官方实现前,社区已经有不少用tensorflow实现的版本,也有不少热心人详解代码。找了一圈没有找到谷歌的官方实现的代码详解,于是有了此文,菜鸟一枚,有不足之处还请指出,共同学习。 看代码之前,建议先看几遍论文;在看代码的过程中,建议结合论文。相关文章对于faster_rcnn_meta_arch.py的理解见这篇文章: 对于inception_resnet_v2.py的理解见原创 2017-12-08 17:29:20 · 3371 阅读 · 8 评论 -
Win10下基于Docker使用tensorflow serving部署模型
windows就是更坑安装Docker for Windows 前提:Docker for Windows需要带有Hyper-V的64位Windows 10 Pro,如果您的系统不符合运行Docker for Windows的要求,则可以安装 Docker Toolbox,它使用Oracle Virtual Box而不是Hyper-V。【注:我的是win10专业版1709,Docker现在原创 2017-12-11 13:31:43 · 5572 阅读 · 0 评论 -
object_detection API论文Speed/accuracy trade-offs for...的详细中文翻译
在本文中,我们以一种详尽且公平的方式探索现代检测系统的效率和精确度之间的权衡。虽然(业界)已经对图像分类进行了(一定的)研究(例如,[3]),但是检测模型往往要复杂得多,<mark>我们主要研究singlemodel/single-pass 检测器,也就是说我们的模型不使用【文章后文也提到了这个】合成、multi-crop【可理解为多处裁剪】方法或其他例如水平翻转等等的“技巧”,换句话说,我们只通过一个网络传递一个单翻译 2018-06-02 23:52:36 · 1483 阅读 · 2 评论 -
Tensorflow开源的object detection API中的源码解析(二):faster_rcnn_meta_arch.py
“` “”“Faster R-CNN meta-architecture definition.General tensorflow implementation of Faster R-CNN detection models.这里允许两种模式:first_stage_only = True和first_stage_only = False。 在第一种设置中,所有面向用户的方法(例如:预测,后原创 2017-12-26 17:00:12 · 7500 阅读 · 2 评论 -
Tensorflow开源的object detection API中的源码解析(三):faster_rcnn_inception_resnet_v2_feature_extractor.py
“”“Inception Resnet v2 Faster R-CNN implementation.参见Szegedy等人的“Inception-v4,Inception-ResNet Impact of Residual Connections on Learning”(论文地址:https://arxiv.org/abs/1602.07261) 以及Huang等人的 “Speed/acc原创 2017-12-26 17:06:23 · 5470 阅读 · 1 评论 -
centos7.5英伟达驱动:unable to find the kernel source tree for current running kernel;nvidia-smi has faild
1安装cuda_10.0.130_410.48_linux.run自带的410.48 driver成功,但是nvidia-smi显示查看NVIDIA显卡驱动版本cat /proc/driver/nvidia/version显示驱动安装成功lspci | grep -i nvidia显示pci插槽有两块nvidia显卡2./usr/bin/nvidia-uninstall卸载驱动然...原创 2019-05-21 16:49:37 · 19429 阅读 · 13 评论