nihate的专栏

最近在知乎上看到一篇文章，里面讲到在pytorch里自带有计算余弦相似度的函数F.cosine_similarity（或者torch.cosine_similarity函数）。而在此之前，我计算两个张量的余弦相似度的做法是把张量转换到numpy，然后用scipy库（或者sklearn库）里提供的计算余弦相似度函数来做计算的。不过，在今天我发现使用F.cosine_similarity函数计算两个张量的余弦相似度的输出值与把张量转换到numpy然后用scipy库计算的输出值不一样。示例代码如下：impo

在ultralytics官方的yolov5代码里，模型的构建都是定义在yaml文件里的，在yaml文件里，有两个重要参数：depth_multiple和width_multiple。其中depth_multiple控制网络的深度，width_multiple控制网络的宽度。这样做的好处是可以通过这两个参数控制网络的宽度和深度，实现不同大小不同复杂度的模型设计，但是这种写法缺点是不再能直接采用第三方工具例如netron进行网络模型可视化了，并且yaml文件不利于学习网络结构特性和网络里的层与层之间的连接关系。

目前yolov3在工业界目标检测领域获得了广泛的应用，在github上有很多yolov3源码的资源。现在做深度学习使用pytorch最为方便，在github上pytorch版本的yolov3的star数量最多的的是https://github.com/ultralytics/yolov3和https://github.com/eriklindernoren/PyTorch-YOLOv3这两个。然而...

我们都知道在pytorch中的nn.Linear表示线性变换，官方文档给出的数学计算公式是 y = xA^T + b，其中x是输入，A是权值，b是偏置，y是输出，卷积神经网络中的全连接层需要调用nn.Linear就可以实现。而在看pytorch的源码linear.py文件时可以看到里面有Bilinear的定义，起初看到这个名字，大家会以为它是实现对图像做放大的上采样插值，可是在pytorch中有n...