野比大鸿-优快云博客

原创代码错误原因总结

代码错误原因总结代码奔溃的原因总结：使用没有初始化的变量数组越界指针指向为空，但使用了它的内容使用的除法，但没有判断除数是否为0调试出现错误：应该采用debug而不是release没有配置属性中的调试内容属性中的cfg文件名与实际不同结果数据一样：cfg中QP设置成了同样的值编译出错：缺少类型说明符假定为int 两个头文件相互引用Linux运行错误：double free or corruption (!prev)Aborted (core dumped)new出来的

2021-06-24 19:47:44 3032

原创系数编码中flag的含义

系数编码中flag的含义下面所有的系数指的是量化编码后的系数，即量化系数sig_coeff_flag：表示当前系数值是否为0，当系数为0时，sig_coeff_flag=1；abs_level_gtx_flag[0]：表示当前系数值是否大于1，当系数大于1时，abs_level_gtx_flag=1；par_level_flag：表示当前系数值的奇偶性，奇数时par_level_flag=1；abs_level_gtx_flag[1]：表示当前系数是否大于3，当系数大于3时，abs_level_g

2021-06-24 19:45:16 563

原创配置深度学习环境

配置深度学习环境一、下载与安装anacondahttps://zhuanlan.zhihu.com/p/75717350二、安装torch注意：不要用anaconda来安装，而是直接到官网安装，他会把cuda和torchvision也一起安装三、安装cv2直接用anaconda安装即可...

2021-06-24 19:44:44 151

原创静态库lib和动态库dll

静态库lib和动态库dll有两种库（Lib，所谓的库，其实就对cpp源文件文件进行打包），一种是静态库，一种是动态库。静态库文件：会使用到.h和.lib文件这两种文件编译器链接可执行文件时，链接器会从.lib文件中复制这些函数和数据，并且最终合并成一个可执行exe文件。使用方法在使用该库的源文件中包含该库的.h文件在使用该库的源文件中写下以下语句#pragma comment(lib, "库名.lib")动态库文件：会使用到.h和.lib和.dll这三种文件（其中.h和.lib文件

2021-06-24 19:43:32 441

原创定义全局变量

定义全局变量头文件// test.h#ifndef __TEST_H__#define __TEST_H__// 声明全局变量extern int global_Val;#endif源文件1// main.cpp#include "test.h"// 在这里定义全局变量int global_val = 0;int main(){ // int global_val = 0; // 不要在函数内定义全局变量 return 0;}..

2021-06-24 19:39:13 624

原创 SPS编解码

SPS编解码编码int main(int argc, char* argv[])bool EncLib::encode( const InputColourSpaceConversion snrCSC, std::list<PelUnitBuf*>& rcListPicYuvRecOut, int& iNumEncoded, bool isTff )bool EncApp::encode()bool EncLib::encode( const InputColourSp

2021-06-24 19:38:50 233

原创 libtorch操作

libtorch操作带stride数组与tensor之间的转化int16_t src0[64 * 64] = { 0 };int16_t * Psrc0 = src0;int stride0 = 64;for (int i = 0; i < 64 * 64; ++i) src0[i] = i % 64;torch::Tensor Tsrc0 = torch::from_blob(Psrc0, { 1, 64 }, at::kShort);Psrc0 += stride0;

2021-06-24 19:35:51 249

原创 Intrinsic 指令集优化

Intrinsic 指令集优化https://software.intel.com/sites/landingpage/IntrinsicsGuide/https://blog.youkuaiyun.com/just_sort/article/details/94393506https://zhuanlan.zhihu.com/p/94649418// 把数组变成__m256i__m256i s0 = _mm256_lddqu_si256((__m256i *) (src0 + x));// 把__m25

2021-06-24 19:35:10 1243

原创 IBC算法

IBC算法构建哈希表void IbcHashMap::xxBuildPicHashMap(const PelUnitBuf& pic)获取hash的BVbool IbcHashMap::ibcHashMatch(const Area& lumaArea, std::vector<Position>& cand, const CodingStructure& cs, const int maxCand, const int searchRange4Small

2021-06-24 19:33:25 463

原创 git使用

git使用安装Git默认安装即可 https://git-scm.com/downloads安装完成后，还需要最后一步设置，在命令行输入：$ git config --global user.name "Your Name"$ git config --global user.email "email@example.com"因为Git是分布式版本控制系统，所以，每个机器都必须自报家门：你的名字和Email地址。你也许会担心，如果有人故意冒充别人怎么办？这个不必担心，首先我们相信大家都是善良无

2021-06-23 22:14:24 94

原创 GEO相关函数

GEO相关函数xCheckRDCostMergeGeo2Nx2N( tempCS, bestCS, partitioner, currTestMode ); m_pcInterSearch->weightedGeoBlk(pu, splitDir, CHANNEL_TYPE_CHROMA, geoCombinations[candidateIdx], geoBuffer[mergeCand0], geoBuffer[mergeCand1]); m_if.weightedGeoBl

2021-06-23 22:13:39 601

原创 Dump调试程序崩溃或闪退

Dump调试程序崩溃或闪退获取dump文件获取PDB文件属性->链接器->调试->生成调试信息->生成调试信息(/DEBUG)属性->C/C+±>常规->调试信息格式->程序数据库(/zi)Referencehttps://blog.youkuaiyun.com/icandoit_2014/article/details/78739962https://blog.youkuaiyun.com/linfengmove/article/details/88966374ht

2021-06-23 22:12:44 1284

原创 CTU（coding_tree_unit）

CTU（coding_tree_unit）在coding_tree_unit()这个函数中，cs表示的是一个ctu

2021-06-23 22:12:04 247

原创 context相关

context相关CoeffCodingContext类ContextSetCfg类CoeffCodingContext::CoeffCodingContext( const TransformUnit& tu, ComponentID component, bool signHide, bool bdpcm )const CtxSet ContextSetCfg::xxxxxxxFlag = ContextSetCfg::addCtxSet

2021-06-23 22:11:07 154

原创 CMakeLists语法

CMakeLists.txt官网指南：https://cmake.org/cmake/help/v3.20/guide/tutorial/index.html基本操作（编写简单的CMakeLists）首先，在项目根目录中新建一个CMakeLists.txt，然后添加下面必须的三句# 设置cmake的最低版本，如果cmake版本比最低版本要低将无法执行cmake_minimum_required(VERSION 3.10)# 设置project的名称，注意名称不需要双引号括住project(项

2021-06-23 22:07:52 562

原创 CMakeLists生成和载入动态链接库

CMakeLists生成和载入动态链接库生成动态链接库新建一个文件夹，暂且命名为“makeDllLib”文件夹中放入三个文件.c和.h和.def。其中.def文件是非必须的，但它有利于生成.lib文件和导出函数。三个文件的内容如下：/*ADD.cpp*/#include "ADD.hpp"int my_add(int a, int b) { return a + b;}/*ADD.hpp*/#pragma once#ifndef __ADD_HPP__#define __

2021-06-23 22:07:10 9636 1

原创 ChromaPrediction

ChromaPrediction编码端xCompressCU()xCheckRDCostIntra()estIntraPredChromaQT() 进行初选xRecurIntraChromaCodingQT() 全RDcost计算解码端decompressCtu()xReconIntraQT()xIntraRecQT()xIntraRecBlk()m_pcIntraPred->initIntraPatternChType(*t

2021-06-23 22:05:48 78

原创 CCLM相关函数

CCLM相关函数xCheckRDCostIntra() 帧内预测 m_pcIntraSearch->estIntraPredChromaQT() 色度 predIntraChromaLM(COMPONENT_Cb, predCb, pu, areaCb, mode); piPred.linearTransform(a, iShift, b, true, pu.cs->slice->clpRng(compID)); predIntraAng(CO

2021-06-23 22:05:01 288

原创 BDPCM相关函数

BDPCM相关函数estIntraPredLumaQT() xRecurIntraCodingLumaQT() xIntraCodingTUBlock() 获取进过变换和量化后的distortion preIntraAng() 获取预测值 xPreIntraBDPCM() 获取水平或垂直的预测值，不经过滤波 piResi.copyfrom(piOrg) piResi.subtract(tmpPred) 这两句获取残差

2021-06-23 22:02:23 608

m0_37971774的博客