
散知识备忘录
aa
jwspl
这个作者很懒,什么都没留下…
展开
专栏收录文章
- 默认排序
- 最新发布
- 最早发布
- 最多阅读
- 最少阅读
-
docker命令总结
docker命令总结列出容器id列出容器iddocker ps -aq原创 2020-05-11 16:32:58 · 150 阅读 · 0 评论 -
FP16和FP32与INT8占位和计算问题
数据问题FP32占用4个字节,共32位,其中1位为符号位,8为指数位,23为尾数位。FP16占用2个字节,共16位,其中1位为符号位,5位指数位,十位有效数字位。符号位:0为正,1为负。指数位的计算方式为:取基底数加上后面有效数字化出来的指数数基底数计算:第一位取0后面用1补满例如FP16指数位5为:基底数就为01111 等于15举例说明计算方式:例如十进制13化为二进制就是110...原创 2019-08-01 17:47:07 · 7472 阅读 · 0 评论 -
内存中的核心频率I/O频率和等效频率带宽如何计算
核心频率核心频率是指内存核心频率是内存的真实运行频率,内存Cell阵列(内存电容)的刷新频率。I/O频率I/O频率是指时钟频率即I/O Buffer(输入/输出缓冲)的传输频率DDR内存最关键的技术就是分别采用了2/4/8bit数据预取技术(Prefetch),由此得以将带宽翻倍,与此同时I/O控制器也必须做相应的改进。关系图如下:等效频率这是相对于之前的内存技术SDR...原创 2019-08-02 08:31:58 · 3242 阅读 · 0 评论