CS217 2_BLAS Hardware Accelerators for Machine Learning

Goal

Design of hardware architectures for accelerating Machine Learning (ML)
课程目的设计加速ML的硬件结构
仅用于学习目的，有学习参考知乎严同学笔记内容

BLAS, Basic Linear Algebra Subprograms (BLAS)

BLAS

BLAS库是经典的高性能科学计算数学库接口标准，大部分超算用户在编程时都会调用BLAS库，同类型的线性代数库还有LAPACK以及intel的MKL等等。其中gotoBLAS库和openblas是开源的，

可以下源码来看，BLAS分为3个Level，Level1是向量-向量操作，比如向量加、向量乘等；Level2是矩阵-向量操作；level3是矩阵-矩阵操作。

BLAS Level3

BLAS Level3的核心实现是基于GEMM，IBM的算法和Power处理器架构能够很好的支持，并且有Fortran版本的BLAS库。

BLAS的复杂度