Icarus_的学习笔记

《CodeGeeX: A Pre-Trained Model for Code Generation with Multilingual Evaluations on HumanEval-X》论文地址：https://arxiv.org/pdf/2303.17568.pdf代码地址：https://github.com/THUDM/CodeGeCodeGeeX，是一个具有130亿个参数的多语言模型，用于代码生成，在23种编程语言的8500亿个token上进行了预训练。CodeGeeX的特点(1)CodeGe

Transformer 模型

NumPy（Numerical Python的简称）是高性能科学计算和数据分析的基础包。NumPy具有如下功能：ndarray数组：一个具有矢量算术运算和复杂广播能力的多维数组，具有快速且节省空间的特点； 对整组数据进行快速运算的标准数学函数（无需编写循环）； 线性代数、随机数生成以及傅里叶变换功能； 读写磁盘数据、操作内存映射文件。本质上

使用飞桨实现波士顿房价预测任务本教程中的案例覆盖计算机视觉、自然语言处理和推荐系统等主流应用场景，使用飞桨实现这些案例的流程基本一致，如图1所示。图1：使用飞桨框架构建神经网络过程在之前的章节中，我们学习了使用Python和NumPy实现波士顿房价预测任务的方法，本章我们将尝试使用飞桨重写房价预测任务，体会二者的异同。在数据处理之前，需要先加载飞桨框架的相关类库。In [1]#加载飞桨、NumPy和相关类库import paddlefrom paddle.nn...

波士顿房价预测任务上一节我们初步认识了神经网络的基本概念（如神经元、多层连接、前向计算、计算图）和模型结构三要素（模型假设、评价函数和优化算法）。本节将以“波士顿房价预测”任务为例，向读者介绍使用Python语言和Numpy库来构建神经网络模型的思考过程和操作方法。波士顿房价预测是一个经典的机器学习任务，类似于程序员世界的“Hello World”。和大家对房价的普遍认知相同，波士顿地区的房价受诸多因素影响。该数据集统计了13种可能影响房价的因素和该类型房屋的均价，期望构建一个基于13个因素进行..