自定义博客皮肤VIP专享

*博客头图:

格式为PNG、JPG,宽度*高度大于1920*100像素,不超过2MB,主视觉建议放在右侧,请参照线上博客头图

请上传大于1920*100像素的图片!

博客底图:

图片格式为PNG、JPG,不超过1MB,可上下左右平铺至整个背景

栏目图:

图片格式为PNG、JPG,图片宽度*高度为300*38像素,不超过0.5MB

主标题颜色:

RGB颜色,例如:#AFAFAF

Hover:

RGB颜色,例如:#AFAFAF

副标题颜色:

RGB颜色,例如:#AFAFAF

自定义博客皮肤

-+

FPGA设计的博客

专注FPGA设计

  • 博客(16)
  • 收藏
  • 关注

原创 台积电的两大护城河:先进制程+先进封装

芯片和汽车的设计与制造,在难度上来说,刚好相反。对芯片来说,制造是瓶颈,代工不像听上去那么简单。代工=先进制程(EUV光刻机)+高纯度材料(硅晶圆、光刻胶)+精密设备(沉积、刻蚀机),这些条件都有技术和资本双重buff。对造车来说:设计涉及到巨多学科交叉,因此是最大问题,汽车设计又要懂机械工程(发动机、变速器)、电子系统(BMS、MCU)、软件(如自动驾驶算法),还得懂用户体验。除了这些还不够,还得满足这样那样的碰撞测试、排放标准。最后,作为高端制造业,还得解决规模化与供应链问题。

2025-09-11 11:29:51 1847

原创 Tensor Core 从 Volta 到 Blackwell 的进化

Tensor Core演进大致进程是这样的:Volta(2017)首创矩阵专用计算,吞吐提升8倍,解决"指令开销";Turing(2018)引入INT8/INT4,解决推理能效瓶颈;Ampere(2020)实现异步数据流,突破"寄存器压力",算力翻倍;Hopper(2022)通过FP8与跨SM协同,化解"内存墙",LLM推理提速30倍;Blackwell(2024)用TMEM终结寄存器压力,NVFP4精度提升同时带宽减半。

2025-09-10 13:54:45 1367

原创 vLLM推理框架:pagedAttention算法+pipeline介绍+源码逐行注释

vLLM引擎的核心是LLMengine类,负责协调整个推理过程。它接收用户的文字请求,通过大模型生成结果,最后把结果返回给用户。整个工作流程可以看作一个智能工厂的生产线。LLMengine类中有几个关键依赖,本文中,我们首先介绍下面的5个关键依赖,最后再介绍主代码LLMengine类: 包括engine_core_client.py、processor.py、output_processor.py、abstract.py、llm_engine.py

2025-09-02 16:32:11 891

原创 大模型参数微调:源码逻辑+部署教程

LLaMa-Factory的LoRA微调采用模块化架构实现:首先解析配置参数(秩、alpha值等),加载基础模型后通过init_adapter函数动态注入LoRA层;该方法调用_setup_lora_tuning自动检测目标线性层(如q_proj/v_proj),创建LoraConfig并转换为PeftModel;训练阶段可选配优化增强技术(如LoRA+分层学习率),在监督微调(SFT)执行器中完成参数更新,全程支持PiSSA初始化、DeepSpeed集成和分布式训练,实现高效参数微调。

2025-08-29 10:35:58 811 2

原创 如何处理RAG老大难问题-PDF解析?

在RAG应用中,MinerU能够将复杂PDF文档转换为结构化数据,为大模型提供高质量的检索材料。例如,将学术论文中的公式、表格和图表提取为LaTeX、HTML和Markdown格式,便于大模型理解文档内容并生成高质量的回答;在Deep Research中需要处理大量复杂文档,提取关键信息并进行分析。MinerU能够自动识别文档中的多模态内容,包括文本、公式、表格和图片等,并将它们转换为机器可读的格式。

2025-08-21 17:11:59 1132

原创 DeepSeek-R1的推理延迟受什么决定?从硬件、任务复杂度两方面分析

大模型推理延迟主要受硬件和任务复杂度两方面影响。硬件方面,显存带宽是主要瓶颈(45%),其次是GPU计算性能(25%)和通信性能(20%)。任务复杂度方面,模型参数大小呈线性影响,Prompt长度带来平方级延迟增长,批处理大小则线性增加延迟但提升吞吐量。优化需权衡场景需求,如低延迟场景可压缩模型规模,高吞吐场景可增大批处理。MLA技术能显著降低KVCache显存占用达97%,有效缓解显存带宽压力。

2025-07-13 18:29:24 988

原创 大语言模型--显存爆炸?671B模型+128K Token,到底需要多少GPU显存?

LLM推理阶段的显存需求主要由三部分组成:模型权重、KV缓存和额外开销。以LLaMA-2-13B模型为例,FP16精度下26GB存储权重,10并发4096token场景下KV缓存约33.55GB,加上10%额外开销总计约65.5GB。不同规模模型显存需求差异显著,如671B模型在4k序列长度下需167.4GB。实际部署可通过分片加载、KV缓存压缩、量化等技术优化。训练阶段需求更大,13B模型训练需数百GB显存,必须采用多卡分布式方案。

2025-07-05 17:23:35 2228

原创 FPGA设计-逐行代码注释-利用IP核创建ROM-仿真图像分析

本文介绍了在Vivado2018.3环境中使用ROMIP核存储三角波数据并进行仿真的方法。通过配置256深度、8位位宽的ROMIP核,存储了256点的三角波数据(0-127-0),并编写测试文件验证数据读取。测试文件中设置了50MHz时钟,通过2560次循环(10个完整波形周期)遍历ROM地址,观测组合输出(dout)和寄存输出(dout_reg)的波形差异。仿真结果显示寄存输出比组合输出延迟一个时钟周期,且输出波形正确呈现三角波形态,验证了设计的正确性。

2025-06-07 11:52:20 906

原创 FPGA设计-逐行代码注释-FPGA芯片驱动数码管动态显示-仿真图像分析

顶层模块hex_top连接 VIO IP 核(提供 32 位显示数据disp_data)、显示控制模块hex8(将disp_data分解为 8 个 4 位 BCD 码,通过 1kHz 扫描时钟动态选通 8 位数码管并译码生成段选信号seg和位选信号sel)及 HC595 驱动模块hc595_driver(将{seg, sel}拼接为 16 位数据,通过分频时钟生成移位时钟sh_cp和存储时钟st_cp,串行输出数据至 HC595 芯片完成锁存);仿真模块hex8_tb验证hex8的位选和段选逻辑。

2025-06-02 16:34:50 1297

原创 FPGA设计-逐行代码注释-按键消抖设计并控制LED闪烁-仿真图像分析

所有模块协同实现 “按键触发→抖动模拟→消抖处理→LED 控制” 的完整流程:key_led_tb测试平台生成时钟、复位及按键触发信号(press0~press3),驱动key_model实例生成含抖动的按键信号(key_in0~key_in3);key_led模块通过key_filter对每个按键信号消抖,得到稳定的有效按键标志(key_filted0~key_filted3),并映射为 LED 的加、减、左移、右移控制指令;led_ctrl模块根据这些指令对 8 位 LED 寄存器进行加减或移位操作。

2025-05-31 15:31:10 1221

原创 FPGA设计-逐行代码注释-独立按键消抖设计-仿真图像分析

完整模拟了 “真实按键操作→抖动生成→消抖处理→稳定输出” 的全过程,具体如下:测试平台key_filter_tb生成时钟、复位和按键触发信号(key_press);按键模型key_model根据key_press生成含抖动的按键信号(key);消抖模块key_filter通过状态机和计数器过滤抖动,输出稳定的key_state和切换标志key_flag;测试平台观测key_flag和key_state,验证消抖是否成功(稳定状态应与按键模型的最终稳定态一致)。

2025-05-29 17:31:44 847

原创 FPGA设计-逐行代码注释-UART串口接收-仿真图像分析-含代码

对于串口接收模块,主要信号如下:data_byte_tx:先后置为0xaa(10101010)和0x55(01010101),触发两次发送测试数据。send_en:两次高电平脉冲(各 1 周期),同步触发0xaa/0x55发送uart_state:发送时置 “忙”(高电平),完成后回 “空闲”(低电平),体现状态机流程tx_done:每帧发送结束时置高,与uart_state下降沿同步,标志发送完成uart_tx_rx:环回信号遵循 UART 格式(起始位 0 + 数据位 LSB 先 + 停止位1

2025-05-29 10:38:31 776

原创 FPGA-串口发送模块-最详细解析-含代码

该模块是一个串口发送模块,实现字节数据到串口信号(起始位、数据位、停止位)的转换,核心逻辑如下:delay_cnt:延时计数器,用于控制发送间隔。send_en:发送使能信号,延时器计满后激活。baud_div_cnt:波特率分频计数器,生成位周期信号。bit_cnt:位计数器,跟踪当前发送位(起始位、数据位、停止位)。data_byte_reg:数据寄存器,暂存待发送字节。uart_tx:串口发送逻辑,根据bit_cnt输出对应位(起始位0、数据位、停止位1)。led:每发送完一个字节翻转一

2025-05-29 10:19:52 1008

原创 FPGA设计-多字节UART收发-零基础学FPGA

本文实现低速接口UART实现多字节收发,通过下面几个模块完成:顶层模块:通过实例化收发模块实现环回,参数统一控制数据格式,状态指示监控收发状态。发送模块:状态机驱动多字节拆分,按顺序逐字节发送,依赖底层模块实现串口物理层传输。接收模块:状态机管理多字节拼接,支持超时检测,按顺序组合单字节为完整数据。关键参数:DATA_WIDTH 决定数据位宽,MSB_FIRST 控制字节顺序,影响数据拼接 / 拆分逻辑。

2025-05-29 10:09:57 1798

原创 FPGA 时序逻辑:硬件电路的 “时间指挥官”--以LED 闪烁模块为例

时钟是 “指挥官”,边沿是 “发令枪”,寄存器是 “记忆体”,共同构成了硬件电路的 “时间管理系统”。从简单的 LED 闪烁到复杂的高速接口协议(如 DDR、PCIe),时序逻辑始终是底层设计的基石 —— 它让无序的硬件信号,变成了按秒、纳秒、皮秒精准运行的 “时间机器”。理解时序逻辑,就是理解 FPGA 如何在硬件层面实现 “同步协作” 与 “状态记忆”,这是从 “代码思维” 迈向 “硬件思维” 的关键一步。

2025-05-29 10:00:57 1113

原创 FPGA vs ASIC:芯片界的变形金刚与定制超跑?揭秘FPGA的LUT魔法!

并通过离散门电路实现;FPGA问世后,逻辑电路(包括MUX)可以通过LUT直接实现,LUT的本质是将真值表映射到。,它继承了真值表的逻辑设计思想,但通过可编程存储单元实现了更灵活、高效的逻辑实现方式。A、B、C各有0和1两种输入,因此A、B、C组合共有2的三次方=8种输入。当选择信号S=0时,输出Y=A;当S=1时,输出Y=B。方法2:将真值表映射到可编程存储单元中(FPGA思想)那么FPGA中的LUT是如何实现逻辑电路设计的呢?方法1:利用真值表并通过离散门电路。也就是说,FPGA的LUT本质上是。

2025-05-29 09:48:01 378

空空如也

空空如也

TA创建的收藏夹 TA关注的收藏夹

TA关注的人

提示
确定要删除当前文章?
取消 删除