- 博客(155)
- 收藏
- 关注
RSS订阅原创 终于有人把多模态大模型讲这么详细了
多模态大型语言模型（Multimodal Large Language Models， MLLM）的出现是建立在大型语言模型（Large Language Models， LLM）和大型视觉模型（Large Vision Models， LVM）领域不断突破的基础上的。这里给大家总结了多模态大模型的结构，训练，评估方法以及幻觉问题的解决办法，通俗易懂！！
2025-06-05 00:09:22
799
原创 已成功入职华为，总结精选50个大模型高频面试题（附答案）
今天我给大家分享一下我整理的**《精选50个大模型高频面试题》** 大模型面试专题和答案，其中大部分都是面试常问的面试题，可以对照这查漏补缺奥！祝大家早日上岸呀！1.简述 GPT和 BERT的区别2.讲一下 GPT 系列模型的是如何演进的3.为什么现在的大模型大多是 decoder-only的架构4.讲一下生成式语言模型的工作机理5.哪些因素会导致 LLM 中的偏见6.LLM 中的因果语言建模与掩码语言建模有什么区别7.如何减轻 LLM 中的“幻觉”现象。
2025-06-04 23:57:18
844
原创 大模型加速微调和训练，不得不掌握的方法，代码解析和应用示例
通过本文可以了解：LoRA模型加速原理、peft包使用、Autocust自动混合精度、Accelerate和deepspeed加速、多GPU分布式训练等大模型加速训练和微调的方法和代码应用示例。近期大模型层出不穷，大家对于大模型的微调也在跃跃欲试，像斯坦福的[1], 清华的[2]，中文的[3]，让我这样的普通玩家也能训练自己的微调模型。在微调和推理的时候仍然需要加速，有哪些方法可以加速微调呢？
2025-06-04 23:44:05
662
原创 优云智算：借助强大镜像社区，开启AI算力新纪元！
在当今数字化时代，云计算已成为推动企业创新与发展的强大动力。它以其卓越的成本效益，为企业节省了大量硬件投资与运维成本，让资源按需分配、灵活伸缩，完美契合业务的动态需求。其高度可靠的基础设施和先进的容错机制，确保了服务的持续可用性，让企业的数据安全无忧。同时，云计算的高效部署与自动化管理，极大地提升了工作效率，让企业能够快速响应市场变化，加速数字化转型的步伐。此外，云计算平台提供的丰富应用与服务，如人工智能、大数据分析等，为企业提供了强大的技术支持，助力企业在全球范围内拓展业务，实现高效服务。
2025-06-04 23:31:07
772
原创 『保姆级』大模型教程来了（从入门到实战）
2023年大西洋彼岸的OpenAi公司，AI大模型，正在构建的颠覆力，为了更好的入局AI大模型，，包含??压缩技术中，为什么量化要优于剪枝、蒸馏？??如何搜索裁剪阈值用于裁剪outlier？??包含有异常值outlier的特征如何量化？??模型剪枝的技术背景??模型剪枝具体方法??模型剪枝前沿方法??语言模型剪枝实例??AI作画–以文生图??扩散模型是什么??扩散模型工作拓展??扩散模型带来的机遇??RLHF的优点和挑战??RLHF如何改善大模型性能??RLHF的实际应用案例??
2025-06-04 23:06:10
777
原创 GPU选型大对决：4090、A6000、L40谁才是AI推理的最佳拍档？
***然而，因其显存存在限制，在高并发时的表现逊于A6000 与 L40。吞吐量是衡量GPU处理能力的关键指标，它代表着GPU每秒能处理的Token数量，数值越高，处理速度就越快，就像工厂里效率超高的生产线。，即使在300并发的“大场面”下，仍能保持流畅，就像一家服务周到的高级餐厅，无论多忙都能及时响应顾客需求。，在总吞吐量和平均吞吐量上，呈现出L40 设备性能最优，A6000 设备次之，4090 设备相对较弱。，可在高并发的压力下，还是会出现波动，就像餐厅偶尔会出现上菜不及时的情况。
2025-06-04 22:52:21
577
原创 AI大模型ms-swift框架实战指南（一）：框架基础篇之全景概览
swift框架，全称为Scalable lightWeight Infrastructure for Fine - Tuning，由魔搭社区精心打造。魔搭社区在人工智能领域积累深厚，开发swift框架旨在解决传统大模型开发中的效率和资源管理难题。其研发团队汇聚了人工智能领域的专家，经过大量调研、实验和优化，推出了这款集高效、灵活、轻量于一体的综合性工具集，整合了大模型开发从数据处理到部署的全流程功能。在本篇章中，我们全面认识了swift框架。
2025-06-04 22:35:01
546
原创 Springboot实战：AI大模型+亮数据代理助力短视频时代
采集视频素材短视频已成为当下最受欢迎的内容形式之一，无论是个人创作者还是企业品牌，都在积极拥抱这一趋势。然而，短视频的制作不仅需要创意和技巧，还需要大量的高质量素材作为支撑。本文将探讨如何利用现代技术手段Springboot集成AI大模型技术，结合亮数据代理服务，自动化地获取和处理短视频素材，以提高制作效率和视频质量。
2025-03-21 23:53:06
733
原创 Spring Integration + MQTT
Spring Integration是一个开源的Java库，用于构建基于消息的应用程序。它提供了一套丰富的组件和工具，使得开发者可以轻松地开发出可靠、灵活和可扩展的集成解决方案。企业服务总线（ESB）： Spring Integration可以用来构建企业服务总线，它支持各种协议和消息格式，使得不同系统间的数据和事件可以轻松交换。消息传递和解耦： 它支持在不同的应用程序组件之间进行异步消息传递，从而降低系统组件间的耦合度。事件驱动架构。
2025-03-10 22:42:36
1068
原创 Rust 错误处理（下）
让我们使用 Rust 类型系统的思想来进一步确保值的有效性，并尝试创建一个自定义类型以进行验证。回忆一下第二章的猜猜看游戏，我们的代码要求用户猜测一个 1 到 100 之间的数字，在将其与秘密数字做比较之前我们从未验证用户的猜测是位于这两个数字之间的，我们只验证它是否为正。在这种情况下，其影响并不是很严重：“Too high” 或 “Too low” 的输出仍然是正确的。但是这是一个很好的引导用户得出有效猜测的辅助，例如当用户猜测一个超出范围的数字或者输入字母时采取不同的行为。一种实现方式是将猜测解析成。
2025-03-10 16:42:51
970
原创 PostgreSQL17(最新版)安装部署
Postgres作为最先进的开源数据库（the latest version of the world’s most advanced open source database.**），**2024年7月，Stackoverflow 2024年度调查报告发布，超过6万名数据库开发人员参与了Stackoverflow年度数据库使用调查。报告显示，有48.7%的开发者正在使用PostgreSQL，并连续第二年成为最受欢迎的数据库。
2025-03-10 11:56:35
1151
原创 MYSQL_安装与配置（超详细，仅需一篇就能帮你成功安装MYSQL）
MySQL安装成功后，如果想修改默认配置，如修改端号，数据录位置，默认使的存储引 擎，默认字符编码集和排序规则，志路径等等，可以通过编辑选项件实现，在初阶我们只讨论在 Windows系统下如何修改选项件，Linux系统中的操作在进阶中详细介绍。如果重新指定数据录路径，把C:ProgramDataMySQLMySQLServer8.0Data录整体复 制到标位置。8.0.X中的X是版本号，每发布个版本就会累加次，选最新即可。下载的过程中需要登录，如果没有Oracle的账，注册个即可。
2025-03-05 18:21:37
809
原创 linux centos8 安装redis 卸载redis
（示例 ：wget：https://download.redis.io/releases/redis-6.0.9.tar.gz）netstat -ntulp |grep 6379 //查看所有6379端口使用情况·–add-port=6379/tcp #添加端口，格式为：端口/通讯协议。1.查询redis进程：ps -ef |grep redis（如下图）netstat -ntlp //查看当前所有tcp端口·成功的干掉了redis这时候开始重启。好了到了这里基本上就是成功了。–zone #作用域。
2025-03-05 16:58:02
1241
原创 Java进阶08 集合（续）&Stream流
List派系集合中，ArrayList集合首选；Set集合中，HashSet集合用的最多！集合元素可重复→→→选择ArrayList集合（用的最多）集合元素可重复，且增删操作多于查询→→→选择LinkedList对集合元素去重→→→选择HashSet集合（用的最多）对集合元素去重，且保证存取顺序→→→选择效率低于HashSet对集合元素进行排序→→→选择TreeSet，后续也可以用List集合实现排序三类Map集合（TreeMap、HashMap、LinkedHashMap都实现了Map接口）
2025-03-05 15:01:28
853
原创 Flask项目部署到阿里云服务器（全网最清晰简单完整部署），linux命令和脚本文件 nginx安装到服务器等每一步清晰记录
激活后，命令行提示符前会显示虚拟环境的名字（my_venv）,这表明当前正处于此虚拟环境中运行命令，此时安装的Python包将只在这个环境中生效，不会影响全局Python环境。在部署flask项目时候，因为flask是一个轻量级的Python Web框架，其本身并不包含一个成熟的Web服务器组件，而是依赖于内置的简易服务器（werkzeug）这段配置是告诉Nginx监听公网端口80，并将所有到此服务器的请求转发到本地端口8080（是你的python项目本地运行的端口）。优先级默认：默认（1）；
2025-03-05 00:30:12
495
原创 2024 年最新 windows 操作系统搭建部署 nginx 服务器应用详细教程（更新中）
Nginx 是一款高性能的 HTTP 和 反向代理 服务器，同时是一个 IMAP / POP3 / SMTP 代理服务器。Nginx 凭借其高性能、稳定性、丰富的功能集、简单的配置和低资源消耗而闻名。Nginx 应用场景静态文件服务：Nginx 可以高效地处理大量的静态文件请求，例如 HTML、CSS、JavaScript、图片等。反向代理：将客户端的请求转发到后端的Web服务器，实现负载均衡和请求过滤。API 网关：作为 API 的入口点，处理 API 请求的路由、认证、限流等。
2025-03-04 22:12:06
532
原创 10个常见的Java面试问题及其答案
*答案：**反射API是Java提供的一组用于检查和修改类、接口、字段和方法的信息的API。**答案：**泛型是Java SE 5.0引入的一个新特性，它允许在定义类、接口和方法时使用类型参数。**答案：**Java集合框架提供了一套性能优化的、可灵活扩展的、以及协同操作的接口和类，用于组织和管理对象。**答案：**Java的垃圾回收机制是自动管理不再使用的对象的内存的过程。**答案：**Java的主要特性包括面向对象、平台无关、自动内存管理、安全性、多线程支持、丰富的API和强大的社区支持。
2025-03-03 17:35:18
497
原创 简单爬虫：东方财富网股票数据爬取(20231230)
可以看到返回的文件中，data后为null，因此，在每个板块循环爬取时，只要碰到页码的返回文件中data的内容为null时，则停止爬取当前板块。同时由于返回文件中，data后的内容是以null变量的形式展示的，我们需要定义一个变量null，否则会出现报错NameError: name ‘null’ is not defined。查看网页源代码发现并没有目标数据，因此需要对网页进行抓包分析，查看哪个文件里包含目标数据，打开开发者模式（F12），找到目标文件。首先查看url，获取沪京深A股的第一页数据。
2025-03-03 10:32:33
1117
原创 开源AI网络爬虫工具Crawl4AI
Crawl4AI是一款开源的网络爬虫框架，旨在利用人工智能技术，从互联网上自动抓取并分析数据。它不仅能处理常规的网页信息提取，还能智能识别和分类信息，为数据分析、机器学习等应用场景提供便利。网址：https://github.com/unclecode/crawl4aiCrawl4AI作为一款开源的AI网络爬虫工具，以其智能化、高度扩展性和用户友好性，为数据抓取和分析提供了强大的支持。
2025-03-02 21:23:10
1886
原创 在21世纪的我用C语言探寻世界本质——字符函数和字符串函数(2)
（9）现在我们就来看进行一次匹配的过程，也很简单，我们还是创建一个while循环，如果s1和s2解引用不是 ，并且解引用后相等，那我们就让s1和s2加加，一直往后走，当循环结束时，我们就判断s2解引用后是否是 ，如果是说明完全匹配上了，就返回cp，不是那么说明没有完全匹配，就让cp++，开始下一次循环查找。而不带n的字符串函数和带n的字符串函数的根本区别是带n的字符串函数更灵活，可以指定拷贝的字符的个数，所以也叫带n的字符串函数为受限制的字符串函数，不带n的为不受限制的字符串函数。
2025-03-02 20:04:11
1095
原创 【Tomcat】
tree -L 1├── bin # 包含了Tomcat服务器的可执行文件，如启动和关闭脚本、管理脚本等。├── BUILDING.txt # 包含了关于如何构建Tomcat服务器的说明文档。├── conf # 包含了Tomcat服务器的配置文件，如服务器配置、日志配置、Web应用程序配置等。├── CONTRIBUTING.md # 包含了关于如何向Tomcat项目贡献代码的说明文档。├── lib # 包含了Tomcat服务器运行所需的Java类库文件。
2025-03-01 14:35:26
1492
原创 【Spring Security系列】Spring Security整合JWT：构建安全的Web应用
在企业级开发或者我们自己的课程设计中，确保用户数据的安全性和访问控制非常重要。而Spring Security和JWT是都两个强大的工具，它俩结合可以帮助我们实现这一目标。Spring Security提供了全面的安全功能，而JWT则是一种用于身份验证的令牌机制。前面两个章节介绍过了Spring Security，这里就不再赘述了！！！JWT是一种轻量级的身份验证和授权机制，通过发送包含用户信息的加密令牌来实现身份验证。这个工具我们在前面的文章中也提起过。
2025-02-28 23:59:57
597
原创 Tomcat下载，安装，配置终极版（2024）
那么本章内容就到此结束了，如果你不想去官网下载，那我这里也给你提供了Tomcat的安装包。里面是10.20的版本，供你下载。Thank you！链接：https://pan.baidu.com/s/1n8bjvHEFa0ZsX_04k3HX9Apwd=vryp提取码：vryp。
2025-02-28 13:19:49
1170
原创 SpringSecurity+jwt实现权限认证功能
前面我们已经通过使用springboot框架获得了管理数据的基本能力，但是一个系统不和或缺的功能是安全登录。这里我们以springsecurity+jwt方案实现登录以及权限控制。本文对jwt登录校验，权限管理的原理简单描述，并且提供了实现方案。
2025-02-28 11:39:14
405
原创 springboot下使用druid-spring-boot-starter
Druid声称是Java语言中最好的数据库连接池，Druid能够提供强大的监控和扩展功能。spring boot starter自动装配组件，简化组件引入的开发工作量，所以Druid推出了druid-spring-boot-starter。
2025-02-28 09:55:23
854
原创 Spring Boot的项目结构
合理的项目结构不仅能够提高代码的可读性和可维护性，还能够帮助团队成员更好地协作。特别是在大型项目中，良好的项目结构设计能够有效降低代码的耦合度，提高系统的可扩展性。此外，合适的测试结构和构建配置也是保证项目质量的重要因素。Spring Boot项目结构遵循Maven或Gradle的标准目录结构，同时融入了Spring Boot的特定约定。良好的项目结构不仅有助于代码组织，还能提高开发效率和项目可维护性。了解Spring Boot的项目结构对于开发高质量的应用至关重要。
2025-02-27 13:13:21
1033
原创 redis安装与部署
将下载好的 redis-6.2.7.tar.gz 安装包上传到虚拟机的任意目录（一般推荐上传到 /usr/local/src目录）。如果是前台启动的话，如果关闭当前会话，则Redis服务也随即关闭，因此这种方式不推荐使用。redis-sentinel：它是 redis 提供的哨兵启动脚本。redis-check-dump：修复有问题的dump.rdb文件。redis-server：它是 redis 的服务端启动脚本。redis-cli：它是 redis 提供的客户端启动脚本。如果没有出错，就会安装成功。
2025-02-27 11:51:58
307
原创 OpenResty & Nginx：详细对比与部署指南
Nginx 和 OpenResty 都是高性能的 Web 服务器和反向代理服务器，但它们有着不同的特性和应用场景。Nginx 是一个轻量级的、高性能的 HTTP 和反向代理服务器，而 OpenResty 是基于 Nginx 的集成软件平台，增强了 Nginx 的功能，特别是通过嵌入 Lua 脚本支持来实现灵活的 Web 应用开发。Nginx 和 OpenResty 都是强大的 Web 服务器，各有其优点和适用场景。
2025-02-27 10:27:41
951
原创 Nginx 上安装 SSL 证书并启用 HTTPS 访问
通过 Certbot 和 Nginx 配置 HTTPS 可以显著提高网站的安全性，并且 Let’s Encrypt 提供的免费证书使配置过程简单高效。按以上步骤设置后，你的站点将支持 HTTPS 安全访问，提升用户数据传输的安全性。同时，通过信任自签名证书或使用 SSH 协议，Git 客户端可以顺利地克隆和拉取代码。
2025-02-26 02:58:21
1019
原创 MySQL中存储过程（详解，一篇就够了！！！）
mysql> delimiter $$ #将语句的结束符号从分号;临时改为两个$$(可以是自定义)-> BEGIN-> END$$#将语句的结束符号恢复为分号以上代码：默认情况下，存储过程和默认数据库相关联，如果想指定存储过程创建在某个特定的数据库下，那么在过程名前面加数据库名做前缀。在定义过程时，使用DELIMITER命令将语句的结束符号从分号;临时改为两个命令将语句的结束符号从分号;临时改为两个命令将语句的结束符号从分号;临时改为两个。
2025-02-26 01:37:25
341
原创 LLM驱动的NL2SQL方法论：现状、难点、优化
简言之，Natural Language to SQL (NL2SQL) 是指将用户的自然语句转为可以执行的 SQL 语句。综合考虑上述Prompt策略，以及经过大量的实践，我们可以总结一套比较通用的NL2SQL的Prompt方案。指令（Instruction）：比如，“你是一个SQL生成专家。请参考如下的表格结构，直接输出SQL语句，不要多余的解释。数据结构（Table Schema）：类似于语言翻译中的“词汇表”。
2025-02-26 00:17:10
942
原创 java面试题之equals和==的区别
然而在第二种情况下执行String s2=new String(“song”)的时候,要记住每new一次就会出现一个新的对象,所以这种情况是直接在堆内存中开辟了一块新的空间去储存"song",所以此时s1和s2的地址值是不一样的,自然==的结果就为false。在编译String s2=“song"的时候常量池中已经有了"song"的地址值,所以让s2直接指向常量池中的"song”，这样s1和s2的地址值都是常量池中"song"的地址值,所以通过双等号的运算结果是true。
2025-02-25 22:16:23
384
原创 Java进阶-SpringCloud设计模式-工厂模式的设计与详解
工厂模式定义了一个用于创建对象的接口，让子类决定实例化哪一个类。工厂方法使一个类的实例化延迟到其子类。工厂模式主要有三种类型：简单工厂模式、工厂方法模式和抽象工厂模式。
2025-02-25 14:23:15
414
原创 DeepSeek API 调用 - Spring Boot 实现
Spring Boot 实现提供了一个健壮、可扩展的 DeepSeek API 调用方案，利用响应式编程提供高效的流式对话体验。
2025-02-24 16:59:39
215
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人