ICL和FT

最新推荐文章于 2025-12-16 16:32:45 发布

原创最新推荐文章于 2025-12-16 16:32:45 发布 · 400 阅读

9 ·

CC 4.0 BY-SA版权

文章标签：

#深度学习 #人工智能

                    
                    Why Can GPT Learn In-Context?
https://arxiv.org/pdf/2212.10559.pdf

General-Purpose In-Context Learning by Meta-Learning Transformers
https://arxiv.org/abs/2212.04458

https://zhuanlan.zhihu.com/p/484999828

确定要放弃本次机会？

福利倒计时

: :

立减 ¥

普通VIP年卡可用

立即使用

银晗

关注关注

6
点赞
踩
9

收藏

觉得还不错? 一键收藏
0
评论
分享

复制链接

分享到 QQ

分享到新浪微博

扫一扫
举报

举报

LLMs之PE：大模型核心技术—提示工程(Prompt Engineering)—拿来即用—实战应用技巧案例集合(如PC/CoT/ToT/ReACT/ScP/PCTS等思想，Broke/RTRWCO-

头部AI社区如有邀博主AI主题演讲请私信—心比天高，仗剑走天涯，保持热爱，奔赴向梦想！低调，专注，谦虚，自律，反思，成长，还算比较正能量的博主，公益免费传播…内心特别想在AI界做出一些可以推进历史进程影响力的技术(兴趣使然，有点小情怀，也有点使命感呀

05-11

3210

引导推理方法。

RAG私域问答场景超级详细方案(第一期方案)[1]：工业级别构建私域问答（知识处理、知识召回排序、搜索问答模块）

丨汀、的博客

08-06

967

RAG私域问答场景整体夏详细方案(第一期方案)[1]：工业级别构建私域问答（知识处理、知识召回排序、搜索问答模块）

参与评论您还未登录，请先登录后发表或查看评论

LLMs之FT：《The Ultimate Guide to Fine-Tuning LLMs from Basics to Breakthroughs: An Exhaustive Review o

12-17

3842

LLMs：《The Ultimate Guide to Fine-Tuning LLMs from Basics to Breakthroughs: An Exhaustive Review of Technologies, Research, Best Practices, Applied Research Challenges and Opportunities》翻译与解读

小样本微调和上下文学习的公平比较和评估

yorkhunter的博客

06-29

1075

23年5月来自德国 Saarland University、英国剑桥大学、以色列Bar-Ilan University、美国西雅图的AI2和华盛顿大学的论文“Few-shot Fine-tuning vs. In-context Learning: A Fair Comparison and Evaluation“。

【ACL 2023-NER注入到PLM】数据集+实验解读：基于上下文学习的命名实体识别 Learning In-context Learning for Named Entity Recognitio

定期分享我的发现和想法，感谢你的陪伴和支持

03-21

7431

论文：Learning In-context Learning for Named Entity Recognition 标题：基于上下文学习的命名实体识别作者：Jiawei Chen, Yaojie Lu, Hongyu Lin, Jie Lou, Wei Jia, Dai Dai, Hua Wu, Boxi Cao, Xianpei Han and Le Sun 地址：[\[2305.11038\] Learning In-context Learning for Named Entity Recog

论文解读 | 低流行领域微调和RAG哪个更有效？

GentelAi的博客

04-17

1783

论文：Fine Tuning vs. Retrieval Augmented Generation for Less Popular Knowledge链接：https://arxiv.org/abs/2403.01432v5大语言模型（LLMs）记忆了大量的事实知识，在多样化的任务和领域中表现出强大的性能。然而，观察到当处理较少流行或低频概念时，这些模型的性能会下降。

Kaggle - LLM Science Exam(二）：Open Book QA&debertav3-large详解

qq_56591814的博客

10-07

3071

Kaggle - LLM Science Exam赛事是评测由GPT3.5根据维基百科文章生成的多选问答任务，本文介绍了Open Book Q&A方法，通过搜索与测试集问答相关的维基百科上下文，来提供更多信息，加强问答效果

大模型学习所有的文档和作业

weixin_48339493的博客

01-29

1110

可以支持多专家系统上手版本mkdir hf先到家的目录mkdir hf# 使用 `HuggingFaceCausalLM` 评估由 HuggingFace 的 `AutoModelForCausalLM` 支持的模型# OPT-350M# `HuggingFaceCausalLM` 的初始化参数# 下面是所有模型的共同参数，不特定于 HuggingFaceCausalLMabbr='opt350m', # 结果显示的模型缩写max_seq_len=2048, # 整个序列的最大长度。

大模型学习路线（4）——大模型微调

韩束一叶子

04-07

668

图1. 大模型微调技术分类一、微调分类章节一对从微调参数规模、训练流程、训练方式三个角度对微调进行不同的划分，然后对每一分类的每一微调方法进行说明。章节二以github上的Baichuan+LoRA微调源码为例，分析了LLM微调的关键代码。随着大模型的持续爆火，各行各业都在开发搭建属于自己企业的私有化大模型，那么势必会需要大量大模型人才，同时也会带来大批量的岗位？雷军曾说过：站在风口，猪都能飞起来”可以说现在大模型就是当下风口，是一个可以改变自身的机会，就看我们能不能抓住了。

LLMs之Text2SQL：《Next-Generation Database Interfaces: A Survey of LLM-based Text-to-SQL》翻译与解读

12-25

1671

LLMs之T2S：《Next-Generation Database Interfaces: A Survey of LLM-based Text-to-SQL》翻译与解读目录《Next-Generation Database Interfaces: A Survey of LLM-based Text-to-SQL》翻译与解读 Abstract 1、Introduction V Expectations期望《Next

单位阶跃函数用来起始一个函数ft的电路实现例图

06-04

- 函数发生器芯片（如ICL8038）生成$f(t)$ - **时序说明**：当阶跃信号$u(t)$从0跳变至$V_{\text{high}}$时，模拟开关导通，函数发生器开始输出$f(t)$[^2] #### 3. 示例电路图（文字描述） ``` [阶跃信号...

在pycharm pip install opencv-python 报错如下： Collecting opencv-python Using cached opencv_python-4.12.0.88-cp37-abi3-win_amd64.whl.metadata (19 kB) Collecting numpy<2.3.0,>=2 (from opencv-python) Using cached numpy-2.2.6.tar.gz (20.3 MB) Installing build dependencies ... done Getting requirements to build wheel ... done Installing backend dependencies ... done Preparing metadata (pyproject.toml) ... error error: subprocess-exited-with-error × Preparing metadata (pyproject.toml) did not run successfully. │ exit code: 1 ╰─> [21 lines of output] + C:\Users\Administrator\PycharmProjects\PythonProject\.venv\Scripts\python.exe C:\Users\Administrator\AppData\Local\Temp\pip-install-70bau3hh\numpy_686e3ae95be442ccbb8b0764fc2ba561\vendored-meson\meson\meson.py setup C:\Users\Administrator\AppData\Local\Temp\pip-install-70bau3hh\numpy_686e3ae95be442ccbb8b0764fc2ba561 C:\Users\Administrator\AppData\Local\Temp\pip-install-70bau3hh\numpy_686e3ae95be442ccbb8b0764fc2ba561\.mesonpy-8cn484ft -Dbuildtype=release -Db_ndebug=if-release -Db_vscrt=md --native-file=C:\Users\Administrator\AppData\Local\Temp\pip-install-70bau3hh\numpy_686e3ae95be442ccbb8b0764fc2ba561\.mesonpy-8cn484ft\meson-python-native-file.ini The Meson build system Version: 1.5.2 Source dir: C:\Users\Administrator\AppData\Local\Temp\pip-install-70bau3hh\numpy_686e3ae95be442ccbb8b0764fc2ba561 Build dir: C:\Users\Administrator\AppData\Local\Temp\pip-install-70bau3hh\numpy_686e3ae95be442ccbb8b0764fc2ba561\.mesonpy-8cn484ft Build type: native build Project name: NumPy Project version: 2.2.6 WARNING: Failed to activate VS environment: Could not find C:\Program Files (x86)\Microsoft Visual Studio\Installer\vswhere.exe ..\meson.build:1:0: ERROR: Unknown compiler(s): [['icl'], ['cl'], ['cc'], ['gcc'], ['clang'], ['clang-cl'], ['pgcc']] The following exception(s) were encountered: Running `icl ""` gave "[WinError 2] 系统找不到指定的文件。" Running `cl /?` gave "[WinError 2] 系统找不到指定的文件。" Running `cc --version` gave "[WinError 2] 系统找不到指定的文件。" Running `gcc --version` gave "[WinError 2] 系统找不到指定的文件。" Running `clang --version` gave "[WinError 2] 系统找不到指定的文件。" Running `clang-cl /?` gave "[WinError 2] 系统找不到指定的文件。" Running `pgcc --version` gave "[WinError 2] 系统找不到指定的文件。" A full log can be found at C:\Users\Administrator\AppData\Local\Temp\pip-install-70bau3hh\numpy_686e3ae95be442ccbb8b0764fc2ba561\.mesonpy-8cn484ft\meson-logs\meson-log.txt [end of output] note: This error originates from a subprocess, and is likely not a problem with pip. error: metadata-generation-failed × Encountered error while generating package metadata. ╰─> numpy note: This is an issue with the package mentioned above, not pip. hint: See above for details. 如何解决这个问题。

最新发布

12-17

我们面对的问题是：在PyCharm中使用pip安装opencv-python时，出现numpy元数据生成失败的错误，提示找不到编译器（如icl, cl, cc, gcc, clang, clang-cl, pgcc等）。这通常是因为安装opencv-python时需要构建一些C/...

【论文阅读】UniLog: Automatic Logging via LLM and In-Context Learning

lrzHHl的博客

03-28

1768

**问题** * 许多自动日志工具被设计用来帮助开发人员完成日志任务之一。这些工具在某些情况下很有用，但通常不能提供全面的日志解决方案。 * 尽管最近的研究已经开始探索端到端日志，但它仍然在很大程度上受到微调的高成本的限制，阻碍了它在软件开发中的实际用途。 **创新点** * UniLog是一个基于大型语言模型(llm)的上下文学习(ICL)范式的自动日志框架。 * UniLog可以生成一个适当的日志记录语句，该语句只包含一个提示符，其中包含五个演示示例，而不需要任何模型调优。 * UniLog在预热后只

【文献阅读】DP-Site：一种基于双重深度学习的蛋白质-肽相互作用位点预测方法

weixin_42038527的博客

12-16

675

研究团队开发了一款名为DP-Site的AI工具，仅需分析蛋白质的氨基酸序列（“设计图”），就能精准锁定小分子药物的潜在“靶点”。DP-Site的核心创新在于其 “双专家会诊”模式。一位是“图像专家”，擅长分析序列的局部结构特征；另一位是“语义专家”，擅长理解序列的全局上下文信息。两者协同工作，使其预测综合性能（F1分数）达到0.661，超越此前所有方法。

【CNN与卷积神经网络（吴恩达）】卷积神经网络学习笔记

qq_62361050的博客

12-12

1047

池化层类似卷积运算，在这里举一个最大池化的例子，即在一个4x4的图像中采用一个2x2的核，这个《核》只是对对应区域进行取最大值计算，以步长为2进行移动计算，在每次计算中取区域中的最大值，这样就可以提取出图像中的最显著的特征。以下是对于三维卷积中一些尺寸数据的描述，和二维卷积相似，只不过在n x n后面新加了一个尺寸数据nc，这个nc即表示图像的通道数，剩余对于输出图像的尺寸的计算公式和二维卷积下的一模一样。这种卷积下的卷积核和二维卷积是一样的，只不过由于有三个图像矩阵，所以应该对应有三层卷积核，即。

基于深度学习的肾结石检测系统演示与介绍(YOLOv12/v11/v8/v5模型+Pyqt5界面+训练代码+数据集)

ningfoshao8678的博客

12-16

686

本文介绍了基于YOLO目标检测算法开发的肾结石检测系统。该系统支持图片、视频、文件夹批量及摄像头实时检测，包含用户登录、多模型切换等功能。技术栈采用Python3.10、PyQt5和SQLite，对比了YOLOv5/v8/v11/v12四种模型性能，其中YOLO12n精度最高(mAP40.6%)，YOLO11n速度最快(56.1ms)。系统在17000张肾脏影像数据集上训练，mAP@0.5达90%，F1值0.86，能有效识别肾结石位置并显示置信度。

深度学习理论与实战：反向传播、参数初始化与优化算法全解析

2501_92613722的博客

12-16

767

深度学习训练核心闭环：精准算梯度、合理初始化参数、高效更参数反向传播：链式求导为基，从损失反向回溯算梯度，附 Sigmoid 实例参数初始化：讲手动 / 经典方法，Module 初始化技巧与核心原则、选择优化算法：SGD 为基，动量法 / Adagrad/RMSProp/Adadelta/Adam 解析与对比核心总结：反向传播、初始化、优化算法要点及训练细节

深度学习中 z-score 标准化理解

musk1212的博客

12-11

1143

摘要： z-score标准化是深度学习中关键的数据预处理方法，通过将数据转换为均值为0、标准差为1的分布，有效提升模型训练效率并消除特征量纲差异。其核心公式为z=(x-μ)/σ，适用于加速收敛、平衡多特征权重及异常值检测等场景。与Min-Max归一化相比，z-score对异常值更鲁棒，是神经网络训练的首选方法。需注意避免数据泄露问题（测试集必须使用训练集的μ和σ），并处理标准差为0的特殊情况。批量归一化(BatchNorm)是z-score的动态扩展版本。

基于深度学习的网络流量异常检测系统

XiaoMu_001的博客

12-11

988

本项目旨在构建一个基于深度学习的高效网络流量异常检测系统。系统采用 **B/S 架构**，前后端分离设计。后端基于 **Django** 框架，前端采用 **Vue 3** + **Element Plus**。核心检测引擎利用 **PyTorch** 构建深度学习模型（MLP 和 1D-CNN），能够对网络流量数据进行实时或离线分析，精准识别良性流量及多种类型的网络攻击（如 DoS, PortScan, Web Attack 等）

LM35和ICL7107制作的温度传感器

资源摘要信息:"LM35和ICL7107温度传感器项目" 本文将详细探讨标题中提及的温度传感器项目，它涉及到LM35温度传感器和ICL7107模拟数字转换器（ADC）的使用。LM35是一种广泛使用的精密温度传感器，能够提供与其温度成...