- 博客(9)
- 收藏
- 关注
原创 深度学习 :基础与概念 (第一章注解)
本文阐述了深度学习中的关键概念与方法。首先解释了自监督学习的机制,通过自动生成训练对来训练模型,无需人工标注。接着介绍了自回归语言模型的生成原理及其对话交互的实现方式。在模型优化方面,讨论了平方和误差函数的解析解和正则化技术(包括收缩方法和权重衰减),强调正则化系数λ作为超参数需独立设定。最后指出数据集应划分为训练集、验证集和测试集,以防止模型过拟合。这些技术共同构成了现代深度学习的基础框架。
2025-06-17 00:15:45
611
原创 书生大模型 -XTuner 微调个人小助手认知任务
在 XTuner 中提供了一键合并的命令 xtuner convert merge,在使用前我们需要准备好三个路径,包括原模型的路径、训练好的 Adapter 层的(模型格式转换后的)路径以及最终保存的路径。微调完成后,我们可以再次运行 xtuner_streamlit_demo.py 脚本来观察微调后的对话效果,不过在运行之前,我们需要将脚本中的模型路径修改为微调后的模型的路径。assistant_Tuner_change.jsonl 是修改后符合 XTuner 格式的训练数据。
2024-11-15 22:27:30
627
原创 书生大模型实战营--浦语提示词工程实践
提示工程是一种通过设计和调整输入(Prompts)来改善模型性能或控制其输出结果的技术。在模型回复的过程中,首先获取用户输入的文本,然后处理文本特征并根据输入文本特征预测之后的文本,原理为next token prediction。
2024-10-30 21:48:46
670
原创 书生大模型实战营第4期系列课程-第一关核心知识
linux中链接分为两种 : 硬链接(hard link)与软链接(symbolic link),硬链接的意思是一个档案可以有多个名称,而软链接的方式则是产生一个特殊的档案,该档案的内容是指向另一个档案的位置。在实际的 web_demo 模型部署实践中,我们可以利用端口映射将开发机中的服务端口(例如 Web UI 端口)映射到本地,这样既避免了代理问题,又确保了资源能够完整加载,提升了开发和调试的便利性。端口映射是一种网络技术,可以将外部网络的请求通过指定端口转发到内部网络的设备或应用上。
2024-10-26 17:22:17
1031
原创 conda 的一些操作
创建虚拟环境,在开发过程中,很多时候不同的项目会需要用到不同版本的包,甚至是不同版本的Python,使用虚拟环境可以轻松解决这些问题。在虚拟环境中,“pip install”命令只会安装需要安装的那个包本身,而“conda install”命令除了会安装需要安装的包,还会自动安装这个包的依赖项。当前环境输入 python文件存放的路径后,可以直接运行Python文件,或者在命令行窗口输入“python”命令进入交互模式。如查看python版本后,创建一个名为“NLP”的虚拟环境,并指定版本号。
2022-10-21 23:38:37
957
原创 Python数据分析项目 matplotlib & seaborn总结
本文是数据科学与人工智能综合项目训练营python数据分析项目关于Matplotlib和Seaborn的个人总结。有些语法没写以节约空间,希望对大家有帮助。Matplotlib介绍Matplotlib主要绘图函数及参数:Seaborn介绍:Seaborn主要绘图函数及参数:项目流程(续)Matplotlib介绍Matplotlib是基于 Python 的图表绘图库,主要用于绘制2D图形,也可以绘制3D图形,操作简单,以渐进、交互方式实现数据可视化,对图像元素控制力强,可输出PNG、PDF、SVG和E
2022-08-09 00:28:26
1079
1
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人