
人工智能
文章平均质量分 84
记录一些人工智能有趣的事儿
梦星辰.
本科北航数学专业应用数学方向,硕士北航计算机专业人工智能方向
展开
-
奖励模型 Reward Models介绍
通常可以使用与 LLM 相同的模型架构,例如,Transformer。传统的 LLM 训练方法,例如,最大似然估计 (MLE),通常是基于大量文本数据进行训练,目标是最大化模型生成训练数据的概率。Reward Model 的目标是解决这些问题,通过学习人类的偏好和价值观,为 LLM 的训练提供更有效的指导信号。使用收集到的数据和定义的训练目标,训练 Reward Model。可以使用标准的优化算法,例如,Adam。这个奖励分数可以用来指导 LLM 的训练,使其生成更符合人类偏好、更安全、更有帮助的文本。原创 2025-02-27 17:25:08 · 708 阅读 · 0 评论 -
论文阅读:《Whole-animal connectomes of both Caenorhabditis elegans sexes》
这项研究首次完整地绘制了秀丽隐杆线虫(C. elegans)的雄性和雌雄同体的全动物连接组,为我们提供了该模式生物两种性别所有神经元及突触连接的详细图谱。研究人员利用连续切片电子显微镜技术对雄性和雌雄同体线虫进行了高分辨率扫描,并结合人工注释和三维重建技术,精确地追踪了神经元的结构和连接。通过比较不同性别连接组,研究揭示了两者神经回路的相似之处和性别特异性差异,尤其在与交配相关的神经回路中发现了显著的差异。此外,研究还在雄性线虫中发现了先前未知的神经元类型和连接模式。原创 2025-01-12 23:33:46 · 1289 阅读 · 0 评论 -
大型模型Transformer提示词类型
系统提示词定义了模型的整体行为和输出风格,是模型运行的基础。用户提示词是用户提出的具体问题或请求,直接决定了模型此次交互的主题。助理提示词则是模型依据前两者生成的回答,体现了模型的理解能力和表达能力。通过合理配置这三类提示词,可以有效地指导大型语言模型产生更加准确、有用且符合预期的结果。在实际应用中,系统提示词往往由开发团队精心设计,而用户提示词则来自终端用户的即时输入,助理提示词则是模型基于这些输入自动生成的输出。原创 2025-01-08 15:13:53 · 655 阅读 · 0 评论 -
transformers蒸馏版本对话小模型
【代码】transformers蒸馏版本对话小模型。原创 2025-01-07 20:56:03 · 787 阅读 · 0 评论 -
大型模型transformers加载与使用
可以看到,其实参数规模为1.3B的模型还是挺傻的,要正常进行对话估计参数规模得10B上下,此时常规消费级显卡的显存肯定不够用了。确保你已经从 Hugging Face 下载了必要的文件,并将它们放在本地的。变量设置为你下载模型文件的文件夹路径。基本配置:RTX 4060(8GB),推理过程最高显存占用为3GB。作为参数,从本地文件夹加载模型,并配置 FP16。作为参数,从本地文件夹加载 tokenizer。其他代码部分与之前的示例相同,用于推理和生成文本。文件夹中(或你指定的路径)。原创 2025-01-07 18:55:12 · 1504 阅读 · 0 评论 -
秀丽隐杆线虫的基础认识
秀丽隐杆线虫(Caenorhabditis elegans,)是一种非寄生性线虫,以大肠杆菌等微生物为食,,主要分布在温带地区的土壤中。秀丽隐杆线虫有和两种性别,在自然条件下,雌雄同体占大多数,可自体受精,也可接受雄虫的精子产生后代。自20世纪60年代,悉尼·布伦纳利用线虫研究细胞凋亡遗传调控的机制之后,秀丽隐杆线虫逐渐成为分子生物学和发育生物学研究领域中最常用的之一。原创 2024-10-18 15:36:59 · 3279 阅读 · 0 评论 -
论文阅读:基于生物神经元的模拟游戏世界感知与学习
合成生物智能SBI(Synthetic Biological Intelligence):合成生物学与人工智能交叉领域,是未来脑科学发展一个可能大热的风口,这篇论文属于SBI领域。生物神经网络BNN(Biological Neuronal Network):生物神经网络基于动物神经元发展,人工神经网络基于神经元数学模型发展,两者原理上存在较大差异。体内生物智能和体外生物智能。像脑机接口等等更多像体内生物智能,生物神经网络主要存活在生物体内;原创 2024-07-30 20:55:41 · 952 阅读 · 1 评论 -
人类交互5 大脑信号编码与解码
当光线通过镜头进入相机时,它会落在上,然后感光元件将光信号转换为电信号。每个像素在传感器上对应一个光敏元件,根据光线的强弱产生不同电压信号。:得到的电信号是模拟信号,需要经过转换为数字信号。模数转换器将模拟电压转换为数字数据,表示每个像素的亮度级别。:数字信号经过图像处理器处理,包括去噪、色彩校正、对比度调整等。然后,图像被为特定格式,如JPEG、PNG等。编码过程包括压缩图像数据以减少存储空间和传输带宽。:编码后的图像数据可以存储在存储介质(如SD卡)中,之后可以读取出来进行。原创 2024-05-24 19:44:19 · 610 阅读 · 0 评论 -
人类交互4 感觉输入和运动输出
人类感觉系统是由多个感觉器官和神经系统组成,负责感知外部世界的各种刺激和信息。:视觉系统由眼睛、视神经和大脑视觉皮层组成,负责感知光线、颜色和形状,使我们能够看到和理解周围的世界。:听觉系统由耳朵、听神经和大脑听觉皮层组成,负责感知声音和声音频率,使我们能够听到声音并理解语言和音乐。:触觉系统通过皮肤中的感受器,包括压力感受器、温度感受器和痛觉感受器,帮助我们感知外部物体的形状、质地和温度。:味觉系统由舌头上的味蕾和相关神经组成,负责感知食物的味道,包括甜、酸、苦、咸和鲜。原创 2024-05-24 16:54:02 · 827 阅读 · 0 评论 -
人类交互3 皮肤感觉与运动系统
人类的运动系统是由肌肉、骨骼和关节组成的,它负责支撑身体、维持姿势、实现运动和动作。运动系统通过骨骼结构支撑和保护身体内部器官,同时提供姿势稳定性,使我们能够站立、行走和保持平衡。运动系统通过神经系统与大脑连接,帮助我们感知外部环境的运动和刺激,并产生相应的反应,如逃避危险或执行精细动作。通过运动系统的运动和活动,我们可以保持肌肉和骨骼的健康,促进血液循环、新陈代谢和免疫系统的功能。原创 2024-05-24 14:53:56 · 529 阅读 · 0 评论 -
人类交互2 听觉处理和语言中枢
人类的语言中枢是大脑中负责语言处理和理解的区域,帮助我们产生流畅的语言表达和理解别人说的话,促进有效的语言交流和沟通。语言中枢在语言发展过程中起着关键作用,可以让婴儿学习和掌握语言能力,形成语言与交流的基础。总的来说,语言中枢是大脑中负责语言处理和理解的重要区域,对我们的语言能力、交流能力和文化传承起着重要作用。研究语言中枢有助于深入了解语言的神经基础,促进语言学和神经科学领域的发展;有助于理解语言障碍的发生机制,如失语症和阅读障碍,为相关疾病的诊断和治疗提供参考;原创 2024-05-23 18:10:45 · 1428 阅读 · 0 评论 -
人类交互1 大脑视觉的处理过程
视觉是人类和动物通过眼睛感知外界环境中的光线信息的过程。这包括接收、处理和解释光线信息,以便理解周围世界中的物体、颜色、形状和运动等。视觉是我们最重要的感觉之一,为我们提供了丰富的信息,帮助我们导航环境、识别物体、沟通和享受美感。视觉的意义在于它是我们感知世界的主要方式之一。通过视觉,我们能够看到物体的形状、颜色和大小,感知物体之间的相对位置和距离,识别人脸、表情和动作,以及观察周围环境中的变化。视觉也对我们的行为和决策产生影响,帮助我们做出反应和适应环境。原创 2024-05-23 16:37:40 · 1696 阅读 · 0 评论