文思源想的技术空间

由于模型具有固定的上下文长度，因此用户和助手之间的对话（其中整个对话都包含在上下文窗口中）不能无限期地继续。这个问题有多种解决方法，其中之一是总结对话中的前几个回合。一旦输入的大小达到预定的阈值长度，这可能会触发一个查询，该查询汇总了部分会话，并且可以将先前会话的摘要作为系统消息的一部分包含在内。或者，可以在整个对话的后台异步总结先前的对话。另一种解决方案是动态选择与当前查询最相关的对话的先前部分。请参阅策略“使用基于嵌入的搜索来实现有效的知识检索”。

今天想特地聊下周四下午的时候周鸿祎的ai公开课第一讲，收获很大！挺羡慕老周的，当ai突破到来，可以拿出大量精力和时间去研究，还能随时和业界最厉害、最前沿的大咖，深度沟通。作为没有条件all in ai的普通人，我们能做的，其实是守好主业的同时，尽可能投入空闲时间去摸索！好在互联网时代，信息平权，我们每个人都能从这些大咖的演讲、课程中去了解到最新的信息，并不用花费太高的成本。其实最难的是过滤，如何分辨信号与噪声。

最近看完《这就是chatgpt》对于大语言模型的三种架构演进图印象颇深，今日就专题盘点一下三种大模型架构理论，同时做一个简单对比。

这周时间看了两本书，一本是大神斯蒂芬·沃尔弗拉姆学的《这就是ChatGPT》,另外一本则是腾讯云生态解决方案高级架构师宋立恒所写的《AI制胜机器学习极简入门》，收获还是很大的。本文主要是梳理相关人工智能技术体系的一些基础划分，总结了他们的关系，也也简单探究了下chatgpt的本质究竟是什么？

最近看《这就是ChatGPT》还有神经网络的一些基础，就有一种感觉，其实本质上chatgpt和sora并没有想象中那么神奇，目前人工智能虽然有许多革命性的进展，但是完全智能化还有距离，我们需要了解一些本质的东西，要有明辨是非的能力，再结合上我们自己的优势，我们的业务，去做一些提效，优化一些场景，不管是个人的还是工作的，日积月累总会有所回响！好吧，我得承认，我也是韭菜大军一员！首先，如果你是技术小白，被割了就被割了，没什么大不了的，就好好看完视频，进步了，学以致用，就不存在被割这一说法，因为你自己成长了！

sora持续发酵过后，其实我们还是需要静下心来，想想普通人除了兴奋、焦虑、炒股投资外，还有哪些是我们可以做的？本文主要从拥抱变化的心态、写作能力的新要求、未来已至未来可期、ai竞赛的担忧四个角度，阐述了博主的一些观点！

这篇笔记承接上一篇技术文档的学习，主要是为了做一个记录，记录下openai sora技术介绍文档提到的一些论文，再此特地记录一下！

Sora是由OpenAl在2024年2月16日推出的文本生成视频模型。Sora继承DALL·E 3的画质和遵循指令能力，可以根据用户的文本提示快速制作长达一分钟的高保真视频，呈现复杂场景与角色。还可以根据提示、静止图像填补现有视频中的缺失帧来生成视频。Sora能够深度模拟真实物理世界，标志着人工智能在理解真实世界场景并与之互动的能力方面实现了重大飞跃。

工欲善其事必先利其器，为了ai学习的效能提升，放假期间对google浏览器做了一次系统整改，添加了一些配置和插件，这里既有一些显示、主题的优化，也包括视频下载、ai插件的应用，目的只有一个——提升学习效率，方便我们更好阅读、记录、生产。

今天特地用字节的“扣子”做了一个ai的资讯助理配合上豆包相关软件，以前用代码写python脚本才能完成的工作，如今通过简单的需求描述，就能在豆包app上拥有自己的一个小助手，真心不错！

早上醒来的时候，我就开始思考接下来应该怎样去熟悉和梳理ai这个领域，对于一个技术人来说，自然是通过技术的手段，研究下大模型原理、深度学习、langchain这些框架会更合适，但这些东西不能直接解决人们的生活问题，帮助不到每个人变得更好。尽管2023年被称为AI元年，AI已经能帮我们完成很多事情，甚至第一届AI春晚也已经举办，然而通过深入的了解，我发现AI目前还是一种工具，就像蒸汽机刚发明时，电脑刚进入个人时代，它现在还代替不了很多人的工作，但已经大大提高了我们的效率。

关于ai春晚和ai艺术的一些感受！

7大国内公司团年饭ai制图大比拼

文思ai小记开头