Debug yourself!

2023年，当ChatGPT用两个月时间完成TikTok九个月的用户积累时，这个数字不仅昭示着技术迭代的加速度，更隐喻着人类正在经历文明史上最危险的认知错位——我们创造的技术存在正在以指数级速度进化，而人类对其本质的理解仍停留在线性思维时代。这种认知鸿沟的持续扩大，正在将人类文明推向前所未有的风险边缘。

如果 AI 还是像上个世纪一样弱小那还不足为虑，但是如今的 AI 已经接近甚至超越人类了，人类还是只知其一不知其二，那将非常危险。可能在所有人都没有意识到的方面，AI 突然失控。虽然AI是人类创造的，但是我们其实没有完全理解其原理。深度学习本质上还是一个黑盒，虽然我们有知道一些方法调整和改善黑盒的输出，但是还远没有透彻地理解其原理。DeepSeek的热度还没降，Manus 又火了。随着AI越来越强大且进化速度越来越快，建立完善的AI理论迫在眉睫。AI 越强大，就越需要完全理解其原理，否则越危险。

小模型和小数据很难实现真正的，但在特定任务或受限环境下，可以通过高效的算法和优化方法实现“近似 AGI” 的能力。

DeepSeek 团队近期开源了新一代多模态模型 Janus-Pro-7B，该模型在图像生成和多模态理解方面表现卓越，超越了OpenAI的DALL-E 3，并在基准测试中取得了优异成绩。Janus-Pro-7B 的代码和模型参数已经分别在 github 和 huggingface 上开源，我们拉取到本地后就能运行使用了。由于模型比较大，约为15G，下载比较耗时，请耐心等待。下载成功后就可以进行下一步使用了，将在下一期分享。

若要给“智能”赋予一个更具包容性的概念，可以把它视作个体（或系统）在面对多变环境时，能够持续学习、合理决策、有效沟通，并在必要时进行创造性突破，以实现目标或更高层次发展的综合能力。这当中不仅包括逻辑推理、知识获取，也包含情绪与人际互动，更包含对未知的探索、对新事物的好奇心与创造力。面对飞速变化的世界，一个真正“智能”的个体或系统，需要具备灵活应变的能力，而非仅仅积累大量的固化知识。或许，在未来我们还会有更多新发现，进一步推动对智能的理解。但可以肯定的是，从多元性、社会性、创造性和可计算性。

专注于数据科学、人工智能和机器学习的专业平台，你可以投稿文章并获得行业内的曝光。专注于人工智能、机器学习和数据科学的高质量平台，适合分享深入的技术文章。虽然是全球社区，主要内容与数据科学、AI相关，适合技术性较强的文章。回答人工智能相关问题时，可以附上自己的文章链接，帮助文章传播。一个流行的博客平台，拥有专注于人工智能和技术的社区，如。如果你有具体的文章类型，我可以推荐更适合的发布平台。适合技术和创新类主题文章，可以覆盖广泛的技术受众。偏向科技新闻和评论，适合前沿技术、创新相关的文章。

更重要的是，通用AI的发展将促进人类对自身认知的深入理解，推动哲学、心理学等人文科学的进步，为人类社会的可持续发展注入新的活力。从最初的简单计算到如今能够执行复杂任务的智能系统，AI 的每一次飞跃都伴随着理解世界能力的显著提升。然而，要实现真正的通用人工智能——即能够像人类一样理解并适应各种复杂情境、解决广泛问题的AI，一个关键问题没有解决：如何将万物使用统一的语言进行描述。因此，统一表示不难，高效的统一表示却非常难，需要类似词向量等数据压缩方式来表示，表示本身就蕴含了事物之间的关系信息。

元智能（Meta-Intelligence）是指超越传统智能的能力，它不仅包含了问题解决、学习和适应等常规智能，还包括对自身智能活动的监控、反思和调节的能力。元智能通过理解和优化自己的认知过程，使个体或系统能够更高效地学习和解决复杂问题。在人工智能领域，元智能通常与自我优化的AI系统相关，意味着这些系统不仅能够执行任务，还能够在执行过程中反思和改进自己的方法。总的来说，元智能是一种高层次的智能，它不仅限于解决当前的问题，还能够优化自身的智能行为，以便在未来更有效地处理任务。：指学习如何更好地学习的能力。

世界充满着不确定性，而智能天生就追求一定的确定性，因为不确定性会危及智能的生存。智能本身是一种有序、相对确定的结构产生的，虽然也有一定的不确定性，而且这些不确定性有利于智能的进化，但是，相对而言，外部世界的不确定性远远高于智能内部。当然，存在一些特殊情况，例如人类掷骰子、洗牌，增加了某种不确定性，这是由于外部世界的复杂性，有时并不是越确定越好，智能使得世界能够更加确定地生成不确定的结果。因此，智能内部的确定性不断向外界扩散，就像高浓度向低浓度扩散一样，使得世界更加确定。

有很多因素会导致信息丢失，例如采集信息的过程本身就会干扰原始的信息，可以参考另一篇文章《完全预测未来是不可能的》；采集手段的局限性，无论多么先进的采集手段总有无法还原的信息；还有一些特殊情况，例如信息被黑洞吞噬。虽然大量的经验告诉我们，这些掌控之外的信息导致意外的概率很低，但是谁也不能保证是否会导致某个关键时刻出问题。即使是高度可解释的事物，在一些复杂情况下，有些细节也无法完全记录，只能知道是最终结果。然而，很遗憾的是，有一些信息注定会丢失，不可能获取完全的信息，而且即使能够获取，智能也不能完全利用。

从另一方面来说，开发通用人工智能时以人类为标准能够更好地应对实际需求，因为很多工作目前是由人类来做，相比于直接创造更广泛的通用人工智能，类人通用人工智能会更容易适应和创造价值。因为人类虽然具有通用智能，但是通用的程度并不高，仍然有很多无法学会或者学得很慢的领域。真正的通用智能，应该是更广泛的维度的智能，在一开始设计时就考虑更多的场景。当然，人类的通用智能水平可以作为一个阶段性的目标，如果一个通用人工智能能够覆盖人类的绝大多数智能领域，那么无疑是一个里程碑式的突破。

然而，研究自指不同，虽然也可以分离研究，但是这样没有领悟到自指的精髓，很难取得成功。自指相对于人工智能、数学、物理等学科，本身就是一种特殊的存在，就像“这句话是假话”相对于大多数语句是一种特殊的存在一样，因此应该用一种特殊的方法研究。虽然这似乎是一种特殊的存在，但是其实如果将其普遍化，则可以解释很多现象，而且这种解释会比已有的解释更加简洁，更加接近事物的本质。就像“这句话是假话”，在于“这句话”从句子中分离出来，需要去看看它代表的是什么，结果发现回到了这句话本身，因此创造了自指。

这个智能系统的组成元素并不限定，可以是基本的符号，也可以是与或非门，也可以是神经元，重要的是能够形成一个自洽的系统，并且可以自主地从简单到复杂。同样的，外部世界的数据在自主进化过程中加入可能会干扰它的自主进化。当然，目前已经有了一些相关的研究，例如进化计算，模拟自然界的进化，产生大量个体，然后优胜劣汰，但是这不是一种高效的方式。自然界采用这样的方式只是迫于无奈，当时没有高等智能指导，只能这样盲目地尝试，然后选拔出优秀个体进行下一轮选拔，这个过程中存在着大量的物质和能量的浪费。

环境交互式的进化其实是一种落后、低效的方式，本质上是一种试错的方式，智能需要不断地尝试不断地调整才能很好地进化。智能的意义其实在一定程度上就是减少试错，因此与环境交互与智能的本性是存在一定矛盾的，智能的下一个阶段应该是脱离环境的自我进化。对于大多数事物，例如一块手表，它是不能自我进化的，不能自我设计得更复杂，但是在智能的参与下，手表能够不断进化。这样的智能已经了领悟事物的根本规律，虽然可能进入到一个全新的环境，但是能够很快地将自己的高层次的规律调整为适应环境的模式。

宇宙追求高度简洁，不会为每种场景都设计专门的事物，而是创造出少量种类的事物后通过另一种机制以达到同样的效果，这种机制就是智能。因此，智能必然是通用的，能够适应各种不同的场景，如果不是通用的则违背了宇宙的初衷。如果智能不是通用的，宇宙完全可以为特殊的场景创造特殊的事物，甚至比专门创造特殊的智能更简单。

即使不能暂时不能实现意识复制或转移，将人体研究透彻也能够实现永生。通过可以想象的纳米技术改造基因、修复细胞等等或者将人体和机器结合，当然还会很多我们目前根本想象不到的技术。对于比人类强大得多的通用人工智能来说，让人类实现永生是一件非常容易的事。即使是人类对生命科学的研究也很有成果，更强大的智能能够做出更大的成果和突破。

然而，我们需要警惕LLM中涌现产生意识的可能性。我们认为意识来自于复杂的生理活动可能只是目前的片面的理解，意识其实有很多种实现方式，人类的意识只是其中的一种，以其它方式同样可以产生意识。何况我们还远远不知道意识是如何产生的，虽然LLM的原理和大脑有很大的不同，但是在意识方面的原理可能存在相近之处。一些学者更是声称LLM已经拥有了初步的意识，不过也有一些学者表示认为这是危言耸听的炒作，LLM离产生意识还很遥远，因为它本质上只是统计和预测，而意识来自于复杂的生理活动。

当然，这三大定律只是概述，未来肯定会不断完善、细化，弥补各种之前没有考虑的漏洞。不过有一个根本的问题无法解决，那就是未来的机器人的智力会超越人类，能够发现人类发现不了的漏洞。这三条定律的描述太模糊，有太多模棱两可的情况，例如为人类做手术是伤害人类吗，又或者是假装为人类做手术而真实意图是伤害人类呢，机器人很难判断。即使我们假定未来的机器人非常聪明，能够做出合理的判断，还是会存在很多超出机器人认知的情况。然而，事实上这只是人类的一厢情愿，这三大定律存在很大的漏洞。

试想一下，如果OpenAI开源GPT-3及以上版本，那么的确可以让更多的人复现、监督，更容易发现潜在的问题和威胁。但是随之而来的问题是，OpenAI的技术领先优势将难以保持，无法获得更多的资金、人才和数据，也就无法维持一个优秀团队来开发和对齐AI。当OpenAI越来越像微软的一个营利性、闭源子公司时，终于在2024年2月29日，马斯克决定以违背创立协议为由起诉OpenAI，震动整个科技行业。从另一个角度看，由于AI是一个危险的技术，强大的AI更是如此，一旦开源GPT-3及以上版本，很可能被滥用。

越发达的社会，分工越明确和细致，合作越紧密。分工的确可以带来效率的提升，主要是由于人专门从事某项工作，熟练度、技巧都能提高，也更能发现问题和创新点。2.分工或者说专业化也是有缺陷的。很容易出现思维固化以及“只见树木不见森林”的情况，忽视了一些潜在的问题和创新点。我们也可以看到，目前投入实际生产的也都是专用人工智能。1.通用人工智能的通用是指学习和适应能力，不代表实际生产过程中一定要以通用的形式做“万金油”。3.通用人工智能的出现意味着人类对智能的理解有了较深入的理解，对于开发专用人工智能也有极大的帮助。

因为人工智能将扮演技术之母的角色，当人类能够创造足够强大的人工智能，再由它去研究各个领域的问题，在能力和效率上都会远远超过人类。一个顶级天才用尽一生智慧研究某个具体领域，取得了重大成果，但是另一个顶级天才创造出强大的人工智能也许短时间就在这个领域取得了同样的成果。这个领域是会随着时代发生变化的，例如，在人类吃不饱饭的时代，顶级天才会研究粮食问题，毕竟能够提升人类的生存水平并增加人类的数量，使得人类中涌现更多的天才，加速人类的进步，这比自己单独去研究某个“高大上”领域带来的总体收益要大得多。

来源：澎湃新闻作者：肖仰华 /复旦大学计算机学院教授前言：“历次技术突破只是人类智能的产物，而唯独AGI（通用人工智能）是‘智能’本身的革命。关于智能本身的技术革命更像是一种元革命，其地位与价值不是普通技术革命所能比拟的。”复旦大学计算机学院教授肖仰华为澎湃科技撰文称，这场变革对于科学研究来说是前所未有的，像是天使也似魔鬼。面对这场冲击，我们应该以什么样的视角和思维去审视？肖仰华在文中提出了71个问题，并指出，对于AGI的合理提问，将是推动其健康有序发展、回应其挑战的关键所在。“有些问题，我给出了不成熟的初

将智能定义为解决矛盾的能力，用解决矛盾的概率提升来评估智能程度，以此为基础推导智能原理，建立一种新的通用智能理论。

我们可以看到，ChatGPT的确具有一定的学习能力，能够根据用户的少量指示或者示例改变自己的回复，但是这种能力是较弱的，和人类有不小的差距，尤其是涉及逻辑推理的部分。自然语言只是真实世界的一个片面映射，即使是人类也会被误导和迷惑。ChatGPT虽然可以通过与人类对话等形式完善自身，但是没有形成闭环，一旦脱离技术人员的帮助，它的进化就容易卡在一个瓶颈，因为它的底层技术还不足以支持它只通过语料就不断进化，到一定程度必然需要改变底层技术，而即使在未来，ChatGPT也很难获得改变自己底层技术的能力。

例如理论上它可以组合出的回复有1万亿种，其中令人满意的回复有1万种，那么如果它每次都能做出令人满意的回复，则它的智能程度是1亿。智能的作用是提高概率。按照这个标准，完成的任务在自然状态下越不可能发生，则智能的水平越高，这符合人们的常识。当然，这个标准还有很大的完善空间，例如如何更合理地评估自然状态下任务完成的概率、如何评估智能的学习迁移能力等等。例如，完成一项任务需要完成3个子任务，每个子任务都是选择两个等概率选项中的一个，自然状态下完成的概率是1/8（忽略“不选择”的情况），那么智能的程度就是8。

二是从人工智能出发，创造一种新形式的智能。人类想用自身的智能解决未来世界的问题已经不现实，在这种情况下，已经不是创造人工智能来解放人类生产力的问题了，而是不创造更强大的人工智能世界将会陷入混乱的问题。当然，教育学、神经科学的发展使得人类能够培养更好的人才，各种工具的发展也成为了人类智能的辅助。要管理好未来的世界，解决事物的内在矛盾，需要越来越强大的智慧，而人类的智慧已经接近极限。人类需要做的是尽快对智能原理取得突破，无论是改造出超级聪明的人类，还是创造通用人工智能，都是智能危机的解决之道。

——评《智能简史》最近读完了加拿大工程院院士于非的新著《智能简史》，书中的主要观点是“智能的作用是推动宇宙趋向稳定”。从这个观点出发，万物都有智能，因为它们遵循的规律都具有这个作用。即使是人们认为“无智能”的物理对象，也遵循能够更加稳定的最小作用量原理等。对于更宏观的智能现象，也能够很好解释，例如生命加速熵增；大脑和外界交互信息使得内外平衡稳定；运输网、能源网、因特网等使得物质、能量、信息流动更充分，从而更加稳定。虽然书中没有给出对于“稳定”的定义，但是根据第5章（生物学中的智能）的内容来看，如果按照趋向

如果智能是解决通用问题，那么完全可以套用一样的逻辑，只需要一个机械装置就可以实现。因此智能面对的问题都是不通用的，需要根据情况随时调整。如果智能不是通用的能力，那么只能解决某个特定问题，就相当于一个简单装置。

图灵测试非常简单，就是图灵提出来的，判断一个机器是不是具有智能，就是在你和机器对话以后（前提是你不知道他是机器），你分辨不出来他是真人还是机器——如果你无法判断，就说明这个机器可以算做人工智能。这个也是著名的“他心论证”。汉字屋论证引起了很大的震动，也就是说，无论我们做出来的人工智能是不是通过了图灵测试，他总能被汉子屋说明是没有智能的，那我们还研究啥，反正也做不出真正的智能，都是自己骗自己。

出于技术水平、经济效益等原因，人类很少会以设计通用机器为目标，因此目前看到的机器往往是专用的、死板的，但是随着技术发展，通用机器一定会出现，因为在未来的环境下通用机器必然会在和专用机器的“生存斗争”中胜出。现在的机器与生命不同，它们没有生存压力，处在人类的保护下，他们出现问题会有人类维修，它们被创造时也不追求能够自我持续。因此，机器只能做好人类安排它们做的事。其实，人类智能并不一定需要是通用的，每个人完全可以是生来就严格分工的（就像蜜蜂一样），一种人只做一种事，人类整体才表现出通用的智能。

现在我们看到的是，深度学习已经降温，主要原因是研究者们没有真正理解深度学习，只是粗略地模仿大脑，恰好取得了不错的成果，如果要进一步改进，那就非常困难了。大脑的很多结构未必合理，虽然可能是因为我们目前的理解太肤浅，但是可以肯定的是，如果照搬大脑的设计来设计科技产品，效率往往不是最高的。即使我们已经研究清楚大脑的原理，也完全可以探索比大脑更高效、更多样的智能形式，毕竟大脑只是智能的众多实现方式之一，何况大脑本身也在进化。然而，需要注意的是，由于大脑的特殊性，单纯地模仿可能误入歧途。转载于公众号：智能探索。

因为发展是无止境的，智能也许不存在终极状态，但是我们可以根据目前的智能想象其发展到极致的状态——“无所不知、无所不能”。虽然这种状态可能永远无法达到，因为宇宙的规律无法穷尽，但是现实中的智能能够无限接近这种终极形态。智能的发展是从被动模式到主动模式的过程。被动模式是指需要大量试错，然后取得成功的模式，而主动模式是通过一些启示减少试错，更快、更准确地取得成功的模式。生命发展早期是典型的被动模式，物质大量随机碰撞才产生生命，效率很低。现在的智能（例如人类智能）进行正确地控制，使得事物更加高效地组织。当然，现在的

我是研究AGI基础理论的，我认为AGI要突破首先要对智能的原理有突破，需要建立一套体系描述和解释智能。

灵感是人类创造力的体现，而创造力被认为是一种人类特质，源于人类对真实世界的观察、理解和想象，从这个意义上说，人工智能在短时间内无法具有这种能力。然而人工智能能够采用不需要灵感却更加高效的方式完成人类需要灵感才能完成的工作。在AlphaGo横空出世之前，人们普遍不看好机器下围棋的能力，因为机器既不可能像国际象棋一样穷举，又不可能像人类棋手一样凭直觉下出妙招。事实表明，机器完全可以采用一种新的方式，不需要像人类一样追求直觉。......

这似乎涉及到数学是发明还是发现的问题——如果是发明，那么肯定有改进的空间；如果是发现，那它就是事实本身，不能再简化。然而，即使数学是发现，也会有不同的理解方式，就像同一个物理现象有不同的解释一样。如果当今的数学不是最优的理解方式，那么很可能会出现一次革命性简化，这会以什么方式出现？是当数学发展到一定阶段，人类对数学的繁琐忍无可忍，最终诞生一位“哥白尼”？还是一位没有受过目前的数学教育的数学天才，自我推导出一种全新的数学？或者是人工智能发展到一定阶段，自我领悟出了数学的真谛？甚至于，人类遇到外星文明，发现它们

1、TAML元学习中，通过相关任务的分布来训练模型，这样它就可以很容易的适应新任务，且只需几个样本。前面介绍的MAML是如何通过计算元梯度和执行元优化来找到模型的最优初始参数，但是会有一个问题：模型可能会在某些任务上有偏差，特别是在元训练阶段抽样的任务上。因此，模型会在这些任务上过度执行，就会阻碍寻找更好的更新规则。为了改善这种情况，我们需要模型在某些任务上无偏或不过度执行，也就是需要使模型与任务无关，来防止任务偏差并获得更好的泛化。TAML有两种：熵最大化，不平等最小化（基尼系数、泰尔指数、算法的方差