
【人工智能领域新趋势概述】
人工智能领域正呈现出两个值得关注的趋势:一是模型与工作流的解耦趋势,二是让模型变得更小的优化工作。后者既能使模型在本地硬件上运行,也适用于大型云环境。
【N8N平台:模型与工作流解耦】
在过去几周,人工智能领域的一些新闻凸显了其要真正发挥作用需解决的问题。此前提到解决方向是要有经过道德训练的开源模型,可部署在自己硬件上并处理具体用例。结合近期新闻,不依赖特定模型能力集或单一模型的自由性也是重要因素。这一点在发表于《Next Web》关于N8N公司的文章中有所体现。
N8N平台处于模型与公司现有业务流程之间,能将大语言模型、确定性代码和人工审核整合到可用于实际生产的工作流中,且不开发自己的模型。Oberhauser表示,其设计目标是让用户掌控自己的数据,实现自托管,避免被锁定。对于大型组织而言,这种自由性是该产品的核心吸引力。该产品理念是提供一种将工作与特定模型解耦的方式。
考虑到当前令牌价格大幅波动,以及API托管的商业模型可能随时停用,这种解耦很重要。一方面,解耦后当新模型有更强大能力时,可利用进步而不错失良机;另一方面,若模型提供商收费过高或不可靠,可随时更换,且意味着未来更可行地选择自托管模型。
【Eigen AI:模型小型化】
若模型部署位置和提供商无关紧要,当本地硬件计算能力足够,或有精简模型版本能处理用例时,可切换到本地版本。另一条新闻涉及让模型更易于掌控和运行的常被忽视方面,即让模型变小的能力。这篇文章关于Eigen AI公司,他们从大型供应商获取开源模型并压缩,使其运行更经济高效且不损失太多准确性。开源模型通常会经历量化过程。
许多模型有低量化形式,即更小、更紧凑版本,能在普通硬件上运行,在高端硬件上运行更快。在不影响模型性能前提下,压缩效率越高越好。Eigen AI声称拥有相关技术,其吸引力使欧洲主要云服务公司Nabius将其收购,以便在硬件上更经济高效、更快速地大规模运行更多模型。不过,Eigen AI方法是专有的,只能通过其服务使用经系统量化的模型。
【未来展望:小模型与解耦结合】
这也为非专有的量化技术留下发展空间,以处理巨型模型。未来不在于对大型数十亿参数模型高效量化,而在于设计上更小、目标更明确的模型。若通过良好量化技术让多个小模型在本地硬件上运行并组合成工作流,可能比单一全能型大模型更强大、更高效。
结合N8N的解耦方法协调这些模型,更易创建灵活工作流,不必依赖单一模型、单一提供商,也不认为大模型就一定更好。这些都是很好的发展趋势。若想了解更多内容,可查看相关论文原文。



被折叠的 条评论
为什么被折叠?



