利用语义图谱技术构建大语言模型的细节讨论

大语言模型和人类思维的结构不一样。语义图谱更接近人类思维。

有一个介绍GPU能力的视频令人印象深刻。介绍人讲人类画画是用一支画笔在画，是一种单线的工作。而使用GPU渲染图画就好比用一个有许多根喷头的喷枪去喷出来一幅画一样。GPU规定每个喷枪喷什么颜色。喷涂的过程只需要几秒钟就完成了。GPU的工作是多线并行的。得益于GPU的不断发展，运行在GPU上的神经网络也日益成熟。现在火热的大语言模型就是在此基础上发展起来的。

和GPU不同，我们人类的思维就是单线任务。当我们要考虑一件事的各种可能性的时候，我们先要考虑完一种可能性，再去思考下一种可能性。运行在GPU上的神经网络可以进行并行计算。它可以同时计算各种可能性。下围棋的阿尔法狗就是这个模式。人类和阿尔法狗下棋就好像是一个人同时在和许多人下棋一样。这怎么可能赢？

各种生成式AI的大语言模型都是在阿尔法狗的基础上发展来的。

神经网络的这种运行模式和人类的思维模式显然不一样。人类的思维模式是基于逻辑推理的，更加高效和节省能源。

我们语义图谱就是模仿人类的逻辑推理能力来实现生成新知识的能力。神经网络是人工智能的一个派别，我们是另一个派别。辛顿教授讲一个是生物启发派，一个是逻辑启发派。而我则认为分别叫算力派和逻辑推理派比较合适。我们是后者。

现在虽然我们逻辑推理派看起来还很弱小，但未来最起码在设备端（手机、平板电脑）离线的状况下，我们一定能战胜以OpenAi为代表的算力派。以OpenAi为代表的神经网络产品在设备端离线的状况下无法运行。我们产品可以的。

建立语义图谱。

语义图谱是一种知识的存储形式。建立语义图谱是模拟人脑进行逻辑推理的基础。语义图谱以一个概念作为主题，以知识点作为基本内容，从不同的视角生成不同问法。主