sys025的专栏

最近AI智能体很火，AI智能体平台化产品肯定属于大公司的。但在一些场景下，尤其是对业务数据要求很高的公司，那就只能用私有大模型。不一定完全是为了对外提供服务，对内改造工作流也是需要的。所以这类开源的大模型应用平台有很多，例如dify，fastgpt，langchain等。

目前，由于 AI 的理解能力有限，我们能控制智能体生成内容的方式还不多，主要集中在提示词、知识库和工作流上。我采用了提示词加工作流的方式。在工作流调试正常的情况下，问题通常出现在提示词上，调整提示词是一个耗时的过程，有时候有点“玄学”。不过，随着大模型的进步，我相信对提示词的要求会越来越低。

首先强调一下，AI写的论文很多问题，它经常会胡编乱造，所以它的输出只能作为初稿，或者当做某些论点的启发工作。我在万维刚的课程里看到个案例，说是有科学家把自己的论文草稿扔给GPT，让GPT假装是论文的审稿人，提出审稿意见。然后效果还特别好，这种通过AI改进就比完全让AI输出就好很多。至于说会不会有数据泄露的问题，我觉得不会。国外在数据使用上非常严格，别说使用你数据，就是给你提供一些建议，都得谨慎，很容易受惩罚。

今天给大家介绍的AI产品是Claude，这个产品是 OpenAI 前研究副总裁 Dario Amodei 带领前公司一些员工于2021年创立的。