0x0007 的博客

这本关于 Llama.cpp 的全面指南将带你一步步探索设置开发环境、了解其核心功能以及利用其功能解决现实世界问题的必要知识。

本文由六位不同背景和专业领域的作者共同撰写，分享了他们使用大型语言模型（LLMs）构建实际应用一年来的经验教训。文章分为战术、运营和战略三部分，讨论了如何有效地使用提示（prompting）、改进信息检索（RAG）、设计人工在环工作流程，并强调了评估和监控LLMs的重要性。作者们提供了丰富的最佳实践、常见陷阱和实用建议，旨在帮助读者构建成功的LLM应用，并指出了在构建过程中保持输出多样性、减少错误和提升性能的关键策略。

本文列出了2024年AI工程师必备的10项技能，包括机器学习、深度学习、编程语言、数据科学、自然语言处理、机器人技术、伦理与治理、AI集成、云计算和问题解决能力，以应对不断变化的AI领域挑战。

大型语言模型（LLM）是深度学习在自然语言处理（NLP）领域的集大成者，它们代表了人工智能技术在理解和生成语言方面的重要进步。LLM的核心是基于变换器（Transformer）架构的复杂神经网络，这一架构因其在处理序列数据时的高效性而闻名。LLM是一种预训练的深度学习模型，专为处理自然语言而设计。它们通过在大量文本数据上进行训练，学习语言的统计特性和模式，从而能够执行各种语言任务，如文本分类、情感分析、机器翻译、问答系统和文本摘要等。

这是下的第四篇，这一篇所介绍的AI，也许是截至今天（204-03-19）国内可访问的实用性最强的一款。今年年初，一直看到有人推荐 Kimi，不过面对雨后春笋般的各类品质的AI，说实话也有点疲劳了，大部分不是套壳就是太弱，尝鲜过后不大会主动想起。这两天知乎上又看到了几篇提到 Kimi的文章，恰好我最近也在写AI工具系列，于是找到主页看了下。和大部分AI界面不同，Kimi 更像一个搜索引擎，界面相当简洁，【文件，拖进来；网址，发出来】的slogan简单有力，透露出不小的自信。

之后，他们对模型的推理和编码能力进行了重大改进，最终开发出了 Grok-1，这是一款功能更为强大的 SOTA 语言模型，在 HumanEval 编码任务中达到了 63.2% 的成绩，在 MMLU 中达到了 73%。相对的，在 X（原 Twitter）上可用的 Grok 大模型是微调过的版本，其行为和原始权重版本并不相同。研究人员可以利用Grok-1进行自然语言理解和生成的实验，开发者可以构建能够处理复杂对话的智能系统，企业可以使用Grok- 1 作为基础模型，进一步开发行业特定的AI应用。

CodeGeeX 是清华和智谱AI联合打造的多语言代码生成模型。官网代码自动生成和补全代码翻译自动添加注释智能问答更多功能通过快捷命令和提问，可实现更多功能，如解释选中的代码、修正代码的bug等。支持的IDE:CodeGeeX支持多种主流IDE，如VS Code、IntelliJ IDEA、PyCharm、Vim等，同时，支持Python、Java、C++/C、JavaScript、Go等多种语言。老规矩，我们继续以 VSCode 扩展的方式来体验。

相比小浣熊Raccoon ，Fitten Code 功能方面少了个控制台交互功能，速度方面不是特别稳定，但手动操作下重新触发可以重新激发AI功能。总体来说，还是不错的，最主要的是，它也免费 ：）试用了这两款国产AI编程助手插件后，感觉AI辅助编程终于切实的走到了身边，虽然它们都不不足以替代人工，但表现出来的潜力不可小觑，毕竟AI的世界一切才刚刚开始，我对未来的AI世界充满期望！

自从 ChatGPT 引爆人工智能以来，AI 的熊熊烈火一直高烧不退，渗透到各个领域且以惊人的速度进化着。2021年6月第一个基于大语言模型的代码编写助手Copilot也早已成为了开发者的得力助手， 但Copilot对于国内的开发者来说，还是存在诸多不便：一是访问的稳定性：我是指在国内访问Copilot的不稳定，你懂的；二是贵；其实以上两个问题都不是Copilot的问题，但确实是我们要面对的困难。