鲁班模锤

行文风格多变。清新而不脱俗，深入但又浅出。跟踪而不跟风，细腻但又抽象。给大家带来大模型领域乃至其他科技领域的最轻松但又最潮的独特解读。整体遵从条线分割，纵横交错的网线在编织内容。

WordLlama一个开源、快速、轻量级 （16MB） NLP 工具包，用于相似性和针对 CPU优化任务。它是一种用于NLP和单词嵌入的实用程序，它类似于GloVe、Word2Vec或FastText。它首先从最先进的LLaMA3中提取。

Apple宣布iPhone 16将成为第一款专为生成式人工智能打造的机型，它将允许用户使用自然语言提示创建文本和图像。

“这是一个神奇的世界，留给人类的是千变万化的瞬间。”正如电影里台词阐述的那样， Runway旗下的视频编辑工具Gen-2展现了AI将文本转化为视频世界的魔力与神奇，只需要输入短短几个词语或者一句话的描绘，就能生成想要的视频画面。

埃隆·马斯克（Elon Musk）的人工智能初创公司xAI推出其最新的AI助手Grok 2的测试版，添加了类似于OpenAI的DALL-E和Google的Gemini的图像生成工具，但对可以生成的图像类型的限制显然较少。

昨天介绍的PyTorch最近发布TorchChat。TorchChat允许在本地台式机、笔记本电脑或移动设备上下载和运行大型语言模型。会不会让你想到什么，没错就是Ollama。

最近是科技财报季，所有的人都会有提问：什么时候会有人开始从人工智能中赚钱？人工智能历史发展曲线经历了多次的沉浮。

Black Forest Labs是一家由前Stability.ai开发人员创立的AI初创公司，旨在为图像和视频创建尖端的生成式 AI 模型。这家初创公司声称，其第一个模型系列Flux.1为文本到图像的生成设定新的标准。

Apple 引入了一个Swift的新开源包swift-homomorphic-encryption，以实现同态加密技术。​swift-homomorphic-encryption 软件包利用了几个高级功能：

图表显示了AlphaProof+AlphaGeometry 2在IMO 2024上相对于人类竞争对手的性能。AI获得28分（满分42分），达到了与比赛中银牌得主相同的水平。

Pytorch 2.4 推出AI任务加速，提供对Intel GPU的支持。PyTorch 2.4现在为Intel数据中心GPU Max系列提供支持，该系列将Intel GPU和 SYCL 软件堆栈集成到标准PyTorch 堆栈中

从下面的各项基准而言，LLama3.1系列在同等量级中均有不俗的表现，尤其是405B已经和闭源的GPT-4o不分伯仲，甚至略压一头。

Microsoft的Phi系列、阿里巴巴的Qwen2和Meta的 MobileLLM表明，如果经过深思熟虑的设计和训练，小型模型可以取得令人印象深刻的结果。但是，有关这些模型的数据管理和训练的大部分详细信息尚未公开。

开源项目RWKV是一个“具有 GPT 级别LLM性能的RNN，也可以像transformer并行训练。它主要是解决了Transformer的高成本。注意力机制是 Transformer 霸权背后的驱动力之一。

6月24日至6月27日在旧金山举行的 AI 工程师世界博览会是AI 从业者和爱好者的首要活动之一。本次年度会议展示了人工智能技术的最新进展，并提供了对行业趋势的宝贵见解。

Hugging Face 宣布发布Transformer 4.4.2，该版本为流行的机器学习库带来了许多新功能和增强功能。此版本引入了几个高级模型，支持新工具和检索增强生成 （RAG），提供 GGUF 微调，并整合了量化的 KV 缓存，以及其他改进。

Google发布了Gemma 2，这是其最先进的开放LLMs系列的最新成员，目前可以在Hugging Face Hub上找到4个开放式模型（2个基本模型和 2个微调模型）。

Anthropic AI推出了Claude 3.5 Sonnet，这是其新Claude 3.5模型系列的首次发布。Claude的最新版本带来了AI功能的重大进步。它可在Claude.ai和 Claude iOS应用程序上免费获得。该模型可通过Anthropic API、Amazon Bedrock和Google Cloud的Vertex AI访问。收费模式为3美元每百万个输入和15美元每百万个输出，具有200K的上下文窗口。

Meta 的基础 AI 研究 （FAIR） 团队发布了一些最新的AI模型，包括可以处理和生成多模态文本和图像的 Chameleon、Multi-token prediction模型以及文本到音乐模型JASCO。

有趣的是研究人员使用一个基于证据的框架，该框架区分了开放性的 14 个维度，从训练数据集到科学和技术文档，从许可到访问方法。通过调查 45 多个生成式人工智能系统（包括文本和图像）。虽然开源一词被广泛使用，但许多模型只是“开放权重”，许多模型的拥有者并没有提供完整的有关训练和微调数据的信息来进行科学、法律和监管审查。

Stable Diffusion和DALL·E3是目前可用的两个最好的AI图像生成模型，它们的工作方式大致相同。这两个模型都是在数百万或数十亿个文本-图像对上训练的。

苹果刚刚在WWDC 2024上投下重磅炸弹，Apple Intelligence将改变用户与设备的交互方式。苹果公布了将人工智能引入iPhone每个角落的全面计划。它将在电子邮件、消息和照片的原生应用程序以及应用程序通知和 Siri功能中添加 AI 功能，甚至将使用人工智能来允许人们生成自定义表情符号。

FineWeb是一个新发布的开源数据集，它希望通过其广泛收集的英语网络数据来推动语言模型研究发展。FineWeb 由 huggingface 领导的团体研发，提供超过15万亿个Token，这些Token来自2013年至2024年的 CommonCrawl转储。

Omdia数据显示，Meta和微软作为H100的最大买家，各自采购了15万台GPU，两者总计占据30万台的销量。剩余的20万台则由Oracle、腾讯、Google和亚马逊平分，每家各购买了5万台。值得关注的是，报告指出，这些大型科技公司目前均在积极研发自家定制硅片，旨在未来应对AI和高性能计算（HPC）任务，预示着市场格局的潜在变化。

Picovoice首席执行官Alireza Kenarsari指出，“picoLLM是Picovoice 深度学习研究人员和量产工程师共同努力的成果。前者研究出X 位量化算法，而后者构建了跨平台的LLM 推理引擎。目的还是在于将LLM遍及到任何设备且将控制权交还给企业”。

由 Microsoft 支持、估值 60 亿美元的法国 AI 初创公司Mistral发布其首个用于编码的生成式 AI 模型Codestral。与其他代码生成模型一样，Codestral旨在帮助开发人员编写代码并与之交互。Codestral在 80+ 种编程语言的多样化数据集上进行训练，包括最流行的语言，如 Python、Java、C、C++、JavaScript和Bash。它在Swift和 Fortran等更具体的设备上也表现良好。这种广泛的语言基础确保了 Codestral可以在各种编码环境和项目中为

埃隆·马斯克于去年夏天创立了 xAI，今天宣布筹集 60 亿美元资金，称将帮助xAI“将首批产品推向市场，构建先进的基础设施，并加速未来技术的研发”。

《人工智能指数报告》由斯坦福大学、AI指数指导委员会及业内众多大佬Raymond Perrault、Erik Brynjolfsson 、James Manyika、Jack Clark等人员和组织合著，旨在追踪、整理、提炼并可视化与人工智能（AI）相关各类数据，该报告已被大多数媒体及机构公认为最权威、最具信誉的人工智能数据与洞察来源之一。2024年版《人工智能指数报告》是迄今为止最为详尽的一份报告，包含了前所未有的大量原创数据。

《人工智能指数报告》由斯坦福大学、AI指数指导委员会及业内众多大佬Raymond Perrault、Erik Brynjolfsson 、James Manyika、Jack Clark等人员和组织合著，旨在追踪、整理、提炼并可视化与人工智能（AI）相关各类数据，该报告已被大多数媒体及机构公认为最权威、最具信誉的人工智能数据与洞察来源之一。

昨日微软宣布推出一种新的、更微型的小语言模型 (SLM)Phi-3-Silica，专为Copilot+ PC设计。Copilot+ PC本身配备强大神经处理单元 (NPU) 的个人计算机，能够应付AI计算。基于Windows的Phi-3-Silica仅仅拥有3B参数，是Phi-3系列中最小的。

人工智能 (AI) 的发展轨迹将继续吸引全球各行各业。在这个不断变化的环境中，剖析塑造人工智能发展轨迹至关重要。综合行业思想领袖和风险投资家的见解，可以从其中的一角定义2024年人工智能格局。所有的思考都围绕着一个问题：人工智能在塑造创新和人类社会的未来方面发挥着怎样的关键作用？