本文是LLM系列文章,针对《A systematic review of geospatial location embedding approaches in
large language models
摘要
地理空间位置嵌入(GLE)有助于大型语言模型(LLM)吸收和分析空间数据。地理空间人工智能(GeoAI)中GLE的出现是由于我们复杂的当代空间对更深入的地理空间意识的需求,以及LLM在Generative AI中提取深层意义的成功。我们在Google Scholar、Science Direct和arXiv中搜索了关于地理空间位置嵌入和LLM的论文,并回顾了专注于获得更深入的空间“知识”的文章通过LLM。我们筛选了304篇标题、30篇摘要和18篇全文论文,揭示了四个GLE主题——实体位置嵌入(ELE)、文档位置嵌入(DLE)、序列位置嵌入(SLE)和token位置嵌入(TLE)。综合是表格式和叙述式的,包括“空间”和“LLM”之间的对话。尽管GLE通过叠加空间数据来帮助空间理解,但它们强调了在空间模态和广义推理的复杂性方面取得进展的必要性。GLE表示需要在模型体系结构中嵌入空间知识的空间基础/语言模型(SLM)。SLM框架推进了空间人工智能系统(SPAIS),建立了映射到物理空间的空间矢量空间(SVS&#