<?xml version="1.0" encoding="utf-8" ?><rss version="2.0"><channel><title><![CDATA[AustinCyy的博客]]></title><description><![CDATA[]]></description><link>https://blog.youkuaiyun.com/AustinCyy</link><language>zh-cn</language><generator>https://blog.youkuaiyun.com/</generator><copyright><![CDATA[Copyright &copy; AustinCyy]]></copyright><item><title><![CDATA[【论文笔记】Guiding Generative Storytelling with Knowledge Graphs]]></title><link>https://blog.youkuaiyun.com/AustinCyy/article/details/159211482</link><guid>https://blog.youkuaiyun.com/AustinCyy/article/details/159211482</guid><author>AustinCyy</author><pubDate>Sat, 21 Mar 2026 19:27:20 +0800</pubDate><description><![CDATA[这篇论文通过将 RAG（检索增强生成） 的理念引入创意写作，证明了结构化知识在弥补模型“长程记忆”缺陷方面的有效性。查询 kg 的范围限制在当前的 章节是否是最佳的，如何回溯过去的内容？如何评估生成的内容的质量，与现实文本的区别。是否有真实的demo？]]></description><category></category></item><item><title><![CDATA[【论文笔记】LLM Evaluators Recognize and Favor Their Own Generations]]></title><link>https://blog.youkuaiyun.com/AustinCyy/article/details/159210849</link><guid>https://blog.youkuaiyun.com/AustinCyy/article/details/159210849</guid><author>AustinCyy</author><pubDate>Wed, 18 Mar 2026 18:04:20 +0800</pubDate><description><![CDATA[任务，使用了 CNN/DailyMail 和 XSUM 两个数据集进行验证。]]></description><category></category></item><item><title><![CDATA[【论文笔记】Lost in Stories: Consistency Bugs in Long Story Generation by LLMs]]></title><link>https://blog.youkuaiyun.com/AustinCyy/article/details/159205397</link><guid>https://blog.youkuaiyun.com/AustinCyy/article/details/159205397</guid><author>AustinCyy</author><pubDate>Wed, 18 Mar 2026 15:35:47 +0800</pubDate><description><![CDATA[论文标题： Lost in Stories: Consistency Bugs in Long Story Generation by LLMs
论文作者： Junjie Li, Xinrui Guo et al. - Microsoft, Beijing
论文链接： http://arxiv.org/abs/2603.05890
代码链接： https://picrew.github.io/constory-bench.github.io/
论文关键词： Long-form Story Generatio]]></description><category></category></item><item><title><![CDATA[【论文笔记】Learning to Retrieve In-Context Examples for Large Language Models]]></title><link>https://blog.youkuaiyun.com/AustinCyy/article/details/159051418</link><guid>https://blog.youkuaiyun.com/AustinCyy/article/details/159051418</guid><author>AustinCyy</author><pubDate>Tue, 17 Mar 2026 22:40:25 +0800</pubDate><description><![CDATA[本研究系统性地解决了“如何为 ICL 检索最佳示例”的问题。相比于先前的启发式方法，LLM-R 的创新之处在于将 LLM 的内部概率分布转化为可学习的检索目标，并通过奖励模型平滑信号。这种“模型辅助检索训练”的思路为优化检索增强型大模型（RAG）和长文本处理提供了重要的参考价值。]]></description><category></category></item><item><title><![CDATA[【论文笔记】Quantifying Document Impact in RAG-LLMs]]></title><link>https://blog.youkuaiyun.com/AustinCyy/article/details/158849719</link><guid>https://blog.youkuaiyun.com/AustinCyy/article/details/158849719</guid><author>AustinCyy</author><pubDate>Tue, 17 Mar 2026 20:26:34 +0800</pubDate><description><![CDATA[这篇论文提供了一种非侵入式的方法来拆解 RAG 的生成过程。它不需要修改模型架构，只需通过多次推理观察“语义熵”的变化，就能像“X 光”一样透视出到底是哪个文档在影响 LLM 的决策。]]></description><category></category></item><item><title><![CDATA[【论文笔记】Jailbreak and Guard Aligned Language Models with Only Few In-Context Demonstrations]]></title><link>https://blog.youkuaiyun.com/AustinCyy/article/details/158978550</link><guid>https://blog.youkuaiyun.com/AustinCyy/article/details/158978550</guid><author>AustinCyy</author><pubDate>Tue, 17 Mar 2026 20:26:18 +0800</pubDate><description><![CDATA[摘要： 本文提出利用上下文学习(ICL)操纵大语言模型(LLM)安全表现的新方法。研究表明，仅需少量示例即可实现模型越狱(ICA)或增强防御(ICD)。理论分析表明，ICL通过贝叶斯更新改变模型对任务性质的判断，且防御比攻击更具效率优势。实验显示，20个攻击示例可使GPT-4越狱成功率升至81%，而2个防御示例即可显著降低攻击成功率。该方法为模型安全测试和防护提供了高效工具，揭示了LLM安全行为的可塑性。]]></description><category></category></item><item><title><![CDATA[【论文笔记】Scalable Defense against In-the-wild Jailbreaking Attacks with Safety Context Retrieval]]></title><link>https://blog.youkuaiyun.com/AustinCyy/article/details/158935269</link><guid>https://blog.youkuaiyun.com/AustinCyy/article/details/158935269</guid><author>AustinCyy</author><pubDate>Tue, 17 Mar 2026 20:26:01 +0800</pubDate><description><![CDATA[SCR 提供了一种模型无关（Model-agnostic）且即插即用的防御新范式。它避免了频繁微调的昂贵成本，通过“以例示警”的方式，让 LLM 在推理阶段能实时识别并抵御未知的越狱手段。优势：防御能力随记忆库扩充线性增长。一个检索模块可同时保护多个不同的 LLM 实例。发现新攻击后，分钟级即可完成入库更新。防御效果高度依赖于安全示例库的质量和覆盖面。对于高度复杂或模糊的输入，检索机制可能无法精确匹配最佳安全上下文。引入检索模型会增加一定的计算开销，在高并发场景下需进一步优化。]]></description><category></category></item><item><title><![CDATA[【论文笔记】Families’ Vision of Generative AI Agents for Household Safety Against Digital and Physical Thr]]></title><link>https://blog.youkuaiyun.com/AustinCyy/article/details/157221718</link><guid>https://blog.youkuaiyun.com/AustinCyy/article/details/157221718</guid><author>AustinCyy</author><pubDate>Wed, 21 Jan 2026 21:10:08 +0800</pubDate><description><![CDATA[本文通过定性研究揭示了家庭对 Generative AI agent 的真实期待：安全不应是监控，而应是嵌入日常照护角色中的协作支持。论文提出的多 agent 框架与隐私原则，为未来家庭 AI 系统设计与 Agent Safety 研究提供了重要的人本参考。Agent Memory 的隐私设计，与本文提出的四项标准结合。对齐本文提出的 MAS 框架设计和实现特定的 AI Agent demo。]]></description><category></category></item><item><title><![CDATA[【论文笔记】MasRouter: Learning to Route LLMs for Multi-Agent Systems]]></title><link>https://blog.youkuaiyun.com/AustinCyy/article/details/156994476</link><guid>https://blog.youkuaiyun.com/AustinCyy/article/details/156994476</guid><author>AustinCyy</author><pubDate>Sun, 18 Jan 2026 21:38:18 +0800</pubDate><description><![CDATA[针对提到的问题，作者首次系统性的提出了一个问题：Multi-Agent System Routing（MASR）对于任意输入 query，在给定 LLM 池、角色池和协作模式集合的情况下，自动构建一个“性能—成本最优”的 MAS。Collaboration Mode Determination 选择合适的多智能体通信拓扑Agent Role Allocation 决定 agent 数量与角色组合Agent LLM Routing 为每个 agent 分配合适的 LLMSMRTSM。]]></description><category></category></item><item><title><![CDATA[【论文笔记】ADL: A Declarative Language for Agent-Based Chatbots]]></title><link>https://blog.youkuaiyun.com/AustinCyy/article/details/156914172</link><guid>https://blog.youkuaiyun.com/AustinCyy/article/details/156914172</guid><author>AustinCyy</author><pubDate>Thu, 15 Jan 2026 21:38:42 +0800</pubDate><description><![CDATA[ADL 通过解耦智能体声明与 Python 编程，显著提升了 ToD 系统的可读性、可维护性和调试效率。ADL 的自然语言显式编程相较于 Python + 各种多智能体框架 + prompt 而言，更易被 开发者阅读，更简洁，且更易被LLM 理解，从这一角度出发，我们可能可以基于此开发一些更加上层的编程方式，区别于现在的 agent workflow 的各种编程方式，使其更易深入各行各业。声明式定义 仍需要 与 LLM 的基础能力配套设计。]]></description><category></category></item><item><title><![CDATA[【论文笔记】RAG MAKES GUARDRAILS UNSAFE? INVESTIGATING ROBUSTNESS OF GUARDRAILS UNDER RAG-STYLE CONTEXTS]]></title><link>https://blog.youkuaiyun.com/AustinCyy/article/details/156613106</link><guid>https://blog.youkuaiyun.com/AustinCyy/article/details/156613106</guid><author>AustinCyy</author><pubDate>Tue, 13 Jan 2026 21:56:09 +0800</pubDate><description><![CDATA[作者提出一个不需要人工标注的新指标：Flip Rate（翻转率）定义为：当 guardrail 在 normal context 和 RAG-style context 下给出不同判断就记为一次 Flip。随着大模型从“单模型生成”逐步演进为系统级架构（LLM + Tool + RAG + Guardrails），安全机制本身正成为系统中的一个独立模块。简单的 Prompt 修改或增加推理能力是不够的，未来需要专门针对 RAG 场景训练更强韧的护栏模型。这也是本篇论文的切入点。]]></description><category></category></item><item><title><![CDATA[【论文笔记】RAG LLMs are Not Safer: A Safety Analysis of Retrieval-Augmented Generation for LLM]]></title><link>https://blog.youkuaiyun.com/AustinCyy/article/details/155571894</link><guid>https://blog.youkuaiyun.com/AustinCyy/article/details/155571894</guid><author>AustinCyy</author><pubDate>Mon, 05 Jan 2026 03:20:18 +0800</pubDate><description><![CDATA[首次系统性证明：RAG 并不更安全，反而常常更危险。提出新的安全失败模式： safe model + safe docs→→揭示安全对齐的 “设置依赖性” 问题。证明现有的 red-teaming 方法对 RAG 不充分。RAG 不是 安全增强器，而是一个 “安全再分布器”，任何声称安全的 LLM，在进入 RAG / Agent 设置后，都必须重新接受安全评估。]]></description><category></category></item><item><title><![CDATA[【论文笔记】An Empathy-Based Sandbox Approach to Bridge the Privacy Gap]]></title><link>https://blog.youkuaiyun.com/AustinCyy/article/details/155317072</link><guid>https://blog.youkuaiyun.com/AustinCyy/article/details/155317072</guid><author>AustinCyy</author><pubDate>Fri, 28 Nov 2025 20:21:55 +0800</pubDate><description><![CDATA[而这篇论文构建的沙盒环境则提供了一个零风险的训练场，它允许用户暂时“穿上”人工生成的虚拟角色的身份外衣，并在该角色的身份下体验各种隐私选择所带来的真实系统后果（例如，看到精准的定向广告）。通过这种角色扮演和共情 的方式，用户得以在没有泄露自己真实隐私数据的前提下，直观地感知隐私数据与系统结果之间的因果关系，从而有效地获取隐私知识和情感共鸣，最终促使他们做出与自身隐私目标相符的长期行为改变。如果广告重叠率低于 50%，则表明当用户切换角色时，超过一半的广告是独特的，证明沙盒的数据替换机制是有效的。]]></description><category></category></item><item><title><![CDATA[【论文笔记】REL-A.I.: An Interaction-Centered Approach To Measuring Human-LM Reliance]]></title><link>https://blog.youkuaiyun.com/AustinCyy/article/details/155271736</link><guid>https://blog.youkuaiyun.com/AustinCyy/article/details/155271736</guid><author>AustinCyy</author><pubDate>Thu, 27 Nov 2025 15:11:48 +0800</pubDate><description><![CDATA[如果一个药瓶（LLM）的标签（认知标记）正确地标明了药效（不确定性），但因为瓶子的设计（温暖度、历史表现）让人觉得它特别可靠，即使药效不明（中等确定性），用户仍可能会过度依赖，那么这个产品在现实世界的安全性就是存在问题的。也就是说，围绕模型的基础能力的评估并不能满足真实场景下的人机交互的安全需求，换句话说，基础能力的测试并未考虑到人的参与。上，即模型的预测概率是否与其准确率相匹配（例如，模型说有80%的把握，准确率是否确实为80%），换句话说就是 测评的是模型的基础能力（比如回答的正确率）。]]></description><category></category></item><item><title><![CDATA[【论文笔记】As Confidence Aligns: Exploring the Effect of AI Confidence on Human Self-confidence]]></title><link>https://blog.youkuaiyun.com/AustinCyy/article/details/153050127</link><guid>https://blog.youkuaiyun.com/AustinCyy/article/details/153050127</guid><author>AustinCyy</author><pubDate>Mon, 27 Oct 2025 01:41:44 +0800</pubDate><description><![CDATA[这篇论文首次系统地探究了人工智能（AI）所表达的置信度（Confidence）如何影响人类的自信（Self-confidence），以及这种影响对人机协作决策有效性的后果。研究发现人类的自信会向 AI 的置信度靠拢（即“信心一致”），且这种一致性会影响人类的自信校准（Calibration）并降低人机决策的效率。]]></description><category></category></item><item><title><![CDATA[【论文笔记】Introduction to Explainable AI]]></title><link>https://blog.youkuaiyun.com/AustinCyy/article/details/153462734</link><guid>https://blog.youkuaiyun.com/AustinCyy/article/details/153462734</guid><author>AustinCyy</author><pubDate>Fri, 17 Oct 2025 12:35:27 +0800</pubDate><description><![CDATA[狭义定义：使模型决策对人类可理解的技术与方法。广义定义（“可理解 AI”）：涵盖对模型、数据、性能、输出范围、局限性等全方位的透明化。]]></description><category></category></item><item><title><![CDATA[【论文笔记】Fostering Appropriate Reliance on Large Language Models]]></title><link>https://blog.youkuaiyun.com/AustinCyy/article/details/150554611</link><guid>https://blog.youkuaiyun.com/AustinCyy/article/details/150554611</guid><author>AustinCyy</author><pubDate>Fri, 10 Oct 2025 01:38:02 +0800</pubDate><description><![CDATA[本研究采用混合方法，系统地识别并量化了LLM回应的三个关键特征（解释、来源、不一致性）对用户信任的影响。明确了解释会普遍增加信任，而来源和不一致性是减少过度信任的有效机制。提供了关于用户如何解释LLM解释、如何进行来源点击以及解释和来源之间交互作用的细致见解。]]></description><category></category></item><item><title><![CDATA[【论文笔记】Exploring Collaboration Mechanisms for LLM Agents: A Social Psychology View]]></title><link>https://blog.youkuaiyun.com/AustinCyy/article/details/151147761</link><guid>https://blog.youkuaiyun.com/AustinCyy/article/details/151147761</guid><author>AustinCyy</author><pubDate>Wed, 03 Sep 2025 15:55:35 +0800</pubDate><description><![CDATA[论文引入了两种与人类社会动态相似的智能体特质：“随和型”（easy-going）和“过度自信型”（overconfident）。适应性强，与不同类型的智能体兼容，有助于形成和谐的社会结构。倾向于高估自身能力，忽视潜在风险，并抵制他人意见。论文探讨了两种多轮协作下的思维模式：“辩论”（debate）和“反思”（reflection）。多个智能体提出观点，交换意见，进行集体论证并最终达成共识。这种模式促进知识共享和学习。智能体回顾自己之前的回答，从中吸取经验并相应地优化其答案。]]></description><category></category></item><item><title><![CDATA[【论文笔记】STORYWRITER: A Multi-Agent Framework for Long Story Generation]]></title><link>https://blog.youkuaiyun.com/AustinCyy/article/details/149103035</link><guid>https://blog.youkuaiyun.com/AustinCyy/article/details/149103035</guid><author>AustinCyy</author><pubDate>Sat, 16 Aug 2025 23:08:46 +0800</pubDate><description><![CDATA[研究只考虑了英文，并不支持多语言生成只关注了小说故事生成，并未考虑其他艺术风格该文章中的复杂叙事结构，其实就是把 生成的 Outline 在扩写后，交给 LLM 重构了 Outline 的顺序，这样不能解决实际问题，只是表面上的工作，该处可以参考中对于复杂叙事结构的描述，或许有参考价值。生成长度为 4000 字，并不能很好的解决小说的故事生成，还是个 toy。]]></description><category></category></item><item><title><![CDATA[【论文笔记】Multi-Agent Based Character Simulation for Story Writing]]></title><link>https://blog.youkuaiyun.com/AustinCyy/article/details/150452216</link><guid>https://blog.youkuaiyun.com/AustinCyy/article/details/150452216</guid><author>AustinCyy</author><pubDate>Sat, 16 Aug 2025 21:54:35 +0800</pubDate><description><![CDATA[故事生成，多智能体系统，角色模拟。]]></description><category></category></item></channel></rss>