某咨询机构已同意退还澳大利亚政府合同的部分款项，此前该机构承认使用生成式AI制作了一份充满虚假引用、虚构脚注甚至编造联邦法院判决引文的报告。
这家咨询巨头确认将退还与澳大利亚就业与工作关系部签订的44万澳元合同的最后一笔款项。该部门上周末重新上传了修正版报告——时机恰好安排在周末。
更新版本删除了十余个虚假参考文献和脚注，重写了部分文本并修复了各种拼写错误，尽管官员们坚称报告的"实质内容"保持不变。
这项于去年12月委托的工作涉及"目标合规框架"——政府用于惩罚未履行求职面试等义务的福利领取者的IT驱动系统。
当报告于7月首次发布时，悉尼大学学者克里斯托弗·鲁吉博士发现了多处捏造内容，促使该咨询机构展开调查。鲁吉最初指出这些错误可能是聊天机器人"幻觉"倾向所致，当时该咨询机构拒绝确认这一怀疑。
如今的新版本在其方法论部分包含了一份声明：该咨询机构使用了"基于某中心OpenAI GPT-4o的大型语言模型的生成式AI工具链，该工具链由就业与工作关系部授权并托管在其某中心租户上"来填补"可追溯性和文档空白"。简而言之，该机器人协助进行了分析和交叉引用。鲁吉称此为"供认"，认为该咨询机构承认将AI用于"核心分析任务"但未能事先披露。
"当报告的基础建立在一个有缺陷、最初未披露且非专业的方法论上时，你无法相信其建议，"他告诉《澳大利亚金融评论》。
该咨询机构长期吹嘘其AI实力并向客户提供"负责任AI"培训，如今却不得不面对自家报告被曝光受AI污染的尴尬局面。在全球范围内，该机构年收入超过700亿美元，其中越来越多的部分来自AI伦理、政策和部署方面的咨询——而非意外引用不存在的学者。
被删除的材料包括对悉尼大学法学教授丽莎·伯顿·克劳福德和隆德大学比约恩·雷格内尔虚构报告的引用，以及来自机器人债务案阿马托诉联邦案的虚构摘录。甚至连"戴维斯法官"——显然是指詹妮弗·戴维斯法官——也出现在原始版本中，附带从其判决书不存在的第25和26段编造的引文。
尽管如此，就业与工作关系部坚称"独立审查的实质内容得以保留，建议没有变化"。消息人士告诉《澳大利亚金融评论》，该咨询机构的内部审查将失误归咎于人为错误而非AI滥用——尽管考虑到幻觉引用列表，这种辩护可能会考验人类轻信的限度。
对于一家以严谨性收取高额费用的四大会计师事务所而言，这一事件可能会让一些焦虑的合伙人悄悄检查他们的PPT文件是否包含虚构教授。
对公共部门客户的启示很明确：如果你为专家分析向四大会计师事务所支付数十万费用，你可能需要确保专家不是个喜欢创意写作的聊天机器人。该咨询机构未回应置评请求。
更多精彩内容 请关注我的个人公众号 公众号（办公AI智能小助手）或者 我的个人博客 https://blog.qife122.com/
对网络安全、黑客技术感兴趣的朋友可以关注我的安全公众号（网络安全技术点滴分享）
扫一扫
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
