AI新突破：80%准确率识别虐待受害者，AIRS系统能提前5年标记！

IT界那些事儿

墨衍会员 · AI 创作全网分发码龄6年

关注

转载 2026-06-10 09:06:55 26 阅读 AI 写同款· GEO 优化 ›

UsageLog电脑使用记录软件立即下载

ZDNET核心要点

一款新的AI能够从医疗史中识别出虐待受害者，其准确率达80%，能在受害者披露情况的5年前就标记出他们。不过，过去的相关举措凸显了数据安全问题，亟待解决。

美国疾病控制与预防中心指出，超过三分之一的美国女性在一生中的某个阶段会遭遇亲密伴侣暴力（IPV）。许多受害者会带着伤痛、慢性疼痛、焦虑和抑郁前往医院或诊所就医。然而，即便她们在接受即时症状治疗时，往往也要过好几年才会说出自己的遭遇。

特别专题：数据如何改善你的健康

近二十年来，我们一直在听说“量化自我”，从计步设备发展到能为我们提供过去需去诊所花费数千美元才能获取的健康数据。我们来探讨这些健康数据如何切实影响你的生活，无论你是去看医生，还是忘了手腕上戴着的传感器。

研究人员多次警告，女性不敢向医疗服务提供者求助，原因包括害怕施虐者、经济依赖、移民身份和社会污名等。美国预防服务工作组建议对所有育龄女性进行常规IPV筛查，但美国疾病控制与预防中心估计，目前依赖自我报告的筛查工具只能发现一小部分受影响的患者。

哈佛医学院创伤影像研究与创新中心创始主任、布莱根妇女医院急诊放射科医生Bharti Khurana博士表示：“尽管多年来患者与医疗系统多次互动，但IPV在医疗系统中往往仍难以被察觉。”

Khurana与布莱根妇女医院、麻省理工学院和哈佛医学院的研究团队合作，于2026年3月发表了一项研究，提出了一种更快识别IPV的方法。这是一个AI模型，它利用患者健康记录中已有的数据，扫描出伴侣暴力高风险患者。但在该工具能在医院临床应用之前，其开发者必须解决一些尚存的安全和隐私问题。

填补关键信息空白

研究人员认为，识别风险所需的数据已然存在，但问题在于，AI是否能可靠、安全地读取这些数据并发挥作用。这正是该团队希望借助名为AIRS的系统解决的问题。

AIRS即自动IPV风险支持系统，该系统利用两种不同类型的数据，将它们结合起来，比该领域之前的研究更准确。

第一种是结构化医疗记录数据，即按行和列组织的数据，包括诊断结果、处方药物、放射检查的地点和时间、急诊室就诊频率、生命体征，以及用邮政编码级别的社会剥夺分数来代表社会经济压力。

第二种是非结构化临床笔记，即放射科医生、社会工作者、急诊医生和其他临床医生在与患者接触期间及之后撰写的自由文本记录。研究团队使用Clinical - Longformer（一种基于医学文本训练的临床语言模型）处理这些笔记，将每条笔记转换为模型可以分析的数字形式。

每个数据流都输入到各自独立的分类器中，然后使用名为HAIM（医学整体AI）的框架将两者结合起来，该框架在预测阶段融合输出结果，同时保持数据流的独立性。所以，如果医院的临床笔记不完整，或者缺少足够的结构化数据，另一个数据流仍能发挥作用。不同医疗机构的记录保存情况差异很大，这种设计解决了这一关键缺陷。

在主要测试组中，融合模型的AUC达到了0.88。AUC即受试者工作特征曲线下面积，是衡量模型区分病例和非病例能力的标准指标。分数为1.0表示完美；0.5则和随机猜测差不多。在所有三个验证组中，包括网络中另一家医院的患者，以及从未向任何家庭暴力项目求助但确诊为IPV的患者，该模型的AUC都高于0.8。

实际上，在患者自我报告之前，融合模型标记出了80.6%的IPV病例，平均提前3.68年披露。有些患者在自我披露前五年以上的记录就被识别出来了。

多年来的IPV技术

这并非首次有人尝试用AI识别亲密伴侣暴力受害者。二十多年来，多个国家已部署或测试了基于AI的评估针对妇女暴力行为的工具。

早在2007年，西班牙内政部就开发了一种名为VioGén的算法风险评估工具，警方，有时还有发布保护令的法官会使用该工具。然而，据多家新闻机构报道，自2007年以来，至少有247名女性在接受VioGén评估后被伴侣杀害。对其中98起凶杀案的审查发现，55名女性被评为风险可忽略或低风险。报告还显示，许多警察在评估时完全遵循算法，未做独立判断。

在英国，大多数警察部队使用基于问卷的工具DASH（家庭暴力、跟踪和荣誉暴力）对受害者风险进行分类。曼彻斯特大学和塞维利亚大学的研究人员在2022年的一项研究中发现，DASH无法识别最脆弱的受害者。此外，基于警方数据训练的机器学习模型表现明显更优。但该论文也指出，要将此类工具用于实际执法，许多伦理问题仍未解决。

与此同时，临床研究人员从另一个角度研究这个问题。2009年发表在《英国医学杂志》上的一项研究表明，纵向医院记录可以预测未来的家庭暴力诊断。最近，研究人员发布了一种自然语言处理算法，该算法在超过100万次急诊就诊的临床笔记中筛查与IPV相关的语言，识别IPV就诊的准确率达到99.5%。在澳大利亚，新南威尔士大学的研究人员对新南威尔士州警察局近50万份警方记录应用深度学习，以预测家庭暴力的再次发生。然而，由于存在挑战，这些努力大多未超出试点项目或局部应用的范围。与此同时，自我报告仍然是法律和医疗干预的标准方式。

Khurana解释说：“AIRS是一种更积极主动的方法，能帮助医疗服务提供者识别那些可能被忽视的患者。”不过，这绝不是绝对的。Khurana将AIRS描述为一种无声的临床支持工具，因为它向临床医生而非患者显示风险评分。她澄清道：“AIRS并非用于诊断IPV，阳性标记绝不能被解读为虐待的确凿证据。”该模型正在麻省总医院布莱根妇女医院的多个临床环境中进行积极的试点测试。除了AIRS，研究团队还制定了结构化的“关怀对话”指南和面向患者的“赋能指南”，以帮助临床医生在工具发出标记时以创伤知情的方式做出回应。阳性评分旨在引发支持性对话，而非自动干预。

伦理问题

尽管AIRS解决了许多先前的问题，但它可能还未达到实际临床应用的标准。拉筹伯大学高级讲师、IEEE解决家庭暴力AI行业联系活动联合主席Alexia Maddox表示，有几个问题需要首先关注。

Maddox指出，最重要的是，该论文将IPV定义为现任或前任伴侣的暴力或攻击行为。虽然在严格的临床环境中这可能是准确的，但Maddox解释说，该领域已基本不再采用这种定义。澳大利亚主要的家庭暴力风险评估框架MARAM现在将强制控制与身体暴力一起列为风险因素。强制控制指的是施虐者通过持续的情感、经济和技术手段实施的虐待，以控制伴侣的生活，例如，未经伴侣同意跟踪其电话和地理位置数据、未经授权访问其银行账户等。

这种区别对模型的检测能力有直接影响。AIRS读取骨折模式、急诊情况和慢性疼痛等身体暴力信号。但Maddox说：“强制控制、经济虐待和技术辅助虐待在放射报告或急诊记录中几乎不留痕迹。目前所理解的这些普遍存在的IPV形式，该模型基本无法检测到。”因此，遭受强制控制但没有身体伤害的患者不太可能出现在医院记录和家庭暴力项目登记的数据中。

还有同意问题，Maddox表示这比研究获得的机构审查委员会（IRB）批准更复杂。该模型基于六年的医疗记录构建。但在应用时，它将为可能不知情自己正在接受评估的患者生成风险评分。研究已经认识到这是一个重大挑战，并引用研究表明，披露过程中的侵犯和自主权丧失会阻碍求助行为。对于某些群体来说，这些风险更高。持临时签证的女性面临施虐者以取消签证作为控制手段。Maddox说，将女性与IPV风险评分相关联的数据库，再加上她们完整的医疗和社会经济记录，在美国当前的政治环境下可能会产生严重影响。

Maddox还以VioGén为例，说明模型的性能指标与实际效果之间的差距。她向ZDNET解释道：“变革性技术的历史表明，最接近技术突破的人往往最看不到其在现实世界中的后果。这正是为什么在部署前需要制定治理标准，而不是在出问题后才制定。”

同时，Maddox谨慎地将这些问题与对研究本身的批评区分开来。她说：“我所描述的局限性并非作者的过错，他们在自己的研究领域和专业范围内做得很好。他们完成了既定目标，而且做得很出色。”她指出，更紧迫的问题是研究成果与最终实际应用之间的差距。

展望未来

Khurana的团队已经在努力扩大模型的适用范围，以解决其中一些问题。AIRS是基于女性患者的数据进行训练的，但同性恋、跨性别和男性患者也有遭遇IPV的风险。Khurana说：“IPV影响着所有性别认同的人，将这项工作扩展到更好地支持跨性别和非二元性别的患者是未来的一个重要方向。”该团队还一直在研究跨性别患者的受伤模式和医疗使用情况，并致力于描述男性幸存者中伴侣暴力的表现，Khurana称这一群体在IPV研究文献中受到的关注明显不足。

在一项由美国国立卫生研究院资助的并行项目中，该团队还在努力识别与IPV相关的长期和渐进式健康风险，包括胃肠道疾病、神经系统疾病、心理健康状况和物质使用障碍。

与此同时，Maddox联合主持的IEEE倡议专注于在像AIRS这样的工具大规模负责任地部署之前所需的治理标准。该倡议汇聚了研究人员、技术专家、社区组织、从业者和监管机构，共同开发为这些高风险群体安全部署AI所需的系统和流程。Maddox表示，她相信AI应该成为应对家庭暴力的一部分，但它是否能真正为虐待受害者服务，取决于当局如何设计、部署、治理和监管它。同时，她承认目前还没有完全符合标准的模型，这就是为什么制定这些标准对未来的研究至关重要。用实际的话说，Maddox表示，用于应对家庭暴力的AI系统需要“在各种文化背景下，全面感知强制控制的各种表现形式，并从一开始就融入社区知识”，并且应该“由以保护其服务女性的安全、自主权和尊严为核心的框架进行治理”。她还重申，社区知识不仅仅是此类技术的道德附加物，而是区分系统是否有效的关键。