delta的博客

本文提出了一种基于模型检查的最小割集计算方法——故障森林组合，通过扩展过渡系统引入故障激活文字，并利用JKind模型检查器中的All MIVCs算法生成最小归纳有效性核心（MIVC）。结合最小修正集（MCS）与命中集算法，自底向上组合分析结果，最终转化为DNF形式的最小割集。该方法在AADL的Safety Annex中实现，依托AGREE进行假设-保证推理，支持分层安全分析。相比传统BDD等方法，具备更好的可扩展性。未来工作包括生成图形化分层故障树及开展方法的可扩展性评估。

本文探讨了非确定性动态故障树的模块化处理方法与故障森林合成的组合技术。模块化方法显著提升了故障树分析的效率与可扩展性，有效缓解了状态空间爆炸问题；而故障森林合成方法则为关键系统提供了全面的故障组合枚举与认证支持。两者结合为航空航天、核能等领域的复杂系统安全分析提供了高效、准确的技术路径。实验结果表明，模块化使解决实例数从22/156提升至142/156，总耗时减少近五倍。未来方向包括优化模块划分、扩展应用场景及融合人工智能技术。

本文提出了一种针对非确定性动态故障树（NdDFT）的模块化方法，旨在解决传统动态故障树在备件激活顺序上的语义僵化问题以及合成恢复自动机时面临的状态空间爆炸挑战。通过将故障树分解为多个独立模块，分别进行恢复自动机的合成与简化，并最终组合成整体恢复策略，显著提升了方法的可扩展性。实验结果表明，该方法在处理大规模故障树时，在时间和内存消耗方面均优于传统非模块化方法。未来工作将聚焦于优化模块化规则、扩展故障类型支持及集成更多RAMS优化指标。

本文探讨了制药4.0背景下自动化质量保证与文档框架的构建，以Car-T细胞生产为例，阐述了从生产流程、保证案例建立到自动生成批次记录子模型的全过程，并介绍了协作资产子模型在质量控制中的应用。同时，针对可靠性工程中的非确定性动态故障树（DFT）问题，提出了一种模块化方法合成恢复自动机，有效应对备用竞争等非确定性挑战，在FFORT基准上验证了其可行性。文章最后展望了制药自动化与系统可靠性的未来研究方向，包括工具驱动实现、模型驱动药物开发（MID3）以及模块化方法的优化与集成。

本文探讨了制药4.0背景下基于模型的自动化质量保证与文档框架，针对先进治疗药物产品（ATMPs）生产中人工质量保证效率低、易出错的问题，提出结合数字双胞胎与保证案例的方法，实现从顶级质量风险到生产证据的端到端可追溯性。通过资产管理壳（AAS）和子模型技术，支持自动化数据采集、证据验证与质量文档生成，提升生产效率、降低人为错误，并增强药品警戒能力。文章还分析了该框架的优势、局限性及未来研究方向，为实现高度自动化、合规且可持续的个性化制药提供了可行路径。

本研究通过在Carla模拟器中对自动驾驶代理进行攻击与故障注入实验，评估了不同对抗攻击（如HopSkipJump、BIM、STA、NewtonFool）和故障类型（随机神经元/权重注入）对系统安全性和可靠性的影响。实验基于NoCrash基准，在Town01和Town02场景下分清洁运行与注入阶段进行测试。结果表明，部分攻击显著降低驾驶稳定性并增加碰撞风险，而每层神经元故障注入影响最为严重。研究揭示了自动驾驶系统的潜在脆弱性，强调了开发过程中安全防护机制的重要性，并为后续鲁棒性研究提供了可行方法框架。

本文研究了端到端自动驾驶代理在对抗攻击和软件故障下的安全风险，利用现有工具ART和PyTorchFI，在Carla模拟器中对Learning by Cheating（LbC）代理进行攻击与故障注入实验。通过四种逃避攻击（空间变换、HopSkipJump、基本迭代方法、NewtonFool）和多种神经元/权重扰动模型，评估其对自动驾驶行为的影响。实验结果表明，各类攻击和故障均会导致碰撞、交通违规及行驶能力下降，揭示了当前模型的脆弱性。文章还分析了方法局限性，并提出未来应加强防御机制、扩展实验场景及软硬件协同安

本文探讨了协作机器人系统的安全评估与自动驾驶代理的攻击及故障注入问题。在协作机器人方面，研究通过数字孪生仿真、安全工件监测和多种搜索启发式方法（如随机搜索、遗传算法和质量多样性算法）识别系统中的不安全配置，并分析现有安全监测的不足。实验结果显示，当前方法虽能触发所有监测工件，但存在覆盖率缺口和未被识别的危险场景。在自动驾驶领域，研究通过对抗攻击和故障注入实验证明了机器学习代理面临的安全威胁，强调需加强保护措施与测试。文章还对比了不同研究方法的优劣，并对未来改进方向提出建议，包括优化覆盖指标、增强安全基线以及

本文介绍了SASSI方法——一种基于仿真的情境驱动测试方法，用于评估协作机器人系统的安全性。该方法结合系统理论过程分析（STPA）产生的安全工件，利用数字孪生进行仿真测试，并通过模糊线性时态逻辑（LTL）监测危险和不安全控制动作（UCA）的发生情况。研究验证了UCA并非危险发生的必要条件，但与其密切相关；同时证明基于情况的启发式搜索在覆盖率和缺陷发现效率上显著优于随机搜索。SASSI为协作机器人的人机共融场景提供了高效、可靠的安全评估框架。

本文介绍了一种将基于机器学习的故障注入集成到模拟辅助危险分析与风险评估（SAHARA）方法中的新方法，并在自适应巡航控制（ACC）系统中进行了验证。通过强化学习优化故障参数，结合CARLA与Simulink协同仿真，实现对故障场景的高效模拟与可视化。利用信号时态逻辑（STL）对严重程度和可控性进行形式化建模，并自动评估ASIL等级。结果表明该方法可在约20分钟内完成端到端流程，显著提升安全评估效率。尽管存在计算成本高和模型依赖性等局限，该方法为汽车功能安全提供了可交互、可扩展的半自动化评估路径，具有在工业实

本文探讨了仓库自动化叉车与人员在盲区交互的安全问题以及汽车系统中基于机器学习的故障注入在危害分析与风险评估中的应用。针对仓库场景，比较了不同安全概念的优劣，并提出结合基础设施传感器和行为预测的未来方向；在汽车安全领域，介绍了SAHARA方法如何利用CARLA和Simulink进行模拟、故障注入与可视化，通过强化学习搜索最危险故障参数，并依据ISO 26262标准进行危害等级分类。研究表明，该方法可高效地实现半自动化的风险识别与评估，同时指出了奖励函数设计和无头模式的局限性。最后展望了在行为预测和多系统扩展方

本文探讨了在仓库盲角处利用基础设施传感器实现自动叉车与人类工人安全交互的技术方案。分析了当前非视距物体检测技术的局限性，提出基于基础设施协同的自主控制架构，并设计了四种安全概念（SC0、SCA、SCB、SCC）。通过Webots仿真对比各安全概念在不同通信状态和人类行为下的性能与安全性，结果显示SCB在保障安全的同时保持较高效率，SCC在复杂场景中具备潜力，但可能因人员滞留导致效率下降。研究为仓库智能化升级提供了安全与效率平衡的参考方案。

本文探讨了机器学习在底盘控制与仓库自动叉车盲角安全交互两个工业场景中的应用。在底盘控制方面，分析了分类器评估、鲁棒性保障及现有标准的不足，强调需提升可解释性与验证方法；在仓库场景中，提出基于基础设施传感器的解决方案以应对盲区碰撞风险，并讨论责任从人类向系统转移的必要性。文章进一步总结共性挑战，包括标准缺失、数据依赖和系统可靠性，展望未来需在标准制定、技术创新和人机协同方面持续突破，推动工业自动化向更安全高效的方向发展。

本文探讨了在汽车底盘控制中应用机器学习（ML）进行路面分类时的安全保证方法。针对TNR（Tyre Noise Recognition）系统，提出了结合ISO 26262和ISO/PAS 21448的安全生命周期扩展方法，通过领域分析、系统设计、验证与确认（V&V）以及保证案例构建，确保ML系统满足ASIL B功能安全要求。重点分析了自适应广义学习矢量量化（AGLVQ）算法的优缺点，并提出不确定性量化、分布外检测、原型调整优化和数据增强等策略以应对ML局限性。整个安全保证流程采用迭代方式，结合性能指标评估与优

本文探讨了软件产品线中的安全案例分析与机器学习在底盘控制功能中的安全保障。在软件产品线方面，提出了基于GSN-IA′_correct定理的变更影响评估方法，并通过两个示例展示了算法的应用，同时介绍了MMINT-A框架的扩展以支持产品线模型。在机器学习安全保障方面，聚焦于基于声音模式的路面估计应用——轮胎噪声识别（TNR）组件，分析了所选ML技术的可解释性、鲁棒性和实时性能，并总结了结合现有标准进行安全保障的经验。文章还展望了未来在工业应用推广、算法扩展、用户体验优化以及复杂ML技术安全验证等方面的发展方向。

本文探讨了软件产品线（SPL）中安全案例的认证分析方法，提出基于Lean交互式定理证明器的形式化验证框架。通过引入提升数据结构和分治法设计，将单产品的GSN_IA变更影响评估算法扩展为支持可变性的提升版本GSN_IA′，并保证其正确性。文章详细阐述了算法设计、正确性标准、集成路径及与相关工作的比较，展示了该方法在处理SPL安全分析中的模块化、可靠性和高效性优势，为复杂系统安全论证提供了可重用、可验证的技术途径。

本文系统分析了安全案例维护的现状与挑战，指出现有方法在证据影响评估、上下文假设处理和工具支持方面的不足，并总结了未来研究方向，包括更准确的变更影响评估、定量分析及对更多变更场景的支持。针对软件产品线（SPL）环境下的安全关键系统，提出了一种基于Lean定理证明器的创新认证方法，实现了从单产品到产品线的安全分析提升。通过CIA算法示例展示了该方法在车道管理系统中的应用，强调了形式化验证和正确性保障的重要性。研究还探讨了与MMINT-A等模型管理框架的集成可能性，为提升安全案例维护的自动化与可靠性提供了新路径。

本文综述并分析了2000-2020年间安全案例维护领域的26种方法，通过手动搜索、自动搜索与滚雪球法筛选出65篇相关文献。研究从自动挑战检测、影响传播、假阳性、定量分析、更新指导和工具支持六个维度对方法进行评估，并考察其在十类系统变更场景下的适用性。结果表明，现有方法在自动化准确性、定量变更影响分析、安全案例更新指导及变更场景覆盖方面存在明显不足。文章进一步分类对比了商业方法、形式化生成、模式实例化、运行时更新等技术路线的优劣，提出了提高准确性和扩展适用性的改进建议，并指明融合多方法、实现实时自适应维护和拓

本文综述了安全案例自动化与维护的现状与未来发展方向。在自动化方面，介绍了AdvoCATE、Resolute和SADL等工具与方法，并提出了基于CAPEC和NIST的自动片段生成与工具链实现优势。在维护方面，分析了现有方法在影响识别、更新指导和定量评估方面的局限性，强调需提升变更影响分析的准确性与自动化水平。未来研究建议扩展威胁防御覆盖、集成多源证据、提高影响识别精度、丰富更新场景指导并加强定量评估能力，以增强安全案例的可靠性与可维护性。

本文介绍了一种基于VERDICT工具链的安全案例自动化方法，通过增强的目标结构化表示法（GSN）、预定义的安全保障案例模式和基于模型的架构分析（MBAA），实现对安全关键系统中潜在漏洞的高效检测与追溯。结合攻击-防御树分析、CAPEC/NIST数据集成以及可视化彩色GSN分支，该方法支持自动构建可追溯、一致性强的安全保障论证。通过无人包裹交付无人机的案例研究，验证了该方法在实际应用中的有效性，并提出了模式库扩展、更高自动化程度及技术集成等未来发展方向。

本文探讨了现代车辆安全事故风险评估与安全保障案例的自动化生成方法。通过分层车辆架构和ASOA通信设计，结合离线阶段的损害场景识别、ECU攻击潜力分析与资产依赖图构建，以及在线阶段的攻击检测、时间消耗优化、补偿行动选择和参数校准，系统化地评估车辆安全风险。同时，利用VERDICT工具链和增强型GSN模式实现安全保障案例的自动化生成，提升效率与准确性。文章还总结了当前优势与挑战，并展望了未来在智能检测、自适应响应、系统集成和标准化方面的发展方向，为智能车辆的安全保障提供了全面的技术路径。

本文详细介绍了汽车安全事件的风险评估方法，涵盖离线阶段的损害识别、ECU与资产评估、资产依赖图构建，以及在线阶段的攻击路径识别、可行性分析、上下文感知风险计算和车辆响应策略。基于ISO/SAE 21434标准，结合CIA安全模型和实际车辆运行上下文，提出了一套系统化的风险评估与应对流程，旨在提升智能网联汽车的信息安全防护能力与整体安全性。

本文提出了一种在传感器攻击下评估自动驾驶系统性能的框架，并设计了基于资产依赖图与车辆上下文信息的车辆安全事件风险评估方案。通过多目标跟踪算法参数分析，探讨了检测准确性与系统安全性的权衡；结合ISO/SAE 21434标准，构建了离线与在线两阶段的风险评估流程，实现了对安全事件的动态识别与响应。案例研究表明，该方案能有效识别攻击路径、准确评估风险并执行补偿措施，提升自动驾驶系统的运行安全性。未来工作将扩展至更多关键系统，推动仪器安全领域的发展。

本文探讨了K8s环境中基于极端值分析的性能风险及其缓解策略，并深入研究了自主系统在面对传感器攻击时的性能限制评估方法。通过结合STAMP/STPA安全分析与传感器攻击模拟，提出了一种创新的评估框架，用于识别如雷达、摄像头和LiDAR等传感器面临的干扰与欺骗攻击场景。以AEB系统为例，展示了从安全约束定义到危险场景识别、攻击场景构建及系统级模拟测试的完整流程，验证了该框架在不同攻击条件下的有效性，为提升自主系统的安全性与鲁棒性提供了理论支持与实践路径。

本文深入探讨了基于极值分析（EVA）的IT弹性设计方法，涵盖极值分布特性、风险建模与计算、工作流程及Kubernetes案例研究。通过分析形状参数ξ对分布类型的影响，结合峰度与偏度检测极端值，并利用GPD拟合长尾行为，实现对系统极端事件的精准建模。文章介绍了定价观测值、模拟、分析与近似四种风险计算方法，提出结合测量的EVA与风险模型的工作流程，并以冷备份策略为例展示冗余方案的评估方式。最后给出实际应用建议，强调数据预处理、模型验证与综合决策的重要性，为复杂IT系统的可靠性与弹性设计提供系统化方法论支持。

本文探讨了面向缩减占用空间的ACAS-Xu系统认证与IT系统弹性设计中的关键问题。在ACAS-Xu系统方面，提出通过形式化方法确保神经网络对查找表（LUT）的精确替代，弥补现有ML模型在航空认证中属性正确性与完整性不足的问题，并构建系统级保证案例以满足ARP4754A合规性要求。在IT弹性设计方面，引入极端值分析（EVA）方法，特别是阈值超额法（POT），用于建模罕见故障事件下的停机时间分布，支持高可用性系统的风险评估与资源规划。通过Kubernetes边缘计算环境下的容器重启时间案例研究，展示了EVA在实

本文提出了一种基于混合机器学习的ACAS-Xu系统认证解决方案，旨在通过神经网络替代传统大容量查找表，显著减小机载系统内存占用，同时引入安全网机制确保飞行安全。研究对比了多种神经网络架构，在准确率与资源消耗间取得平衡，并采用形式验证技术识别风险区域，构建可信赖的切换逻辑。结合Toulmin保证案例模型，提出了适用于机器学习组件的认证方法，为无人机与城市空中交通系统的安全运行提供了高保障、可认证的技术路径。

本文研究了在交通标志识别任务中，如何通过外部模型方法（不确定性包装器，UW）与模型内不确定性估计方法的比较，提升AI/ML模型的不确定性估计可靠性。研究涵盖数据准备、DDM训练与校准、不确定性估计方法对比及性能评估，重点分析了不同架构（单CNN与深度集成）和多种UW变体在Brier分数、方差、非特异性、不可靠性和过度自信等方面的性能表现。结果表明，在特定条件下使用UW可有效缓解训练数据不足的影响，实现关注点分离并提高可解释性与统计保证。文章最后提出了针对不同应用场景的五项建议，为安全关键系统的不确定性估计提

本文探讨了在安全关键系统中，如何通过‘不确定性包装器’（UW）这一模型外方法来提供更可靠、可解释的AI/ML模型不确定性估计。相比传统的模型内方法，UW遵循关注点分离原则，能处理模型拟合、输入质量和范围合规性三种不确定性来源，并支持设置统计置信水平。研究以交通标志识别为例，系统比较了UW与深度集成等模型内方法在不同条件下的表现，结果表明UW在可解释性和灵活性方面具有优势，且与模型内方法结合可进一步提升性能。该方法为提升AI系统的可信度和安全性提供了新路径。

本文探讨了神经网络分类器在上下文相关扰动下的鲁棒性评估与模型选择问题。通过在德国交通标志和CIFAR-10数据集上的实验，比较了不同模型在雾霾、对比度、模糊等自然扰动下的表现，结合基于测试的验证与形式验证方法，揭示了仅依赖未受扰动准确率选择模型的风险。研究提出使用DeepCert框架根据实际环境上下文进行模型选择与切换，并强调形式验证对鲁棒性保证的重要性。文章还分析了当前实验的局限性，提出了未来研究方向，并给出了实际应用中的模型选择与优化建议。

本文介绍了2021年计算机安全、可靠性与安全性的国际会议概况，包括会议组织、主题演讲、工作坊及支持机构，并重点阐述了一种名为DeepCert的工具支持方法，用于验证深度神经网络图像分类器在模糊、雾霾、对比度变化等上下文相关扰动下的鲁棒性。DeepCert结合基于测试和形式验证的方式，能够生成反例并辅助模型选择，相较于传统依赖Lp范数的小扰动分析技术更具实际应用价值。实验评估表明该方法可有效支持安全关键系统中DNN模型的可靠性保障，未来研究方向包括扩展扰动类型、优化验证效率、融合其他AI技术及拓展应用领域。