- 博客(8)
- 收藏
- 关注
RSS订阅原创 AI时代的红队测试：挑战和机遇
AI重塑红队测试：安全评估的新范式 随着AI技术的快速发展，红队测试正经历智能化变革。传统红队测试通过模拟攻击评估系统安全，而AI的融入显著提升了自动化能力与漏洞挖掘效率。工具如PentestGPT可实现全流程自动化渗透，AI智能体（如微软红队智能体）更可系统探测AI模型风险。研究显示，AI在复杂漏洞发现（如SQL注入变体）和攻击路径规划上远超人类效率。市场层面，AI安全工具融资活跃，但挑战并存——攻击仍以传统TTPs为主，且AI攻防持续升级。未来，人机协同、智能全流程覆盖及AI系统专项测试将成为趋势，企业
2025-07-03 16:57:47
957
原创 AI 应用测试指南 (面向传统测试工程师)-06.AI伦理与偏见测试
《AI应用测试指南：伦理与偏见测试要点》摘要 本文针对传统测试工程师，重点阐述AI伦理与偏见测试的核心方法：1）算法偏见测试，需通过群体公平性分析、反事实测试等方法验证模型对不同群体的公平性；2）透明度测试，要求AI提供可解释的决策依据，如信贷审批中的具体拒绝原因；3）社会规范测试，评估AI对文化敏感性、刻板印象等问题的处理是否符合道德标准。测试案例包括招聘模型中的性别平等验证、贷款审批解释性测试等，强调AI应避免歧视性输出并保持价值观中立。（150字）
2025-07-02 16:32:35
752
原创 AI 应用测试指南 (面向传统测试工程师)-05. 知识库关联测试（25.7.1新增）
随着AI应用与企业知识库、文档库或外部数据源的深度集成，确保AI能够准确、安全地利用这些知识变得至关重要。这类测试关注于验证AI在检索、理解和应用外部知识时的表现。
2025-07-01 17:41:19
789
原创 AI 应用测试指南 (面向传统测试工程师)-测试实施建议和总结
本指南旨在帮助传统测试工程师快速理解AI应用的核心测试要点，掌握AI应用测试的关键技能。此为最后部分：总结
2025-06-27 16:46:18
739
原创 AI 应用测试指南 (面向传统测试工程师)-04. 连续对话能力测试 (上下文理解)
本指南旨在帮助传统测试工程师快速理解AI应用的核心测试要点，掌握AI应用测试的关键技能。此为第四部分：连续对话能力测试 (上下文理解)
2025-06-27 16:39:35
910
原创 AI 应用测试指南 (面向传统测试工程师)-03.移动端兼容性测试
本指南旨在帮助传统测试工程师快速理解AI应用的核心测试要点，掌握AI应用测试的关键技能。此为第三部分：移动端兼容性测试
2025-06-27 16:35:46
663
原创 AI 应用测试指南 (面向传统测试工程师)-02.数据与内容安全测试
本指南旨在帮助传统测试工程师快速理解AI应用的核心测试要点，掌握AI应用测试的关键技能。此文章为第二部分数据及内容安全测试。
2025-06-27 16:28:39
1071
原创 AI 应用测试指南 (面向传统测试工程师)-01.性能测试
本指南旨在帮助传统测试工程师快速理解AI应用的核心测试要点，掌握AI应用测试的关键技能。此为第一部分：性能测试
2025-06-27 16:13:38
976
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人