AIDEFEND：免费的人工智能防御框架

AIDEFEND（人工智能防御框架）是一个致力于人工智能安全的开放知识库，提供防御对策和最佳实践，帮助安全专家保护人工智能和机器学习系统。

实用性是 AIDEFEND 的核心。该框架旨在“高度可操作”，其目标不仅在于提高人们对威胁的认识，还在于提供清晰的防御方案。

每种技术和子技术都与 MITRE ATLAS、MAESTRO 以及 OWASP 十大 LLM 和 ML 威胁列表中的具体威胁相对应。同样重要的是，该项目是开源的，旨在打造一个供整个社区使用和贡献的动态知识库。
 

未来计划和下载

首要任务是“根据新出现的威胁情报和防御研究，不断扩展和完善技术和子技术”。

除此之外，作者正在探索更细粒度、更聚焦主题的视角和防御性策略，并将代理人工智能、多模态系统和边缘人工智能安全等领域的技术整合在一起，以便特定用例的用户能够获得定制化的指导。他还计划扩展与其他组织工作的整合，并在项目发展过程中保持对新想法的开放态度。

AIDEFEND 可在GitHub上免费获取。

GitHub - edward-playground/aidefense-framework: An open-source knowledge base of defensive countermeasures to protect AI/ML systems. Features interactive views and maps defenses to known threats from frameworks like MITRE ATLAS, MAESTRO, and OWASP.