11、机器学习安全与不确定性分析

机器学习安全与不确定性分析

1. 安全威胁检测

在生产环境中运行具备安全功能的系统时，我们需要将威胁检测策略纳入安全的云环境中。自动化的监控操作能够帮助我们快速检测到恶意活动，并及时采取缓解措施来消除安全漏洞。若检测不及时，关键和敏感信息就可能会落入攻击者之手。

1.1 常见威胁类型

机器学习服务在生产中主要面临两种威胁：已知威胁和未知威胁。未知威胁通常是攻击者使用新方法和技术发起的。这两种威胁都可以通过威胁情报服务来应对，例如安全信息和事件管理（SIEM）系统、杀毒软件、入侵检测系统（IDS）和 Web 代理技术。

1.2 威胁检测机制

• 行为分析 ：跟踪和监控用户与实体的行为分析，这是 IT 和信息安全策略的主要组成部分，有助于预防攻击并进行根本原因分析。
• 设置陷阱 ：安全团队会设置陷阱，如蜜罐目标，吸引攻击者上钩。一旦攻击者进入系统，就会向安全团队发送警报。
• 主动扫描 ：使用安全工具主动扫描服务、网络和端点，发现潜在的威胁并发出警报。

1.3 防御措施

一个强大的威胁检测程序应采用先进的安全技术，实施以下防御措施：
- 聚合网络中各种事件的数据，包括身份验证、网络访问以及云系统中关键组件和微服务的日志。
- 主要的威胁检测组件应具备处理实时数据流和数据库或缓存中存储数据的能力，即需要在所有组件（如代理、负载均衡器、微服务、数据库、缓存和消息管道）上运行监控代理，以辅助事件响应和警