26、机器学习系统的类型、实现与考量

机器学习系统的类型、实现与考量

1. 机器学习系统类型

1.1 委托式系统

委托式系统需要在出现故障时仍能继续运行，并且系统中要有合格人员（如护士）在故障元件损坏时进行操作。不过，团队在设计委托式系统时可能会犯一个错误，即给人类操作员设置虚假控制。若系统在错误无法修复时才将控制权交回人类，那就不是真正的委托，而是彻底的失败。例如在生命支持系统中，如果护士在患者心脏骤停时才知晓机器故障，那就为时已晚。在现实案例中，飞机曾因控制系统进入失速状态，却在无法避免坠毁时才让人类飞行员介入，导致数百人丧生。所以，真正的操作员（如飞行员或护士）必须有足够的时间和权限来应对突发情况，并能做出避免灾难的决策。

1.2 自主系统

自主系统可以在长时间内无需人工干预，独立运行。比如毅力号火星车可看作委托式系统，因为其控制环节可分解为多个元素，由人类进行审查和批准。若它陷入沙坑，并非是机器学习和人工智能规划器失败，而是操作不当，或者说是尽管团队尽力仍出现了失误。而自动驾驶汽车则是完全自主的系统，乘客乘坐自动驾驶汽车前往特定目的地时，若途中发生事故，责任在于开发并销售该自动驾驶汽车的团队。

2. 自主系统的特点与挑战

2.1 不同领域的自主系统

自主系统在不同领域有不同表现。自动驾驶技术自2007年开始在城市环境中部署，但15年后仍未广泛应用，这是由于现实世界中部署和操作自动驾驶车辆存在诸多复杂因素。相反，自主机器学习系统已被用于管理和创造互联网上最流行的社交网络和内容推荐系统的用户体验。大型社交网络使用推荐系统算法选择要在用户时间线上展示的帖子和故事，对用户来说，这看似是辅助系统，但实际上用户无法选择看到或看