24、软件风险与责任：历史案例剖析

软件风险与责任：历史案例剖析

1. 工作系统中的风险因素

在工作系统里，事故的发生往往涉及硬件、软件和人力这三个方面。在某些事故中，软件可能比其他两者的影响更大；而在另一些事故中，人力因素的影响可能更为突出，特别是在人力缺乏有效培训的情况下。

有一种观点认为，在工作系统中，人力比硬件和软件更容易出错。Leveson指出，大多数工作场所的事故是由她所说的“安全文化”中的人力因素导致的，这种安全文化包括过度自信、自满、对安全重视程度低以及接受有缺陷的冲突目标解决方案等。此外，员工培训不足和士气低落也是重要因素。在人员流动较大的工作系统中，如果在关键安全决策过程中忽视人力因素，可能会导致系统安全面临高风险。

这种观点还因计算机的可信度问题和一些错误观念而得到强化。人们普遍认为计算机更可靠、风险更小，软件测试能消除软件错误，软件可靠性的提高自动意味着安全性的提高，以及软件复用能提高其安全水平，但这些都是错误的观念。软件安全和人力因素一样难以预测。

不过，智能计算机技术和通信设备的发展或许能减少工作场所中的人力因素。但这并不意味着工作系统将无错误，由于硬件错误比人力和软件错误更容易预测，这会将负担转移到软件上。硬件错误通常容易定位和修复，而软件错误可能需要花费数小时才能找到，修复则可能需要更长时间。而且，软件系统正变得越来越复杂，代码复杂，交付时间紧迫。

2. 软件风险的历史演变

早期的“神奇机器”时代，计算机用户和数据的风险与脆弱性并不是问题。当时软件是嵌入式的，与现在的概念不同，计算系统以硬件为主，项目规模较小。随着系统变得更小且对硬件的依赖减少，软件从硬件中分离出来，项目规模变大、变得复杂，且更依赖软件和人力，风险和脆弱