9、可信有机计算系统：挑战与展望

可信有机计算系统：挑战与展望

1 引言

有机计算（OC）系统高度动态，由大量可适应组件构成，且处于不断变化的环境中。为应对这些情况，OC 系统采用自组织机制，具备自我修复、自我适应和自我配置等特性。然而，传统软件系统的分析和设计技术已不适用于这种复杂结构的系统。OC 系统的新兴特性和极端动态性，要求我们以全新的方式看待此类系统，并开发新机制来描述、测量和利用这些特性。

信任在这类系统中尤为重要。一个不断变化、自主反应且可能以不可预见方式运行的系统，如何让人信任呢？答案是需要范式转变，人们要学会放弃对系统的部分控制。但在许多领域，这种转变不会完全实现，例如核反应堆不会仅由完全自主的系统控制，关键决策仍需人类参与。不过，在很多领域，自主性和适应性可提高系统性能并减少人工干预，而信任是 OC 系统在这些领域被接受的重要前提，它还是一种推动性概念。

信任对于构成复杂系统的实体也很重要。这些实体需在高度动态且可能充满敌意的环境中为共同目标协作。随着自主系统规模和实体数量的增加，实体间的关系和相互依赖变得难以管理和维护。现代计算系统的复杂性导致意外错误，仅靠传统软件设计方法无法预防，此时信任是决定性因素，它能降低大规模系统的复杂性，为合作提供框架并抵御恶意入侵。

此外，有机计算及其他处理复杂人工系统的领域，都致力于使复杂系统易于理解和管理。信任不仅是让人类用户接受这些系统的必要概念，直接研究它也有助于实现复杂人工系统研究的目标。为实现这些目标，需考虑信任的不同方面，我们认为信任是一个多方面的概念，包括功能正确性、安全性、可靠性、可信度和可用性等。

2 文献中的信任与可信赖性

信任的原始研究大多来自人文学科。心理学家和社会学家长期