31、医疗级软件开发的未来趋势与关键考量

医疗级软件开发的未来趋势与关键考量

1. 医疗软件的网络安全挑战与应对

1.1 模块化与复杂度管理

在医疗软件开发中，验证和确认活动若处理不当，就如同“蛇梯棋”游戏里的“蛇”，会带来诸多麻烦。为应对此问题，可将设备模块化，借助已完成的模块网络安全评估结果，如同利用“梯子”，提升应对新检测到问题的响应能力。

将软件复杂度降低到可管理水平，是维持实际网络安全活动的关键。这意味着要巧妙地对软件进行模块化，以便重复使用模块，并根据需要在不同的时间周期进行维护。同时，要充分利用资源，不能仅依赖设备的威胁建模来获取当前网络威胁信息。

1.2 跨司法管辖区的网络安全

近年来，全球范围内网络安全活动十分活跃。美国食品药品监督管理局（FDA）、医疗设备协调小组（MDCG）以及欧洲公告机构联合组织 Team - NB 等都发布了大量相关信息和法规。国际标准如 ISO 14971 已将数据和系统安全提升到与以人类为中心的安全同等重要的地位，各国的指导方针和拟议规则也纷纷对医疗设备制造商提出直接要求。此外，一些非直接针对医疗设备和网络安全问题的法规，如欧盟通用数据保护条例（GDPR）和美国健康保险流通与责任法案（HIPAA），也可能增加相关要求。

值得庆幸的是，国际标准有助于全球协调。例如，Team - NB 的一份网络安全立场文件引用了 IEC TR 60601 - 4 - 5 来确定产品要求，引用 IEC 81001 - 5 - 1 来规定与网络安全相关的产品要求和生命周期活动。

1.3 IEC 81001 - 5 - 1 标准

IEC 81001 - 5 - 1 标准目前正成为医疗设备和健康设备网络安全活动的重要参考。该 50 页的文件对健康软件的开发和维护提出了要求，但未涉及设备随附文档的内容。标准要求所有活动都在按照 ISO 13485（或等效标准）实施的质量管理体系下进行。

该标准与 IEC 62304 的条款结构尽可能匹配，但软件安全分类的使用不同，其要求适用于所有类别的软件。它对 IEC 62304 软件开发的影响取决于产品类型和软件开发过程中对网络安全的处理程度。总体而言，它虽不彻底改变软件开发方法，但能提醒人们关注网络安全风险来源及应对方法。

以下是该标准对不同过程的要求：
|过程|要求|
| ---- | ---- |
|软件开发过程|全面涵盖需求确定与审查、软件设计开发、测试（包括威胁缓解测试、漏洞测试和渗透测试）、发布和退役。还特别提及管理测试人员与开发人员之间的冲突、确保文件完整性和控制私钥等安全相关主题。|
|软件维护过程|期望及时提供软件安全更新，包括监控公共事件报告、更新验证、更新文档和更新交付等。|
|风险管理过程|引入新的风险列表，若基于 ISO 14971 的风险管理活动中未考虑网络安全，影响可能很大。该标准试图帮助识别、评估、控制和监控软件周围的安全相关风险。|
|配置管理过程|要求能够列出可能易受漏洞影响的外部组件，相关讨论仅五行，与其他标准的期望一致。|
|问题解决过程|期望提前接收漏洞通知，审查和分析这些通知，并相应解决问题。|

将该标准的所有要求集成到质量管理体系（QMS）的各种标准操作程序中并非易事，但可将其作为强化网络安全问题处理方法的参考，采用分段方法，先确定其为相关指导，进行差距分析，再写入确切要求。

1.4 ISO/IEC 27001 标准

前面主要讨论了与产品相关的安全，且侧重于患者安全。若从组织层面看待信息安全管理，可考虑 ISO/IEC 27001 标准。该标准不取代 ISO 13485 等医疗设备关键标准，但可为组织层面的网络安全和信息安全提供元素。

组织必须全面掌控网络安全，确保有相关资源和指导，员工接受适当的安全培训。ISO/IEC 27001 强调要有良好的安全政策、适当的标准操作程序（SOPs）和实用的组织计划，以分配各种安全过程。同时，要确保员工具备相应的能力，这与 ISO 13485 的要求一致。稳固的组织基础将为创建安全软件、培训用户以及确保软件的长期安全维护提供良好基础。

1.5 专家参与的重要性

涉及具有适当背景的广泛专家群体，对发现软件周围的网络安全威胁也很重要。在设备的生命周期各个阶段，可能需要临床环境、可用性工程、软件工程、风险管理和网络安全管理等方面的专业知识。

2. 人工智能在医疗设备中的应用

2.1 人工智能的热潮与挑战

人工智能及其涵盖的众多技术已成为现代医疗设备的试金石。如今，未标榜某种人工智能/机器学习（AI/ML）标志的软件似乎显得过时。整个行业对人工智能寄予厚望，但对于设备应具备何种“驾驶执照”，仍存在激烈的讨论和争议。

全球监管机构和大型国际标准化组织都在努力制定开发、应用、维护和监管人工智能技术的最佳实践。目前，大量工作正在进行，产出的信息繁多，术语也偶尔不统一，导致信息过载，难以区分有用信息和无用信息，以及理解不同观点之间的异同。

2.2 现有法规和标准的基础作用

令人欣慰的是，现有法规和标准为评估新的人工智能产品提供了坚实基础。1964 年的《赫尔辛基宣言》是这一基础的基石之一，它为涉及人类受试者的医学研究制定了伦理原则。在此基础上的全球立法遵循这些规定和目标，例如美国 1906 年通过的《纯净食品和药品法案》，后扩展到医疗设备，并在几十年后将设备的有效性纳入考量。欧洲的情况类似，新的《欧洲医疗设备条例》（EU 2017/745）是规范不断发展和日益复杂的设备的新一步。

当前的关键医疗设备标准虽未直接提及人工智能，但为评估设备和操作提供了与技术无关的目标参考。许多组织正在努力将这些通用目标转化为人工智能的具体设计选择和控制选项。

2.3 黑盒与白盒人工智能

在监管和临床环境中，目前很多讨论集中在透明度问题上，即理解人工智能给出信息时的含义。从最高层面看，这可归结为黑盒和白盒人工智能方法的比较。

黑盒人工智能模型自行学习一些模式，但我们不清楚其判断依据的现象。而白盒人工智能模型则能让我们了解其工作原理。虽然黑盒模型在过去受到许多监管机构的严格审查，但在有大量高质量数据的情况下，它是可行的人工智能模型。也有技术可将黑盒模型转化为某种程度的灰盒，以便我们了解其内部运作。例如，在最近的一次 FDA 活动中，提到了使用黑盒模型的一些警示性例子，如某个人工智能依赖医生在放射图像上的注释来检测已标记的现象，若没有医生的前期工作，该模型将毫无用处。

2.4 人工智能在医疗中的发展趋势

人工智能在医疗保健中的应用工作源于对医疗设备领域日益复杂软件的监管需求。新通过的《欧洲医疗设备条例》（EU 2017/745）、正在形成的欧盟《人工智能法案》以及美国食品药品监督管理局（FDA）的预认证计划等，都密切关注软件与医疗保健的交叉领域。同时，基于云的产品和服务在医疗领域的影响力不断增加，特别是在健康和 wellness 应用领域，这些连接平台将提高健康数据的可用性，为人工智能解决各种健康问题提供肥沃土壤。

需要注意的是，并非所有软件都是医疗设备，医疗设备中的软件模块也并非都具有医疗性质。制造商指定的设备预期用途是评估软件是否为医疗设备的关键。欧洲委员会的医疗设备协调小组（MDCG）发布了关于软件分类的有用指导。当产品或服务被视为医疗设备时，一系列国际标准将发挥作用，如 ISO 13485、ISO 14971 和 IEC 62304 等，这些标准目前较为稳定，但随着人工智能和其他新兴技术的发展，预计在未来 5 - 10 年将发生演变。

2.5 人工智能应用的判断流程

graph LR
    A[软件是否用于医疗设备] -->|是| B[判断预期用途]
    A -->|否| C[非医疗设备软件]
    B -->|用于医疗分析等特定医疗目的| D[视为医疗设备软件]
    B -->|仅用于存储和传输医疗数据且不改变数据| E[非医疗设备软件]

3. 云计算在医疗计算中的应用

3.1 云计算的普及

云计算，包括软件即服务（SaaS）工具和服务的广泛应用，已经席卷了计算领域。如今，很少有人记得过去通过邮购软件目录交付软件的方式，软盘如今最多只能作为程序员桌上冷饮的杯垫。虽然非云计算软件仍有重要用例，但在医疗计算领域，云计算也已站稳脚跟。

云计算用于存储数据、进行计算，并在不同行业的数据创建和使用之间搭建桥梁。它能轻松应对不断增长的用户群体和新功能需求，添加新资源通常只需点击鼠标，这使得云计算极具吸引力。

3.2 云计算与物联网结合

云计算与物联网思维的结合，使物理设备主要成为传感器或钻头，将数据传输到云端进行处理。数据与云的连接可以在传感器内部，或者更常见的是通过移动设备、平板电脑或笔记本电脑将数据从床边传输到云端。用户与数据的所有交互都在云端进行。

云计算提供的计算能力、丰富的数据管理解决方案以及现成的分析算法和工具库，使得迁移到云端的诱惑很大。一旦所有数据流入统一的存储库，用户能够轻松进行查询，就有可能提炼出新的知识。虽然代码在个人工作站上也可能运行，但数据可能无法到达那里，因此云计算的优势明显。

3.3 云计算应用的注意事项

云计算可用于加速软件开发、交付和采用，但需注意以下几点：
1. 风险管理 ：要适应新环境和新功能带来的特点，针对独立解决方案进行的旧风险分析在迁移到云端时不再适用。
2. 数据位置和传输路径 ：数据的物理位置和传输路径非常重要，通常受多种不同法规的约束。冗余和负载分布可能具有地理维度，需要加以考虑。
3. 软件组件管理 ：云端的软件组件堆栈不仅提供了便利的功能，还对处理 SOUP 验证和平台更新等方面提出了期望。
4. 用户网络功能说明 ：根据 IEC 62304、IEC 82304 - 1 和适用法规，必须在使用说明（IFU）中说明网络功能的使用。
5. 关键性能定义 ：随着涉及的活动部件数量增加，且部件的更新周期可能不同，定义设备在最坏情况下的关键性能将变得越来越困难，可能需要与每个组件的供应商进行沟通。

综上所述，医疗级软件开发在网络安全、人工智能和云计算等方面面临着诸多挑战和机遇。开发者和相关组织需要密切关注这些趋势，合理运用标准和技术，以确保医疗软件的安全性、有效性和创新性。

4. 各技术领域的关联与综合影响

4.1 网络安全与人工智能的交织

网络安全和人工智能在医疗级软件开发中相互影响。一方面，人工智能技术的应用增加了软件的复杂性，从而带来了新的网络安全风险。例如，基于人工智能的医疗设备可能会收集和处理大量的患者数据，这些数据的安全性至关重要。如果网络安全措施不到位，患者数据可能会被泄露或篡改，从而对患者造成严重的伤害。

另一方面，网络安全技术也可以用于保护人工智能系统。例如，通过对人工智能模型的输入和输出进行监控和分析，可以检测到潜在的网络攻击，并采取相应的措施进行防范。同时，网络安全技术还可以用于确保人工智能系统的可靠性和稳定性，防止其受到恶意攻击而出现故障。

4.2 云计算与人工智能的协同

云计算为人工智能在医疗领域的应用提供了强大的支持。云计算的强大计算能力和存储能力可以满足人工智能模型训练和运行的需求。例如，在处理大量的医疗影像数据时，云计算可以提供足够的计算资源，使得人工智能模型能够快速地进行训练和分析。

此外，云计算还可以实现人工智能模型的共享和协作。不同的医疗机构和研究团队可以通过云计算平台共享人工智能模型和数据，从而加速人工智能技术的发展和应用。同时，云计算的弹性扩展能力也可以根据实际需求灵活调整计算资源，提高资源利用率。

4.3 网络安全与云计算的保障

在云计算环境中，网络安全是至关重要的。由于云计算的数据存储和处理是在远程服务器上进行的，数据的安全性和隐私性面临着更大的挑战。因此，需要采取一系列的网络安全措施来保障云计算环境的安全。

以下是一些常见的网络安全措施：
|措施|说明|
| ---- | ---- |
|数据加密|对存储在云端的数据进行加密，防止数据在传输和存储过程中被窃取或篡改。|
|访问控制|通过设置用户权限和身份验证机制，确保只有授权用户能够访问云端数据。|
|漏洞管理|定期对云计算平台进行漏洞扫描和修复，及时发现和解决潜在的安全漏洞。|
|安全审计|对云计算平台的操作和活动进行审计，以便及时发现异常行为并采取相应的措施。|

5. 未来发展的展望与建议

5.1 技术融合的趋势

未来，医疗级软件开发将呈现出更加明显的技术融合趋势。网络安全、人工智能和云计算等技术将相互融合，形成更加高效、安全和智能的医疗软件系统。例如，人工智能技术可以用于优化网络安全策略，提高网络安全防护能力；云计算可以为人工智能和网络安全提供强大的计算和存储支持。

5.2 标准和法规的完善

随着技术的不断发展，现有的标准和法规可能需要不断完善和更新。监管机构和标准化组织需要密切关注技术的发展动态，及时制定和修订相关的标准和法规，以确保医疗软件的安全性和有效性。同时，企业也需要积极参与标准和法规的制定过程，为行业的发展贡献自己的力量。

5.3 人才培养的重要性

为了适应未来医疗级软件开发的发展需求，需要培养大量的专业人才。这些人才需要具备网络安全、人工智能、云计算等多方面的知识和技能。高校和职业培训机构应该加强相关专业的建设，开设相关课程，培养更多符合市场需求的专业人才。企业也应该加强内部培训，提高员工的技术水平和创新能力。

5.4 应对未来挑战的策略

面对未来的挑战，企业和开发者可以采取以下策略：
1. 持续学习 ：不断学习新的技术和知识，跟上技术发展的步伐。
2. 加强合作 ：与其他企业、研究机构和高校等加强合作，共同攻克技术难题。
3. 风险管理 ：建立完善的风险管理体系，及时识别和应对潜在的风险。
4. 创新思维 ：培养创新思维，不断探索新的技术和应用模式。

5.5 未来发展的流程展望

graph LR
    A[技术融合发展] --> B[标准法规完善]
    B --> C[人才培养加强]
    C --> D[应对挑战策略制定]
    D --> E[医疗软件系统升级]

总之，医疗级软件开发正处于快速发展的阶段，网络安全、人工智能和云计算等技术的应用为医疗行业带来了巨大的机遇和挑战。我们需要充分认识到这些技术的重要性，积极应对挑战，把握机遇，推动医疗级软件开发向更高水平发展，为人类的健康事业做出更大的贡献。