19、可解释与可控人工智能设计及南非高等教育数字化工作

可解释与可控人工智能设计及南非高等教育数字化工作

可解释与可控人工智能设计

在实现人工智能系统的可解释性和可控性方面，除了软件实施，还需考虑持续培训、提供资金资源并付出额外努力。联合创新研讨会是将其融入智能系统设计方法的理想方式，能创造额外价值。下面通过三个案例来具体说明。

案例研究

• 案例一：啤酒行业应用 ：多特蒙德工业大学提供的项目，旨在将啤酒的口味质量追溯到其原料和酿造过程的参数。软件系统会处理超过50个关于水、啤酒花、麦芽和酵母质量的参数。
• 案例二：灌装机维护 ：由斯图加特大学和弗劳恩霍夫制造工程与自动化研究所（IPA）组织，专注于灌装机的各种维护过程。他们开发了一个新的数字系统，以简化灌装机的设置过程，并通过引导式错误分析支持不同知识水平的工人进行维护任务。
• 案例三：汽车行业应用 ：由班贝格大学、弗劳恩霍夫集成电路研究所（IIS）和大陆集团提供，涉及支持工程师对汽车后备箱锁系统进行编程的新软件。该项目的挑战在于，如同啤酒酿造案例一样，许多参数会影响结果，需要进行追溯。影响后备箱关闭功能的因素包括汽车倾斜度、外部温度和湿度等。

这三个项目都采用了基于人工智能的技术，同时特别关注系统的可解释性和可控性。

用户群体整合

不同用户群体对系统的信息需求不同，具体如下表所示：
| 用户群体 | 信息需求 |
| ---- | ---- |
| 管理层 | 通常没有技术背景，需要数据的浓缩解释、主要信息