Towards a Better Understanding of EvaluatingTrustworthiness in AI Systems
TrustAIoT：构建可信人工智能物联网平台的框架
https://www.sciencedirect.com/science/article/pii/S2542660525002641
摘要
在一个日益互联的世界中，每个设备都被期望连接到互联网，并因此与其他能够通信的对象相连。随着物联网（IoT）的扩展，社会、法律和伦理问题也随之增加。此外，物联网系统正在发展，以处理数据并根据其发现提供建议，这种能力源于人工智能（AI）和机器学习技术的整合。物联网和人工智能的融合（AIoT），以及AIoT架构的独特方面与非物联网启用的AI系统不同，这需要对构建可信AIoT系统的具体考虑进行全面审查。由于这种融合引入的复杂性和潜在漏洞增加，确保AIoT的可信度至关重要。
本文介绍了TrustAIoT，这是一个用于开发和长期治理可信AIoT平台的结构化框架。该框架整合了伦理、法律和技术维度，包含一个多层指南和一个面向生命周期的过程，专门针对AIoT系统的特定架构特征。
基于系统性文献综述，与可信度相关的技术、伦理和法律要素被交叉引用并与AIoT环境的操作和架构需求进行对比，确保所有关键方面都得到解决。分析了在异构架构中应用这些要素的挑战，从而定义了在AIoT平台的不同层之间转移信任原则的指南，以及构建和维护此类平台的过程。平台被理解为一个环境，包括基础设施、工具、服务、流程和组件，用于开发、部署和运营应用程序。
TrustAIoT框架将这些元素整合为一个连贯的方法，支持在整个平台生命周期内进行以信任为导向的决策，从架构设计到项目部署。
所提出的指南和过程形成了一个统一的框架，确保了高可信度标准，从而使得在AIoT生态系统内可靠地开发多个项目和应用程序成为可能。
关键词：人工智能物联网（AIIoT）、可信度、伦理、人工智能物联网（AIoT）、框架、架构、平台
1. 引言
物联网（IoT）由一个广泛的相互连接的物理设备网络组成，这些设备从日常家用物品到复杂的工业机械。这些设备通过互联网连接无缝通信、收集和交换大量数据。物联网设备配备了传感器和专业软件，能够智能地与环境互动，使它们变得“智能”。然而，物联网的这种快速扩张引发了隐私问题，因为这些设备本质上会收集大量数据。这些设备的设计是收集和处理个人数据到颗粒层面，以提高效率和用户体验。风险在于潜在的数据泄露，因为物联网无缝地融入了我们的生活和周围环境。例如Onto-CARMEN [1] 或 MARISMA-CPS [2] 等解决方案有助于管理这种风险。
这种数据暴露是导致人工智能物联网（AIoT）中信任挑战的几个因素之一，尽管并非唯一因素。在这些生态系统内的利益相关者之间建立或增强信任存在广泛共识 [3–11]。信任是用户对系统的主观信念，基于他们对其输出可靠性的感知。用户根据他们对系统可靠性、能力和意图的感知来授予信任 [12]。可信度是促进用户对系统信任的基础条件。因此，用户参与和开发可信人工智能物联网（AIoT）框架对于有效地将系统级可信度转化为用户感知的信任至关重要 [13]。
此外，物联网系统的架构足够复杂，可以整合人工智能（AI）技术用于数据分析、个性化、推荐和决策过程。因此，物联网和人工智能的融合将人工智能特有的挑战引入了物联网领域 [13]。由于其架构特点，这些挑战有时必须以分散的方式解决，并且在能力有限的设备上解决。这种融合被称为“智能物联网”“人工智能物联网（AIoT）”或“边缘智能”。然而，这三种术语并不相同。“智能物联网”指的是具有基本处理能力的物联网设备，可以自主执行简单任务。“边缘智能”侧重于在网络边缘本地处理数据，减少延迟和对云的依赖。“人工智能物联网（AIoT）”将物联网与先进的人工智能能力相结合，使设备能够自主分析数据并做出决策 [4–10,14,15]。本文在人工智能物联网（AIoT）的背景下进行分析，因为它涵盖了物联网和人工智能技术最全面的整合。
根据欧盟委员会的高级别专家组 [16]，人工智能领域的可信度包括合法性、稳健性和伦理。因此，可信度意味着对相互关联的社会和技术方面的综合管理。此外，当在实践中应用伦理和社会原则以构建可信系统时，会出现挑战。这些挑战包括关于如何在实践中实施这些原则的不确定性 [17]，以及伦理原则的复杂性、主观解释、情境变化和标准化不足 [18]。因此，有必要形式化一个框架，指导所有期望方面的实际应用，以在这些系统中产生信任 [19]。
根据弗洛里迪等人 [20] 的说法，人工智能系统的期望伦理原则可以分为五个主要领域。有益原则侧重于确保人工智能造福人类和环境，同时尊重人权。无害原则旨在防止对人们造成伤害。自主原则强调人类对人工智能做出决策的权利。正义原则旨在纠正过去的不平等，并确保公平分配人工智能的利益。可解释性原则涉及使人工智能系统可理解并负责，增强透明度和信任。然而，为了实现可信度，管理合法性和技术等相互关联的方面与伦理原则一样重要 [21]。合法性指的是尊重所有适用的法律、法规和合规政策。技术原则考虑技术工具和过程，以及伦理和法律方面，以有效地和稳健地在实践中实施这些原则。图1展示了实现人工智能可信度所需的这一系列相互关联的原则。
然而，这些原则并非孤立运作。基于这一分类，伦理、法律和技术维度之间的结构相互依赖性变得必要。与其根据感知的紧迫性或引用频率对原则进行优先排序，不如更好地理解它们在给定背景下的相互关系中的操作相关性。例如，在面向医疗保健的人工智能物联网系统中，无害原则和自主原则通常是基础性的，而在工业环境中，互操作性和弹性可能占主导地位。TrustAIoT框架通过将信任相关活动组织成功能层并支持迭代改进，拥抱这种社会技术视角。这使得平台设计者能够根据领域需求、监管约束和利益相关者期望定制信任策略，而不是强加一种一刀切的层级结构。
因此，人工智能物联网系统的特点，如其分布式架构 [3] 和设备的资源限制 [22]，需要从可信度的角度进行专门分析。这一点至关重要，因为尽管存在许多人工智能系统的可信度框架，但人工智能物联网环境引入了必须解决的额外复杂性和漏洞，以确保可靠和安全的操作。人工智能物联网用例特别相关，因为某些信任问题必须与传统人工智能系统不同地解决 [10,13]。
因此，开发了一个名为TrustAIoT的框架，以支持创建能够托管人工智能物联网应用的平台，这些平台符合严格的可信度要求。该框架围绕一个持续改进的迭代过程构建，由一个结构化指南指导，将广泛的信任相关活动映射到边缘-雾-云计算架构 [23]。这种方法使平台能够通过解决托管项目不断演变的要求中最关键的与信任相关的方面，逐步成熟。因此，TrustAIoT构成了这项工作的核心贡献。
本文的主要贡献，每个都针对当前文献中的一个特定空白，总结如下：
TrustAIoT框架，一种用于构建可信人工智能物联网平台的结构化和迭代方法，弥合了高级别可信度分类原则与边缘-雾-云计算架构中平台级实施之间的差距。
一种映射指南，通过将信任相关活动与功能和架构层联系起来，将分类原则具体化，克服了以前人工智能物联网系统信任提案中观察到的碎片化 [7,10]。
一种以生命周期为导向的过程模型，以BPMN 2.0指定，以支持人工智能物联网平台中可信度的治理、演变和持续评估，填补了人工智能物联网中以过程为导向的可信度治理的方法论空白。
识别出当前立法（例如，人工智能法案）可能未能解决人工智能物联网环境的独特风险和约束的监管重点领域。
因此，本文的其余部分结构如下：第2节考察人工智能物联网系统与传统人工智能系统的特定特点，强调出现的独特与信任相关的挑战。第3节描述构建和管理可信人工智能物联网平台的过程。第4节提供了实现可信度所需的活动的全面分析，作为整体框架内几个子流程的指南。第5节识别出当前立法可以加强的关键监管领域。最后，第6节总结了研究的主要结论。
2. 人工智能物联网（AIoT）系统中的必要可信度
为了分析人工智能物联网（AIoT）系统，进行了系统性文献综述，研究问题如下：
RQ1：人工智能物联网应用的主要架构特征是什么，这些特征表明需要特定的可信度考量？
RQ2：与人工智能物联网系统相关的主要问题和挑战是什么？
为了找到回答这些问题的相关文献，使用以下查询语句进行了自动化搜索：(IoT OR AIoT) AND (Law OR Ethic OR Guideline* OR Trust*)**
该查询在ACM数字图书馆、Scopus和IEEE Xplore中执行，目标是期刊文章、会议论文和研讨会论文。
为了确保方法论的透明性，定义并应用了一套纳入和排除标准，受PRISMA原则的启发，以确保透明性和可复制性。
纳入标准要求论文：
（i）在物联网或人工智能物联网的背景下涉及信任、伦理、法律、可解释性或治理；
（ii）是在期刊或会议论文中发表的同行评审文章；
（iii）在2018年至2025年之间发表；
（iv）包含与架构、框架或应用解决方案相关的相关技术内容。
排除标准包括：
（i）缺乏完整技术开发的短文或扩展摘要；
（ii）跨数据库的重复条目；
（iii）未经同行评审的预印本或出版物；
（iv）未涉及人工智能物联网环境中系统级可信度的作品；
（v）仅专注于概念或规范伦理的作品，除非它们提供了在文献中被广泛采用的可信度的定义性描述；
（vi）仅限于狭窄用例或高度特定技术的研究，除非它们的发现提供了可应用于更广泛平台级背景的可转移机制；
（vii）未涉及多层架构（例如，边缘-雾-云）的作品，除非它们提出的信任机制可以被推广或适应到这样的环境中。
最初的查询返回了1732篇文献。在去重后，剩下1335条记录用于标题和摘要筛选。根据严格的纳入标准和本研究的具体重点，只有其中的一部分被认为适合进行全文评估。因此，最终有20篇论文被选中纳入，因为它们完全符合资格标准，并提供了一个具有代表性和主题多样化的样本，涵盖信任建模、隐私、边缘计算、可解释人工智能和伦理框架等领域。此外，还纳入了6篇在同行评审过程中推荐的同行评审文章，因为它们与人工智能物联网中的信任和协作高度相关，进一步丰富了本研究的分析范围。
本研究分析的最终语料库由26篇同行评审文章组成，包括通过文献综述协议系统选择的20篇文章，以及在同行评审过程中建议的6篇额外作品。它们共同为解决TrustAIoT框架中探索的架构、运营和治理挑战提供了坚实且具有代表性的基础。
这20篇系统选择的文章涵盖了人工智能物联网系统中的一系列关键挑战，包括边缘网络中的隐私保护计算 [3,6,13]、分散化和联邦架构 [4,8,24]、信任和声誉管理 [7,15]，以及以人为中心的可解释性 [9,25]。它们还涉及关键方面，如CPS集成、环境可持续性以及信任的监管维度 [11,15,20]。
另外6篇作品通过纳入智能工厂中基于信任的团队组建 [26]、无人机辅助移动众包感知 [27]、元宇宙环境中抗干扰通信 [28]，以及物联网生态系统中信任和声誉的全面调查和基础模型 [29–31] 的观点，扩展了本语料库的范围。
2.1 RQ1：需要信任特定处理的架构特征
人工智能物联网系统与传统人工智能应用存在显著差异，因为它们具有多层、异构和动态的架构。这些系统跨越感知层、边缘层、雾层和云层，通常包含移动组件和网络-物理反馈回路。每一层架构都涉及不同的能力、暴露和责任，这些直接影响可信度的定义和维护方式 [4,11,24]。
在文献中识别出的一个核心架构问题是计算逻辑与物理基础设施的集成，通常在CPS（网络物理系统）范式下进行研究。例如 [11,22,32] 的工作强调，这种集成扩大了攻击面，并使运行时行为评估在实时场景中变得不那么可预测。这进一步被移动性、连接性的波动性以及无人机和移动众包感知（MCS）启用的人工智能物联网网络中缺乏持久身份管理所复杂化 [27]。
异构性是另一个反复出现的主题：同一系统内的设备在处理能力、内存、通信协议和能源配置方面差异很大。几项贡献强调，这种异构性限制了统一加密、认证或政策执行机制的适用性 [3,4,6,13]。例如，边缘级设备可能无法执行复杂的加密例程，或者无法参与隐私保护联邦学习所需的持续模型更新 [8,24]。
架构的去中心化，尽管经常被提议作为解决可扩展性和稳健性问题的补救措施，但引入了新的信任挑战。之前的研究 [8,15,31] 已经指出，分布式拓扑模糊了责任线，当决策在雾层或边缘层做出时，更难保证问责制、可追溯性或伦理合规性。
只有少数被审查的作品明确区分了各架构层之间的信任问题。例如 [7,25]，主要集中在数据或服务层面的信任，而没有区分数据摄取、处理或聚合点。其他作品如 [26,28] 提出了基于信任的代理协调机制，但没有将这些机制映射到架构分层或系统治理上。
总体而言，明显缺乏能够适应人工智能物联网系统分层性质的设计框架，同时提供不同但一致的信任策略。大多数信任机制是为孤立的上下文或单一层面设计的，缺乏一个能够在各层之间双向传播信任的连贯模型。
这一分析进一步强化了需要一种结构化的平台级方法，其中架构分层不是要解决的技术约束，而是要明确纳入可信度模型的设计轴。这种方法应支持每层的差异化策略，同时确保整个系统生命周期内的一致性、可追溯性和适应性。
2.2 RQ2：人工智能物联网（AIoT）可信度的挑战和问题
除了架构复杂性外，人工智能物联网（AIoT）系统还面临着多种直接冲击可信度的问题。这些问题包括技术威胁（例如，对抗行为、通信漏洞）、运营限制（例如，受限资源、大规模协调）以及社会技术性紧张关系（例如，缺乏透明度、责任不明确）。对文献的回顾表明，大多数研究只关注这些挑战的一个子集，且往往孤立地进行研究。
隐私仍然是最突出的问题之一。由于人工智能物联网设备与终端用户的接近性以及传感器的无处不在，许多研究强调了在边缘环境中进行隐私保护计算的必要性 [3,6,13]。然而，尽管数据最小化、差分隐私和本地处理等机制有助于降低风险，但它们的部署往往需要在模型准确性、延迟和能耗之间进行权衡，尤其是在异构基础设施中 [4,24]。
信任评估机制，例如基于声誉或行为评分的机制，被广泛使用，但在对抗环境中显示出重要的局限性。像 [7,29,30] 这样的研究对这些模型进行了分类和调查，表明许多模型容易受到自我提升、开/关行为和合谋等攻击。此外，它们通常是在静态拓扑结构下设计的，使其不适合具有高移动性、动态拓扑结构和时间波动性的人工智能物联网环境 [26,27]。
另一个重大挑战是可解释性。人工智能物联网系统通常依赖于黑箱模型，这些模型在有限的人类监督下做出自主决策。许多研究认识到，如果没有清晰的解释，用户和监管者不太可能信任系统输出 [9,25]。然而，很少有提议将可解释性整合到信任评估本身中，更少有提议将其与跨层的技术可观察性对齐。
在分布式部署中，可扩展性也成为一个问题。依赖于集中控制或全局知识的信任机制通常在大规模环境下会失效，特别是在连接间歇性或必须在边缘做出决策的环境中。像 [8,15] 这样的研究提出了部分去中心化的解决方案，但对于长期治理、可审计性或利益相关者之间的协调的长期影响仍然研究不足。
最后，伦理和环境问题在一些研究中被概念性地讨论 [15,20]，但很少被转化为具体的设计要求。可持续性、社会影响或保护弱势群体等主题被提及，但没有转化为人工智能物联网系统的设计要求、约束或设计元素。
综合来看，这些观察结果揭示了一个碎片化的格局：虽然可信度的个别方面得到了解决（例如，隐私、稳健性、透明度），但很少有方法从整体、多维的角度看待可信度。明显缺乏以生命周期为导向的过程，这些过程能够随着时间的推移适应性地管理信任，或者缺乏将技术机制与制度或法律期望对齐的框架。
2.3 综合与研究空白
对RQ1和RQ2的分析表明，尽管文献为人工智能物联网可信度的特定方面提供了许多有价值的贡献，但它仍然是碎片化的，整合不足。大多数方法专注于架构或运营挑战，但很少同时解决两者。
尽管一些研究识别了根据架构分层调整信任机制的必要性，但只有少数提出了跨系统层级的差异化策略，没有一个提供了一个统一的模型，以在整个人工智能物联网堆栈中一致地传播信任 [4,11,24]。同样，尽管隐私、可解释性和协调经常被公认为是关键的，但当前的提议通常将它们视为孤立的设计特征，而不是统一、系统性信任管理方法的组成部分 [6,15,25]。
此外，很少有框架采用以生命周期为导向的信任视角，这种信任随着系统的部署、监控和随时间的适应而演变。治理方面，如责任分配、决策的可追溯性或伦理合规性，很少与架构元素或运行时控制回路联系起来 [8,20]。相反，信任通常被简化为基于行为的指标、静态声誉分数或局部应用的密码学保证。
鉴于这些空白，开发一种以平台为导向的人工智能物联网可信度方法显然存在机会：这种方法将架构分层、运营问题和规范性维度整合到一个连贯且可操作的框架中。这种方法应该将技术组件与制度要求对齐，支持多层治理，并启用适应性强、可审计且可持续的信任策略。
这种综合分析为下一节中介绍的TrustAIoT框架的设计原则提供了信息，在该框架中，这些空白通过一种结构化的、平台级的方法得到解决。表1总结了识别出的主要架构特征和可信度挑战。概念性或规范性论文被排除在该表之外。尽管这些工作为框架的理论基础提供了信息，但它们没有明确解决人工智能物联网系统中的架构空白。
3. 构建和维护可信人工智能物联网平台的流程
构建用于托管可信人工智能物联网项目的平台的流程被划分为六个迭代子流程，如图2所示。每个子流程支持随着时间推移的增量式能力增强和集成。该流程遵循BPMN 2.0标准 [34]，使用多个泳道来在高级别上表示涉及的不同团队。这些团队包括战略团队、平台团队、设计团队以及合规与政策团队。流程遵循顺序执行，其中第四和第五子流程可以并行执行。每个子流程包含特定的任务，需要某些输入以生成定义好的输出，确保所有阶段的可追溯性和一致性。这六个子流程是嵌入式子流程，如图3至图8右上角的图标所示。这意味着这些子流程被定义和用于主流程中，不能直接在其他流程中复用。
在整个流程中，被称为“映射指南”的输入（在图2中通过其较大的尺寸和金色斜纹突出显示）确保了在架构层之间一致地应用可信度原则。它指导评估、设计、开发和政策建立阶段。这一迭代流程确保平台能够随着新挑战的出现而演变，并能够整合新能力，保持其支持可信人工智能物联网项目的准备状态。
该流程使用BPMN 2.0建模，以促进清晰性、模块化和跨团队协作。这种符号在工业界被广泛采用，支持可追溯的设计、结构化的沟通以及与开发工具和治理工作流程的潜在集成。
所提出的结构是基于在现实世界的平台治理和架构环境中观察到的重复模式和需求而形成的，包括在本文引用的项目资助下开展的早期人工智能物联网项目中遇到的情况。在这些环境中，流程的几个结构元素，如多团队泳道结构、迭代子流程分解以及共享映射工件的使用，在概念化和设计规划阶段已经证明了其实际可行性。这种应用基础为内部一致性和实际相关性提供了坚实基础。这些初步应用将通过进一步的评估活动进行补充，包括模拟研究和试点部署，以深入分析该流程的适应性和运营价值。
第一个子流程，愿景和目标的定义，涉及为人工智能物联网平台建立清晰的愿景并定义长期目标。如图3所示，该子流程从任务1.1开始，其中建立愿景，重点关注信任、安全、隐私和可持续性。任务1.2涉及定义长期目标，例如可扩展性和互操作性。任务1.3和1.4可以并行进行，涉及需求评估以及进行基准测试以收集类似平台的见解。
该子流程的输入包括市场分析和趋势、利益相关者需求、可行性报告以及规范和法规。输出是愿景和目标文件（包括风险和机会分析以及伦理参考框架）、长期战略计划（包含风险管理计划）以及需求列表。长期战略计划作为持续的指南，确保平台开发和维护的所有阶段都与其总体目标和愿景保持一致。
第二个子流程，现有基础设施的评估，如图4所示，专注于审查当前平台并识别差距。任务2.1涉及对现有平台进行全面审查，以评估其优势和改进领域。任务2.2识别与可信度相关的差距，例如安全、隐私和互操作性。映射指南、规范和法规以及长期战略计划是关键输入，因为它们有助于评估当前平台在不同架构层（传感器、边缘、雾、云）中对可信度原则的落实情况。此外，需求列表是一个重要的输入。输出是基础设施评估报告（包括当前性能指标和成本效益分析）以及差距和改进领域文件，该文件还纳入了利益相关者的反馈，特别是来自当前用户的反馈。
在第三个子流程，可信平台的设计，如图5所示，重点是将可信度原则映射到架构层并定义组件和模块。任务3.1使用映射指南将与可信度原则（有益、无害、自主、正义、可解释性、合法性、技术性）相关的活动映射到人工智能物联网系统的各个层。任务3.2涉及指定实现这些原则所需的架构组件和逻辑模块。该子流程的输入包括基础设施评估报告、差距和改进领域文件、映射指南以及长期战略计划。输出是详细架构设计（包括集成计划，以确保与现有系统的兼容性）以及组件和模块规范，包括每个模块的详细测试计划。
第四个子流程，开发、实施和监控，如图6所示，涉及开发关键组件、测试与验证以及持续监控。任务4.1专注于开发或集成确保安全、隐私和互操作性的关键组件。任务4.2涉及全面的测试与验证，以确保架构达到可信度标准。任务4.3实施持续监控，以维持平台随时间的可信度。该子流程的输入包括详细架构设计、组件和模块规范、映射指南以及长期战略计划。输出包括测试与验证结果（附带与治理策略一致的变更管理计划）、监控和数据分析报告（包含持续用户反馈系统）以及用户手册和技术指南。
第五个子流程，政策和程序的建立，与第四个子流程并行进行，如图7所示，涉及定义安全和隐私流程以及建立维护和更新程序。任务5.1专注于创建或更新安全和隐私政策，而任务5.2建立持续维护和更新的程序。该子流程的输入包括详细架构设计、组件和模块规范、映射指南以及长期战略计划。输出包括安全和隐私政策（包括用户和管理员的意识计划和能力建设计划）以及维护和更新程序，其中包含定期审查、可追溯性和政策适应性的审计时间表。
最后一个子流程，项目部署准备，如图8所示，涉及文档编制、培训以及对项目集成的支持。任务6.1专注于创建详细的文档资料并向开发团队提供培训。任务6.2提供支持和工具，以促进新项目融入现有架构。该子流程的输入包括用户手册和技术指南、安全和隐私政策、维护和更新程序以及长期战略计划。输出包括部署文档（包含部署后的支持计划）以及培训计划，其中包含创建用户社区或支持论坛。
4. 映射指南：将挑战映射到人工智能物联网架构
在架构的背景下，功能层指的是一个结构化的划分，它组织了相关的活动和共享功能目标的组件。这些层使得构建和维护一个可信人工智能物联网平台所必需的活动能够得以高效地组织和管理。
功能层是通过识别平台的具体需求和目标来创建的。它们基于架构设计原则以及复杂系统开发中的最佳实践。其创建背后的逻辑包括：（i）需求分析，以识别平台的需求和可信度目标；（ii）功能分组，根据共享目标对活动和组件进行分类；以及（iii）交互定义，以确保层与层之间顺畅且高效的集成。
为了确保功能层的完整性且不遗漏任何关键方面，遵循了一种结构化的逻辑。这涉及到确保每一层都涵盖平台的一个关键方面，例如政策、基础设施、集成、实践、安全、数据管理、运营支持、伦理和可持续性。这些功能层的定义受到工业互联网参考架构（IIRA）[35]的启发。IIRA被划分为包括商业、运营、信息、应用和控制在内的功能领域。选择IIRA作为架构基础源于其在工业物联网环境中被广泛采用以及其对运营、信息和控制领域的结构化处理。然而，IIRA并没有明确纳入伦理、法律或社会维度，而这些对于确保人工智能物联网系统的可信运行是必不可少的。
这些领域与我们的功能层是可比的，因为两种方法都旨在涵盖一个稳健平台所需的所有必要方面。然而，所提出的框架引入了三个额外的层，这些层对于实现符合新兴规范期望的可信人工智能物联网平台至关重要：伦理和可持续性层、支持基础设施层以及最佳实践层。伦理和可持续性层涉及人工智能物联网系统设计和部署中的社会和环境责任，这些维度在IIRA中是缺失的。支持基础设施层加强了部署和运行先进人工智能组件所需的技术基础，弥合了超出集成范围的实际需求。最佳实践层确保经过验证的程序、编码标准和生命周期管理协议得到制度化，而这些在IIRA中并没有明确涵盖。
为了支持这一扩展，TrustAIoT框架基于一个社会技术可信度分类体系[21]，该体系将信任概念化为一个从伦理、法律和技术维度相互作用中产生的系统属性。新层为实施诸如自主性、透明度、公平性、可持续性和参与式治理等原则提供了结构，这些是可信人工智能的关键维度，而在现有的工业物联网参考模型中并没有正式涉及。尽管这些新增内容尚未通过正式的实证研究或大规模部署得到验证，但它们在理论上基于一个已建立的社会技术分类体系，并回应了当前架构基线中的概念性空白。它们的纳入使得在人工智能物联网环境中进行平台级设计能够提前考虑监管对齐和伦理要求，甚至在具体的用户需求或项目约束明确触发它们之前。
基于这一分层定义，所提出的人工智能物联网平台的功能结构包括以下八个层：（i）政策与治理，（ii）支持基础设施，（iii）集成，（iv）最佳实践，（v）安全与合规，（vi）数据管理，（vii）运营支持，以及（viii）伦理和可持续性。图9展示了IIRA功能领域与扩展的TrustAIoT功能架构之间的关系，突出了为解决人工智能物联网环境特有的信任相关要求而引入的扩展。
功能层的选择基于它们之间的相互作用和支持，这确保了构建可信人工智能物联网平台所需的所有必要活动都得到了解决。这些相互依赖关系对于应对人工智能物联网系统中可信度的多样化挑战和要求至关重要。功能层之间的关键关系如图10所示。
这些关系突出了每一层如何通过以一种连贯和综合的方式解决关键方面，从而为人工智能物联网平台的整体可信度做出贡献。
一旦这些功能层建立起来，下一步就是回顾第2节中介绍的人工智能物联网架构的挑战和特定特征，并从构建可信系统的角度对它们进行分析，这一角度在第1节中进行了概述，并在图1中进行了说明，其中相关原则被正式定义。通过将这些原则应用于所识别的挑战，可以系统地将一组信任导向的活动分配到相应的功能层。
例如，在第一个功能层，政策与治理，许多可信度原则直接反映在特定类型的政策中：隐私政策与无害原则一致，透明度政策与可解释性一致，公平政策与正义一致，可持续性政策与有益原则一致，自主政策与自主性一致，合规政策与合法性一致。尽管技术原则也与政策相关，但其相关活动被分配到其他功能层，例如数据管理，在那里它们的实施更具操作性基础。这种逻辑指导了信任赋能活动在所有其他功能层的分配。
在构建和维护可信人工智能物联网平台的过程中，六个子流程中的四个将映射指南作为其输入之一，如图4至图7所示。映射指南将功能层活动映射到适当的边缘、雾或云层，确保整个堆栈的信任一致性。这种映射练习至关重要，原因有几点。首先，它确保每一层架构全面地解决可信度原则。系统地将活动映射到架构层能够识别出缓解挑战所需的特定元素和策略。这种结构化的方法支持开发一个模块化和可扩展的人工智能物联网平台，使其能够适应不断演变的要求和技术进步。
总之，映射指南是该流程的关键组成部分，确保人工智能物联网平台是在对特定可信度挑战及其在每一层架构中如何解决的全面理解的基础上开发的。这种方法不仅增强了人工智能物联网系统的可靠性和安全性，还支持它们在快速演变的技术环境中实现可扩展性和适应性。
以下小节详细说明了映射指南，针对每个功能层，列出的活动按行排列，对应的边缘-雾-云模型的架构层按列排列。每个交叉点如果该活动在该层是必要或适用的，则标记一个勾，否则留空。
4.1 政策与治理
政策与治理层定义了管理人工智能物联网系统开发和运行的政策和指南集合。它包括隐私、透明度、公平性、可持续性、自主性和合规性政策，并专注于确保架构中的所有活动都符合伦理、法律和监管标准。图11展示了按架构层分类的活动概览，表2提供了每个活动的详细描述。
4.2 支持基础设施
支持基础设施层提供了开发、实施和维护人工智能物联网项目所需的工具和技术。这包括可解释性工具、大数据处理、机器学习框架、编排平台、虚拟化技术、算法、临时存储解决方案、固件更新以及标准化通信协议。其目的是为互操作性、可解释性、安全的人工智能部署和资源使用优化提供基础技术支撑，同时在架构层之间促进透明度和安全处理。图12展示了按架构层分类的活动概览，表3提供了每个活动的详细描述。
4.3 集成
集成层促进了分布式人工智能物联网组件之间的无缝通信和互操作性。它推动了标准和开放协议的使用，通过API和连接器促进集成，并使用中间件抽象来确保架构的水平和垂直集成。这一层创建了一个协调一致且相互连接的系统，支持高效的数据交换以及服务和平台的集成。图13展示了按架构层分类的活动概览，表4提供了每个活动的详细描述。
4.4 最佳实践
最佳实践层提供了一套全面的指南和程序，旨在在整个平台生命周期内制度化安全、公平和有效的实践。这包括培训和意识提升、持续监控和评估、设备选择以及数据预处理和处理的透明度。其目的是促进最佳实践，以增强所有层的安全性、隐私性、可解释性、互操作性、公平性、可持续性、自主性和法律合规性。图14展示了按架构层分类的活动概览，表5提供了每个活动的详细描述。
4.5 安全与合规
安全与合规层确保人工智能物联网架构的安全性、隐私性和监管合规性。它涵盖了所有层的风险评估、审计、数据保护、网络安全、加密和认证等活动。这一层保护系统免受威胁，同时确保符合监管、伦理和技术标准。图15展示了按架构层分类的活动概览，表6提供了每个活动的详细描述。
4.6 数据管理
数据管理层在人工智能物联网架构的所有层中全面管理数据，确保数据处理的安全性、可解释性、高效性和合规性。这包括数据管理政策、数据传输政策、可扩展数据存储、数据处理和数据透明度。其目的是确保数据以支持人工智能物联网系统整体功能和完整性的方
4.7 运营支持
运营支持层在人工智能物联网架构的所有层中高效管理和协调资源。这包括弹性与灾难恢复计划、文档编制与报告以及在云、雾、边缘和设备层的资源管理。它确保在整个人工智能物联网平台生命周期内实现弹性、资源优化和持续合规。这一层还整合了生命周期管理，以支持设备和系统的部署、维护、更新以及退役。图17展示了按架构层分类的活动概览，表8提供了每个活动的详细描述。
4.8 伦理与可持续性
伦理与可持续性层专注于确保人工智能物联网系统以一种伦理、透明和可持续的方式开发和运行。这包括社区参与、材料和流程创新、模型可解释性、公平性设计以及参与式评估。其目的是促进实践，以增强用户信任、伦理对齐和环境可持续性，贯穿设计和部署的全过程。它还确保系统易于使用且易于访问，整合用户体验的方面，提供直观且有意义的互动。图18展示了按架构层分类的活动概览，表9提供了每个活动的详细描述。
5. 提高人工智能物联网可信度的监管重点领域
尽管所提出的框架有助于管理构建可信人工智能物联网系统的关键原则，但加强监管环境仍然是可取的。人工智能物联网的一些关键和独特方面，特别是那些与人类保护或环境可持续性相关的方面，尚未在当前法规中得到明确的处理。尽管欧洲人工智能法案为生成式人工智能等技术提供了具体条款，但它在很大程度上忽视了人工智能物联网系统，这些系统引入了当前人工智能立法尚未充分处理的独特架构和伦理风险。
一些领域需要监管加强，包括动态风险评估、设备生命周期管理、互操作性和标准化、电子废物管理以及对弱势群体的保护。
鉴于人工智能物联网系统的持续演变特性，动态风险评估是至关重要的。与人工智能法案主要采用的静态方法相比，持续的风险评估能够实时识别和缓解新出现的威胁，帮助确保人工智能物联网平台在长期内保持安全和弹性。
为了在整个人工智能物联网设备生命周期中保持安全性和功能性，包括安全更新和退役在内的设备生命周期治理的健全机制是必不可少的。尽管在缓解漏洞和维持性能方面发挥着关键作用，但人工智能法案目前在这一领域缺乏明确的规定。
互操作性和标准化对于实现异构人工智能物联网组件之间的无缝通信至关重要。尽管标准化协议具有重要作用，但当前法规缺乏可执行的互操作性要求。填补这些空白对于确保跨不同平台、设备和服务的高效集成与协调至关重要。
为了减轻人工智能物联网系统对环境的影响，健全的电子废物管理协议是必不可少的。尽管迫切需要大规模地解决人工智能设备的生态足迹问题，但人工智能法案目前缺乏关于人工智能设备负责任处置和回收的具体指导。
最后，增加额外的保护措施和教育倡议对于支持弱势群体至关重要，特别是那些技术素养有限的人群。这些措施有助于减轻与人工智能物联网使用相关的风险，并促进与这些系统的知情、安全和公平的互动。人工智能法案应当要求为数字弱势群体提供保护措施、支持界面和教育项目。
尽管这些观察主要围绕欧洲人工智能法案展开，但它们强调了必须解决的关键监管空白，以支持可信人工智能物联网系统的发展。
6. 结论
本文分析了人工智能物联网（AIoT）系统的特定架构特征，这些特征使它们区别于传统的人工智能架构，并特别关注了它们所提出的独特的与可信度相关的挑战。
在识别了这些特定性和挑战之后，本文提出了信任赋能活动的结构化分类，并将它们映射到八个功能层，随后通过一个名为映射指南的资源将这些功能层映射到边缘-雾-云计算架构中。基于这一指南，定义了构建和维护可信人工智能物联网平台的结构化过程。共同构成了TrustAIoT框架，这是本文在人工智能物联网系统中面向生命周期的可信度治理的核心贡献。
关于未来的研究，还有几个机会可以扩展和验证TrustAIoT框架。这些包括通过在现实世界的人工智能物联网平台中进行试点实施进行实证测试，开发工具包和模板以在工程工作流程中实施映射指南，以及将框架整合到认证流程、合规审计和平台级治理中。进一步的工作还可以探索该框架如何适应新兴的人工智能物联网范式，例如联邦智能、自主边缘编排或自适应信任管理。
通过将架构设计、治理流程和伦理原则对齐，TrustAIoT框架为希望在整个人工智能物联网生命周期中嵌入可信度的组织提供了一个结构化的基础。其分层结构和以流程为导向的方法旨在支持逐步采用、监管对齐和长期可持续性。
原文：https://www.sciencedirect.com/science/article/pii/S2542660525002641
热门跟贴