https://www.frontiersin.org/journals/big-data/articles/10.3389/fdata.2024.1371518/full

An encoding framework for binarized images using hyperdimensional computing

一种基于超维计算的二值化图像编码框架

引言:超维计算(HDC)是一种受大脑启发且轻量级的机器学习方法。由于其在可穿戴物联网、近传感器人工智能应用和设备端处理中的潜在适用性,HDC在文献中受到了广泛关注。与传统深度学习算法相比,HDC计算复杂度更低,通常能够达到中等到较好的分类性能。决定HDC性能的一个关键方面是将输入数据编码到超维(HD)空间。

方法:本文提出了一种新颖的轻量级方法,仅依赖于原生的超维算术向量操作来编码二值化图像,通过兴趣点选择和局部线性映射,保留了邻近位置模式的相似性。

结果:该方法在MNIST数据集的测试集上达到了97.92%的准确率,在Fashion-MNIST数据集上达到了84.62%的准确率。

讨论:这些结果优于使用不同编码方法的原生HDC的其他研究,并与更复杂的混合HDC模型和轻量级二值化神经网络相当。所提出的编码方法还显示出比基线编码更高的抗噪声和抗模糊能力。

关键词:超维计算、向量符号架构、图像编码、图像分类、手写数字识别

1 引言

随着可穿戴物联网(IoT)、近传感器人工智能(AI)应用和设备端处理的兴起,对节能算法的需求显著增加。超维计算(HDC),特别是二进制超维计算,因其受大脑启发、轻量级和节能的特性而被提出,它具有数据需求少(Rahimi等人,2019)、对噪声鲁棒(Kanerva,2009;Widdows和Cohen,2015;Rahimi等人,2019)、低延迟(Rahimi等人,2019)和快速处理(Rahimi等人,2019)等优势。HDC将输入数据映射到超维(HD)空间,在该空间中,信息分布在数千个向量元素中,这受到人脑中大量存储信息的神经元的启发。由于HDC使用简单的超维算术运算,因此其计算复杂度低于传统的深度学习(DL)。HDC已经在许多应用中得到使用,例如语音识别(Imani等人,2017)、人类活动识别(Kim等人,2018)、手势识别(Rahimi等人,2016a;Moin等人,2021;Zhou等人,2021)、文本分类(Rachkovskij,2007)、医学图像分类(Kleyko等人,2017a;Watkinson等人,2021)、字符识别(Manabat等人,2019)、机器人技术(Neubert等人,2019)和时间序列分类(Schlegel等人,2022)。

决定超维计算(HDC)性能的一个关键方面是将输入数据编码到超维(HD)空间,这在很大程度上取决于输入数据的类型。迄今为止,研究已经清晰地定义了如何使用超维算术运算以简单的方式对文本数据(Rahimi等人,2016b)、数值数据(Imani等人,2017;Kim等人,2018)和时间序列数据(Rahimi等人,2016a)进行编码。然而,文献中仍然缺乏一个统一的框架来编码(二值化)图像。因此,本文旨在提出一种新颖的轻量级超维方法,仅依赖于原生的超维算术向量操作来编码二值化图像。在这方面,本文提出了以下创新点:

1. 引入局部线性映射作为一种新的数值数据映射方法,其中邻近的数值由相似的超维向量表示,而所有其他值由正交的超维向量表示。特别是,我们展示了其在二维图像位置编码中的应用;

2. 定义了一个参数化的框架,用于将二值化图像编码为超维向量,该框架使用兴趣点(POI)选择作为一种局部特征提取方法,并统一了现有的图像原生超维编码方法;

3. 将所提出的框架应用于基准数据集,在MNIST上达到了97.92%的分类准确率,在Fashion-MNIST上达到了84.62%的准确率。

本文的结构如下:首先简要介绍用于分类的超维计算模型。随后,定义了数值数据的局部线性映射,并展示了其在二维位置编码中的应用。接着是文献中关于二值化图像编码方法的概述,介绍我们提出的参数化统一框架,以及对所提出的编码框架进行测试的实验描述。第3节呈现结果,第4节进行讨论。最后,最后一节将总结本文的结论。

2 材料与方法

2.1 超维计算

超维计算(HDC)是一个使用超维向量(即维度非常高,通常可达一万,也称为超向量,HVs)和简单超维算术向量操作来表示数据的数学框架。本文关注的是维度为10,000的密集二进制超向量(即元素为0或1,且两个值出现的概率相等)(Kanerva, 2009; Kleyko等人, 2018)。数据的分析依赖于超向量之间的相似性,通过计算两个二进制超向量 之间的归一化汉明距离来实现。

图1给出了超维计算(HDC)框架的示意图,其中可以区分出两个主要构建模块:编码器和分类器。编码器负责将输入映射到超向量(HV)。通常,它将每个输入值映射到一个原子超向量,该超向量存储在(连续的)项目存储器((C)IM)中。这一过程被称为映射,将在第2.2节中解释。然后,使用超维向量操作将不同的原子超向量组合起来,为每个输入获得一个样本超向量。

最后,样本捆绑(公式7)通过多数规则(公式3)二值化为超向量s = [S] 。

作为第二个主要构建模块,分类器有两种工作模式:(1)在训练期间,使用样本超向量及其对应的类别标签,首先将属于同一类别的所有样本超向量捆绑在一起,然后通过使用未分类的样本来更新这些类别捆绑,以生成类别原型;(2)在推理期间,将样本超向量与每个类别原型进行比较,并通过选择相似度最高的类别来预测对应的类别标签(公式1、2)。训练方法存在不同的变体,感兴趣的读者可以参考我们之前的工作(Smets等人,2023)或补充材料。

由于编码器是系统的关键部分,而文献中仍然缺乏一个统一的框架来编码(二值化)图像,因此我们提出了一个新颖的编码框架(第2.3.2节)。

2.2 数据映射技术

2.2.1 正交映射

正交映射为数据中出现的每个可能值分配一个随机选择的原子超向量(HV)。由于高维度的特性,这些随机超向量是伪正交的,随着维度的增加,它们会趋近于完全正交(Kleyko等人,2022)。这种类型的映射适用于名义数据,其中每个值与其他值相互独立。

2.2.2 线性映射

在处理序数或离散数据时,存在一种自然的层次或值的顺序,使得相邻的层次应该被映射到比距离较远的层次更相似的超向量上,因此对于这种类型的数据,更倾向于使用保持相似性的超向量。因此,应用了将层次线性映射到原子超向量的方法(Rahimi等人,2016a;Kleyko等人,2018)。具体来说,最低层次被分配一个随机原子超向量,随后每个层次的原子超向量是通过翻转前一层次原子超向量中的 个比特位获得的,其中 L 是层次的数量(不翻转之前已经翻转过的比特位)。同样,连续数据在被量化为预定义数量的离散层次后,也可以通过线性映射转换为超向量。

例如,图3展示了线性映射在一个具有从 -100 到 100 的离散值(步长为10,共21个层次)的特征上的应用。它显示了值与最低层次(特征值 = -100)的相似性,这种相似性线性下降直至正交(相似性 = 0.5),以及值与特征值等于 -30 的相似性,这种相似性对于更小和更大的特征值呈线性下降。

2.2.3 局部线性映射

2.3 二值化图像的编码技术

2.3.1 相关工作

文献中已经提出了多种使用HDC对二值化图像进行编码的方法,可以分为两大类:(1)原生HDC,即从原始像素到输出的端到端使用原生超维向量操作;(2)混合HDC,即结合外部特征提取方法与HDC使用。表1概述了不同的编码方法,将在以下部分中讨论。

2.3.1.1 原生HDC

原生HDC编码方法可以根据是否在编码位置时保留邻近位置之间的相似性(即线性映射)进一步分为两类,或者不保留(即正交映射)。

2.3.1.1.1 正交映射的位置向量

到目前为止提到的编码方法通过置换的性质(置换后的超向量与其原始超向量不相似)以及正交位置超向量,将邻近位置的相似像素表示为不相似的超向量。因此,这些编码方法没有保留相似性,而这对于解决图像分类任务可能是至关重要的。

2.3.1.1.2 线性映射的位置向量

Kussul等人(1992)、Gallant和Culliton(2016)以及Weiss等人(2016)应用线性映射,使得邻近的 x 和 y 位置由相似的超向量(HVs)表示。然后,使用第2.3.1.1.1节(b)中提到的绑定操作对二维图像进行编码。

2.3.2 提出的统一框架

图6展示了对二值化图像进行编码的所提方法的概述,该方法可以分为四个步骤:(1)二值化,(2)兴趣点(POI)选择以及围绕POI创建图像块,(3)图像块向量编码,以及(4)图像向量编码。

2.3.2.1 二值化

作为第一步,使用预定义的二值化阈值 对输入图像 I 的像素值进行二值化:

2.3.2.2 兴趣点选择及围绕兴趣点的块创建

兴趣点(POIs)被选为像素值为 Ibin[x, y] = 1 的像素。此后,围绕每个兴趣点绘制一个预定义尺寸 z 的正方形块 P(在图 6 中,z = 3)。

2.3.2.3 块向量编码

块中的每个像素被编码为三个向量的绑定:表示其二进制值 P[x, y] 的 HV(存储在 IM 中,值为 0 的一个随机向量和值为 1 的另一个随机向量)、对应于块中 x 位置的 HV 和对应于块中 y 位置的 HV。x 和 y 位置的 HV 分别存储在两个单独的 CIM 中(CIMx,z 和 CIMy,z),这两个 CIM 中都包含 z 个向量,并且通过正交映射进行映射。然后,通过将所有像素向量打包,并使用多数规则(公式 3)对得到的打包结果进行二值化,得到位置为 (x, y) 的兴趣点的块向量:

对于所有 。围绕兴趣点的块向量编码可以被视为提取图像的局部特征,类似于 Kussul 和 Baidyk(2004)、Kussul 等人(2006)以及 Curtidor 等人(2021)的研究,但在这里,仅使用了原生的高维(HD)算术运算,而不是依赖于基于神经网络的特征提取器。

2.3.2.4 图像向量编码

在通过公式 9 获得所有兴趣点(POIs)的块向量之后,每个块向量会与表示相应兴趣点在原始图像 I 中的 x 和 y 位置的 HV(存储在中)进行绑定,以捕获提取到的局部特征的全局位置信息。将所有这些与兴趣点位置绑定的块向量进行二值化捆绑,得到图像向量:

采用我们提出的局部线性映射(第 2.2.3 节)进行映射,而不是原始的线性映射,以捕捉位置上的小依赖性,同时忽略大的依赖性。

2.4 实验

上述提出的对二值化图像进行编码的方法在两个已知的、公开可用的数据集上进行了测试:(1) MNIST 数据集(LeCun 等人,1998),其中包含 70,000 张 28×28 的灰度图像,涵盖了 10 种不同的手写数字;(2) Fashion-MNIST 数据集(Xiao 等人,2017),包含 10 个类别中的每个类别 7,000 张 28×28 的灰度图像,即总共 70,000 张图像。这两个数据集都被划分为一个包含 60,000 张图像的训练集(每个类别 6,000 张)和一个包含 10,000 张图像的测试集(每个类别 1,000 张)。像素值的范围为 0 到 255。

2.4.1 局部线性映射

首先,使用像素级编码对整幅图像进行编码,而不使用兴趣点(POI)编码,以此来测试局部线性映射的概念。因此,图像被编码为:

2.4.2 提出的统一框架

2.4.3 超参数选择

使用10折交叉验证(CV)在训练集上测试不同设置的组合。这意味着60,000张训练图像被分成十部分。算法在54,000张图像上进行训练,并在剩余的6,000张图像上进行验证,这一过程重复十次,每次选择不同的6,000张验证图像。训练过程以迭代方式进行,最多进行1,000次迭代,同时保存准确率最高的分类器。每经过100次迭代,我们评估最佳训练准确率是否超过99%的准确率。如果达到这种情况,训练过程将终止,并使用准确率最高的分类器对验证集进行评估。对于每种超参数设置组合,HDC分类器的性能以10折交叉验证的十次验证准确率的平均值来报告。

2.4.4 测试集上的评估

对于 MNIST 数据集和 Fashion-MNIST 数据集,选择平均验证准确率最高的超参数设置组合。使用这些设置对整个训练集(即所有 60,000 张图像)进行分类器的训练。与交叉验证实验(第 2.4.3 节)不同,对于 MNIST 数据集,训练过程仅在最佳训练准确率超过 99.9% 时终止;而对于 Fashion-MNIST 数据集,训练过程中的最大迭代次数增加到 2,000 次迭代。之后,将训练好的分类器在 10,000 张测试图像上进行测试。这一过程重复进行十次独立运行,并计算平均测试准确率。

2.4.5 鲁棒性分析

为了测试所提出的编码方法对噪声和模糊的鲁棒性,使用了由 Mu 和 Gilmer(2019)提出的 MNIST-C 数据集,该数据集被用作计算机视觉的鲁棒性基准。该数据集包括原始 MNIST 数据集(LeCun 等人,1998)的 60,000 张训练图像和 10,000 张测试图像,并对其应用了多种不同的干扰,包括散粒噪声、脉冲噪声、玻璃模糊、运动模糊和飞溅,这些干扰在本文中特别用于测试噪声和模糊的鲁棒性。使用提出的编码方法的 HDC 模型在原始的 60,000 张训练图像上进行训练(即没有干扰),分别使用基线超参数设置 S = 1 且不选择兴趣点,公式 10)和通过 10 折交叉验证(第 2.4.3 节,公式 11)得到的最佳验证准确率的设置。然后将这两个训练好的 HDC 分类器分别在五个选定的 10,000 张受干扰的测试集上进行测试,并计算十次独立运行的平均测试准确率。

3 结果

3.1 局部线性映射

使用像素级编码(公式10)测试局部线性映射中分割数量的影响的实验结果以浅蓝色显示在图7中(见补充材料表S2)。该图展示了在MNIST和Fashion-MNIST数据集上,10折交叉验证的十次验证准确率的平均值。如前所述,分割数量等于1(S=1)被视为我们的基线,因为这种设置既不使用局部线性映射,也不使用兴趣点(POI)编码。因此,基线的平均验证准确率对于MNIST为60.78%,对于Fashion-MNIST为62.65%。

当将局部线性映射中使用的分割数量从1增加到9时,性能有所提升。对于MNIST,当(S=9)时,验证准确率最高,达到93.21%,相比基线提升了32.43%;对于Fashion-MNIST,当(S=28)时,验证准确率最高,达到80.98%,相比基线提升了18.33%。在MNIST的情况下,使用正交映射(S=28)的分类器达到了略低于最高准确率的准确率,而这种设置对于Fashion-MNIST则产生了最高的准确率。

3.2 提出的统一框架

图7还展示了我们提出的编码方法(公式11,见补充材料表S3)中两个超参数(即局部线性映射中的分割数量 S 和兴趣点(POI)编码中的块大小 z 的影响结果。该图再次包括了在MNIST和Fashion-MNIST数据集上10折交叉验证的十次验证准确率的平均值。

与前一节类似,随着局部线性映射中使用的分割数量 S 的增加,验证准确率呈现出明显的上升趋势,直至 S = 9 ,随后在 S = 28 时略有下降。随着块大小 z 的增加,性能也有所提升。有趣的是,对于较大的块大小 z ,分割数量 S 对性能的影响似乎有所减弱。

对于MNIST,当 ( S = 4 ) 和 ( z = 7 ) 时,验证准确率最高,达到97.56%;对于Fashion-MNIST,当 ( S = 8 ) 和 ( z = 7 ) 时,验证准确率最高,达到85.28%。与基线准确率( S = 1) 和像素级编码,见图7)相比,MNIST的性能提升了36.78%,Fashion-MNIST的性能提升了22.63%。在下一节中,将使用这两个超参数的最佳设置来测试HDC分类器在测试集上的表现。

3.3 测试集上的评估

表2展示了在前一节(第3.2节)中获得最佳验证准确率的超参数设置下得到的结果。该表列出了在完整训练集上的准确率、在未见过的测试集上的准确率以及获得最佳训练准确率所需的迭代次数,这些数据是基于十次独立运行的平均值。在MNIST的测试集上达到了97.92%的平均准确率。对于Fashion-MNIST数据集,获得了84.62%的平均测试准确率。

3.4 鲁棒性分析

图8展示了在对噪声和模糊的鲁棒性分析中获得的结果。该图显示了在原始数据(即无干扰,图中的红色线)和五个选定的受干扰测试集上的准确率,这些数据是基于MNIST-C数据集的十次独立运行的平均值,并且超参数分别设置为基线设置(S = 1)且无兴趣点选择,公式10)和通过10折交叉验证获得最佳验证准确率的设置(S = 4)和(z = 7),公式11和第3.2节)。更详细的结果可以在补充材料表S4中找到。总之,最佳超参数设置在五个受干扰的测试集上达到了73.20%的平均测试准确率,相比基线设置(平均测试准确率为33.44%),提升了39.77%。

4 讨论

4.1 结果分析

图7中像素级编码的结果表明,所提出的局部线性映射在位置编码方面优于线性映射。更具体地说,随着局部线性映射中使用的分割数量增加,性能有所提升。这一有趣的发现表明,在图像中更好地区分较小位置差异的重要性,而不是较大的差异。这是由于局部线性映射中的分割用正交的HV(超向量)来表示两个相距较远的位置,而只有接近的位置的HV才相似。相比之下,在线性映射中,无论是接近还是远离的位置,其HV都具有一定程度的相似性。

另一个从结果中突出的发现是,与像素级编码相比,对兴趣点(POI)周围的块进行编码时性能显著提升,并且随着块大小的增加,这种提升变得更加明显(图7)。有几个因素可以解释这一现象。首先,通过POI编码忽略了背景像素,从而减少了不必要的信息。其次,围绕每个POI提取局部特征,使得每个POI的局部邻域被纳入考虑范围。

此外,使用局部线性映射对图像中POI的全局位置进行编码,相比使用线性映射,性能有所提升(图7)。这一发现与像素级编码所获得的结果一致,也可以用类似的方式解释。

最后,鲁棒性分析的结果表明,在超参数选择之后,所提出的编码方法比基线HDC编码方法对噪声和模糊具有更高的鲁棒性(第4.3节和补充材料表S4)。

4.2 与最新技术的比较

4.2.1 MNIST 数据集

图9A将我们在MNIST数据集上获得的结果(即97.92%)与其他文献中发现的研究结果进行了比较(见补充材料表S5)。

我们提出的兴趣点(POI)编码与局部线性映射相结合的方法优于所有归类为原生HDC(分层数据编码)的方法。

这包括了应用排列操作对展平图像中像素位置进行编码的方法,即Manabat等(2019)报告的准确率为79.87%,Hassan等(2022)报告的准确率为86%。我们对MNIST数据集获得的结果(97.92%)也优于使用绑定操作对展平图像进行位置编码的若干研究。具体来说,Chuang等(2020)、Chang等(2021)、Hernández-Cano等(2021)、Hsieh等(2021)、Kazemi等(2021)、Zou等(2021b)、Bosch等(2022)、Duan等(2022a,b)以及Ma和Jiao(2022)报告的基线准确率在85%到92%之间。此外,Khaleghi等(2022)提出的基于n-gram的编码方法通过提取局部特征达到94.0%的准确率,而我们通过使用局部线性映射代替正交映射来编码全局位置信息,超越了这一方法。

Hernández-Cano等(2021)提出的OnlineHD可以将其基线性能从91%提升到97%,但仍然低于我们获得的准确率。在OnlineHD中,通过根据样本与现有模型的相似度来更新HDC模型,从而扩展了基线HDC训练过程。因此,由于涉及浮点乘法,训练过程变得更加复杂。OnlineHD被归类为自适应HDC。

其他研究将HDC框架与额外的非HDC方法(混合HDC,第2.3.1.2节)结合使用,例如Karvonen等(2019)使用的元胞自动机(CA),通过该方法得到的高维向量的准确率为74.06%。Zou等(2021a)先使用SNN提取低级特征,再使用HDC,达到90.5%的准确率。Duan等(2022a)和Yan等(2023)将二值神经网络(BNN)与HDC结合使用,分别达到94.74%和97.25%的准确率。Yu等(2022)使用随机傅里叶特征(RFF)对图像进行编码,达到95.4%的准确率。传统的神经网络(NN)也与HDC结合使用,分别达到92.72%(Duan等,2022b)、94.8%(Liang等,2022)和96.71%(Ma和Jiao,2022)的准确率。Zou等(2021b)通过扩展HDC编码框架加入流形学习,报告了97.5%的准确率。我们提出的仅使用原生HD向量操作的编码方法优于这些混合HDC方法。尽管如此,其他混合HDC方法获得了更好的结果。Poduval等(2021)从原始图像中提取特征并应用基于记录的编码,达到了99%的性能。Kussul和Baidyk(2004)以及Kussul等(2006)通过基于神经网络的局部特征提取,分别达到了99.2%和99.5%的更高准确率。Rachkovskij(2022)提取局部二进制模式(LBP)特征,提出了一个平移等变的保持相似性的位置编码方案,并使用大间隔感知器进行分类,达到了98.5%的准确率,向量维度为10,000。

一些研究通过使用多位表示(即多位HDC)而不是单比特(即二进制)来增加HDC的复杂性。Imani等(2019)、Chuang等(2020)、Kazemi等(2021)、Kim等(2021)和Yu等(2022)使用具有更复杂元素的向量,分别达到了95.5%、96.6%、98%、98.09%和98.2%的准确率。只有后三种方法的准确率略高于我们,因此我们可以得出结论,我们提出的二进制、原生HDC方法,使用局部线性映射和POI编码,与这些更复杂的多位HDC方法相比,取得了相当的结果。

尽管本文旨在改进二值化图像的原生HDC编码,但我们将提出的编码方法与轻量级非HDC方法进行了比较。Xiao等(2017)报告了一系列传统机器学习(ML)方法的结果,包括决策树、多层感知器和支持向量分类,准确率范围为52.4%到97.8%,包括Kim等(2017)的AdaBoost分类器。一些研究使用二值神经网络(BNN)解决MNIST分类任务,准确率范围为95.7%到99.04%。最后,二值脉冲神经网络(SNN)达到了97.0%到98.6%的准确率。总之,我们对MNIST数据集获得的97.92%的结果优于原生HDC方法,并且与更复杂的混合HDC或轻量级非HDC方法相当。

对于Fashion-MNIST数据集的研究相对MNIST数据集较少。Duan等(2022a,b)报告了原生HDC方法的准确率为79.24%和80.26%。使用混合HDC方法,Yu等(2022)通过随机傅里叶特征(RFF)达到84.0%的准确率,并在高维向量(HV)中使用更复杂的元素后达到87.4%。Duan等(2022a,b)通过将HDC模型映射到等效的(二值)神经网络,进一步提升了准确率,分别达到85.47%和87.11%。总体来看,我们提出的HDC方法优于原生HDC方法,但在准确率上略低于混合和多位HDC方法。

与MNIST数据集类似,我们也将Fashion-MNIST数据集的结果与轻量级非HDC方法进行了比较。Xiao等(2017)报告了多种传统机器学习(ML)方法的准确率范围为51.1%到89.7%。二值脉冲神经网络(SNN)的性能范围为87.3%到92.0%。虽然我们未能超越二值SNN,但我们在Fashion-MNIST上获得的84.62%的准确率与传统ML方法相当。

4.3 鲁棒性分析

在通过10折交叉验证选择出最佳验证准确率的超参数后,与基线编码方法相比,所提出的编码方法对受到噪声和模糊干扰的图像表现出更高的鲁棒性(补充材料表S4)。尤其是在受到散粒噪声(shot noise)和脉冲噪声(impulse noise)干扰的情况下,平均测试准确率与在未受干扰图像上达到的平均测试准确率相当接近。对于飞溅(spatter)干扰,平均测试准确率略有下降,但所提出的方法仍然能够准确识别大约81.22%的测试图像。对于玻璃模糊(glass blur)和运动模糊(motion blur)干扰,平均测试准确率下降最为明显,其中所提出的方法分别能够正确分类57.63%和39.81%的图像。即便如此,与基线HDC编码方法相比,这仍然是一个显著的提升,分别提高了38.42%(玻璃模糊)和28.32%(运动模糊)。因此,我们可以得出结论,经过超参数选择后,采用我们所提出的编码方法的HDC分类器对噪声和模糊表现出很高的鲁棒性,在五种不同受干扰测试集上的平均准确率为73.20%。

4.4 未来研究方向

在未来的工作中,我们计划评估并扩展所提出的编码方法,以应用于灰度图像和彩色图像,研究在HDC编码中使用分层(多层)块的方法,并进一步拓展局部线性映射概念以用于位置编码。

此外,还可以分析如何使HDC框架对噪声和干扰(如玻璃模糊和运动模糊)具有更强的鲁棒性。

5 结论

我们提出了一种新颖的轻量级方法,用于对二值化图像进行编码。该方法仅依赖于原生高维(HD)算术向量操作,而不使用外部特征提取方法,同时能够保留图像中邻近位置模式的相似性。该方法通过兴趣点选择来提取图像的局部特征,并使用局部线性映射对这些局部特征在图像中的位置进行编码。通过10折交叉验证选择出两个引入的超参数的最佳设置后,我们在MNIST数据集的测试集上达到了97.92%的准确率,在Fashion-MNIST数据集上达到了84.62%的准确率。这些结果优于使用不同编码方法的原生HDC(分层数据编码)的其他研究,并与更复杂的混合HDC模型和轻量级二值化神经网络相当。此外,所提出的编码方法还表现出比基线编码更高的对噪声和模糊的鲁棒性。

原文链接:https://www.frontiersin.org/journals/big-data/articles/10.3389/fdata.2024.1371518/full