打开网易新闻 查看精彩图片

智能变电站的虚回路连接正确性关系到智能变电站继电保护设备能否正确动作,传统的虚回路校核依赖人工逐项对比,检验效果差、时间长。国网温州供电公司的陈文汉赵张磊、高炳蔚、陈刚、孔凡坊在2025年第2期《电气技术》上撰文,提出一种基于改进双向变换器(BERT)模型的智能变电站虚回路自动校核技术。首先通过语句清洗提高校核精准度,然后通过掩盖中文词汇代替BERT模型中掩盖单个字符的方式,增强模型的中文词汇理解性能。为进一步提高辨识性能,结合词汇遮掩模式的BERT模型和孪生网络结构得到改进BERT模型,并将虚端子描述文本分成两个同语义子集作为改进BERT模型的输入,通过计算虚回路端子两端文本的余弦相似度来校核虚端子连接正确性。测试与应用结果显示,该方法能够准确识别虚端子匹配度并自动校核虚回路,有效降低了传统虚回路校核的工作量,提升了虚回路校核的准确性。

继电保护设备通过将一次大电流转变为二次小电流实现各类故障切除及后续故障分析。在传统变电站内,设备之间的电信号通信通过电缆端对端连接实现,因此每个电信号都需要一组电缆,接线复杂。智能变电站通过电子信息技术将电信号转变为光信号,因此智能电子设备(intelligent electronic device, IED)只需要数根光纤即可实现设备间的信息传输,无需铺设大量电缆。

为了体现光纤两端所连接设备之间的逻辑关系,以虚回路来对应传统变电站中的二次回路,并用虚端子描述虚回路两端的端子,以此体现设备之间信息传递的通道。虚回路在智能变电站中尤为重要,虚回路连接错误可能引起保护误动、拒动等严重后果。因此,在智能变电站投运前,需要对全站系统配置描述(substation configuration description, SCD)文件的虚回路设计进行校核。

虚回路中的每个虚端子都有其文本描述,表示各自的功能。目前,常规的虚回路校核以人工为主,但是由于其所代表的二次回路识别专业性强、可读性差,特别是在高电压等级的变电站内,虚回路的连接更加复杂,导致人工逐项比对效率低且易出错。此外,国内智能设备虚回路的具体实现尚无规范,各厂家的虚回路文本描述不尽相同,致使虚回路校核更加困难。

为解决人工校核SCD文件的难题,一些文献提出了简化虚回路校核的方法。有文献提出将虚端子可视化表示为二次回路,以增强虚端子可读性,还有研究提出将虚端子导出为文本格式,以便于后续校核。有文献提出利用子装置级配置及SCD文件远景配置减小配置工作量,以提高SCD文件配置自动化水平。以上工作虽然减轻了虚端子校核的工作量,但依旧无法实现虚端子自动校核功能。

近年来,有研究提出利用自然语言处理(natural language processing, NLP)实现虚回路全自动校核。随着深度神经网络和预训练模型的提出,NLP被应用于各个领域,以提升行业的智能化水平。有文献提出基于Levenshtein距离模糊匹配算法,建立标准虚端子库和非标准虚端子库之间的映射,从而实现自动校核,但由于该方法使用连续词袋(continuous bag-of-words, CBOW)模型对文本编码,在处理某些两端文本描述差异较大的虚端子时匹配效果不佳。有文献提出用改进双向长短期记忆(bidirectional long short-term memory, BiLSTM)来获得虚端子文本的句向量,通过对比两端虚端子文本的句向量相似度实现虚端子的自动校核,但是该方法调参复杂,且存在过拟合问题。

综上所述,目前虚回路自动校核基本仍采用人工与数据库结合的方式,利用NLP实现虚端子自动校核的方法尚不成熟。特别地,针对虚端子文本语义完全不同却指代同一对象的问题,尚无解决方案。鉴于此,本文提出基于改进双向变换器(bidirectional encoder representations from transformers, BERT)模型的虚回路自动校核方法。

首先,对虚端子文本短句进行数据清洗,通过切割无效文本、扩充有效短句的形式,提高后续句向量对比的精确度。然后,采用词汇遮蔽策略代替BERT模型的字符遮蔽策略,将虚端子文本分为句子对引入改进BERT预训练模型,形成基于虚端子文本的训练库,通过对比句向量的余弦相似度,描述虚端子是否匹配。最后,通过训练模型实现虚端子的自动校核,验证算法的正确性。

1 基于改进BERT模型的文本相似度测算

1.1 数据清洗

虚端子的描述文本一般是半结构化文本,包含一部分与句子语义无关的内容,部分虚端子描述过于简洁,有的甚至不包含汉语结构。这些虚端子文本在后续进行句子嵌入训练时,会产生过拟合噪声,因此在训练前期,需要对虚端子文本进行数据清洗工作。

虚端子文本清洗示例见表1。对于“开关1断路器位置A相_GOOSE”,该文本后面的“_GOOSE”对分析句子语义无参考价值,GOOSE是面向通用对象的变电站事件(generic object oriented substation event)的英文缩写,其指代该虚端子通过GOOSE报文传递信息,与语义无关,可直接剔除,清洗后的文本为“开关1断路器位置A相”。同理,包含“_SV”“_MMS”的语句可通过相同操作进行处理。

对于以英文字母和数字表示的文本,如“Ia1”“Ua1”,其代表保护电流在设备之间的传输通路,将此类语句扩充为真实语义,如“Ua1”扩充为“保护A相电压Ua1”。

打开网易新闻 查看精彩图片

表1、图1

对于短语中存在的连接符号,如“_”“(”“)”,将其从原文本中剔除。

对于罗马数字符号“Ⅰ”“Ⅱ”等,统一为阿拉伯数字。

1.2 BERT预训练模型

BERT是由Google公司于2018年首次发布的基于Transformer的深度学习模型,与传统的卷积神经网络(convolutional neural network, CNN)和递归神经网络(recurrent neural network, RNN)之类的NLP算法相比,它采用双向训练和预训练-微调方式来提高对语言的理解能力,在多种NLP任务中有出色的表现。BERT整体框架包含预训练和微调两个阶段。预训练阶段的基本架构如图1所示。

在预训练阶段,BERT有2个自监督任务。一个是掩蔽语言模型(masked language model, MLM)。为充分利用上下文之间的语义关系,BERT模型采用MLM模式训练数据,将输入语句中的部分单词用[MASK]或随机单词代替,再通过上下文预测该单词,这样BERT模型可以更好地理解上下文语义,也有效避免了出现过拟合的问题。同时,由于在预训练过程中有15%的单词被[MASK]代替,提高了模型对复杂语法和语义规则的约束理解能力,以及预测下一单词的性能。另一个任务是下一句预测(next sentence prediction, NSP),判断两个句子是否为上下文关系,句子的信息被保存在词向量输出[CLS]中。

总体而言,预训练阶段模型基于通用文本领域的大数据进行训练,形成一个基础BERT模型。微调阶段使用特定任务数据集对预训练模型进行调整,通过反向传播算法进行BERT模型的权重更新。基于BERT模型的特定任务流程如图2所示。

1.3 改进BERT模型

基于图1的BERT模型是通过遮蔽单个字符实现MLM任务,这在英文语句的文本相似度测算过程中可以很好地避免过拟合问题。但是,在处理中文任务时,单字符遮蔽会带来两个问题:一是单个中文字符在不同词语中代表的含义不同,二是一些单个中文字符在语句中无意义。特别是在虚端子辨识任务中,某些电力行业专属名词会频繁导致第二种问题出现,如“断路器”中3个单字符“断”“路”“器”均不能指代开关的意思,只有形成中文词汇,才能表达其本身的含义。为处理上述情况,本文将遮蔽单个字符的训练模式改为遮蔽单个词汇的模式。词汇遮蔽策略如图3所示。

打开网易新闻 查看精彩图片

图2-图5

考虑到虚端子文本多以短文本形式出现,可能只包含几个词汇,此时采用遮蔽词汇的模式会掩盖语句的大部分语义信息,反而使模型效果变差。因此,本文采用改进BERT词汇遮蔽策略,即对长短不同的文本采用不同的遮蔽策略。首先通过Jieba分词工具,将虚端子文本分割为词汇级的集合,并计算其词汇总量,若词汇总量≥6,则采用词汇遮蔽策略,若词汇总量<6,则采用字符遮蔽策略。改进BERT模型遮蔽策略如图4所示。

考虑到虚端子文本中存在中文语义不相同,但在虚端子中却指代同一对象的特殊情况,本文引入孪生网络(Siamese network)对一组虚端子文本进行训练,以实现对中文语义相差较大的虚端子文本的正确辨识。孪生网络结构作为一种特殊神经网络架构,被广泛应用于度量任务,该架构通过对一组输入结构相似的样本进行学习,并计算数据对的空间距离来衡量数据对的相似度。孪生网络结构示意图如图5所示。

打开网易新闻 查看精彩图片

式1

结合孪生网络与改进词汇遮蔽策略的BERT模型即为本文所提出的改进BERT模型,其结构示意图如图6所示。

打开网易新闻 查看精彩图片

式2-式3、图6

1.4 基于改进BERT模型的虚回路自动校核方法

一个220 kV变电站的SCD文件包含根节点(SCL Root)、设备定义(device definitions)、通信配置(communication configuration)、数据集(data sets)、逻辑节点(logical nodes)、功能块(functional blocks)、IED(如继电保护装置、测控装置)配置等。SCD文件通常有 标签,用于定义每个IED的详细配置,包括通信地址、功能模块、数据集等。虚回路文本保存在IED数据集中,其详细描述了变电站内设备间的虚回路连接,可从对应模块导出文本文件供后续处理。

为形成可用的虚端子对比文本材料,提取20个已建成的220 kV变电站站内完整SCD文件,导出所有设备的虚回路连接文本。某套220 kV线路保护中导出的虚回路文本见表2。

一个导出的虚回路模版包含6部分,其中,External IED Name表示该设备外部连接设备的虚端子对应的IED名称,由于该虚回路从线路保护中导出,其对应的即该线路间隔的智能终端;External Data Reference表示外部设备虚端子的引用地址;External Data Description代表外部设备虚端子描述;带有Internal关键字的表示该设备内部的IED名称、虚端子引用地址和虚端子描述。本文只用到两个关键字段:External Data Description与Internal Data Description,即虚回路两端的文本描述。

得到虚端子文本后,首先对文本进行语句清洗,并对虚端子两端文本进行相似度标注,然后将清洗后的文本作为改进BERT模型的输入,对模型微调后得到基于虚端子文本的改进BERT模型。基于微调后的模型测算虚端子文本相似度,以余弦相似度量化虚端子文本的相似度。在得到量化的文本相似度后,规定一个正确阈值(本文设置为0.8),文本相似度小于该值的虚端子为存在疑问的虚端子匹配,大于该值的虚端子为正确的虚端子匹配,最终实现基于改进BERT模型的虚回路自动校核。基于改进BERT模型的虚回路自动校核流程如图7所示。

2 算例分析与讨论

为验证本文所提模型的有效性,通过基于Python语言的PyTorch平台编写算法程序。以20个220 kV智能变电站导出的虚端子文本为数据集,将其以3:1:1划分为训练集、验证集、测试集。

采用虚端子文本数据对改进BERT模型微调的主要参数见表3。

打开网易新闻 查看精彩图片

表2-表5、图7

2.1 基于改进BERT模型的算例正确性分析

基于本文提出的改进BERT模型,得到虚端子的文本对比结果,以[-1, 1]来表示文本的相似度。相似度接近1表示两个虚端子文本高度相似,接近-1表示两个虚端子文本高度不相似。部分GOOSE虚端子文本校核结果见表4,部分SV虚端子文本校核结果见表5。

从表4可以看出,本文提出的改进BERT模型对中文语义相近的文本的校核结果准确。通过微调改进BERT模型,对中文语义相似度不高的文本,如“永跳_直跳(网口3)”和“跳支路6”也能进行准确校核。从表5可以看出,由于对虚端子文本进行了数据清洗,本文提出的改进BERT模型对纯英文文本的虚端子校核结果准确。若不进行数据清洗,“保护C相电压Uc1”与“Uc”的原始匹配度只有0.45,进行数据清洗后相似度可以达到0.83,证明本文提出的数据清洗策略效果显著。

2.2 与不同方法的对比

为验证本文所提模型在虚回路校核中的有效性,将其与其他文本相似度测算模型,即文献提出的基于Levenshtein距离模糊校核模型、文献提出的基于改进BiLSTM的虚回路自动校核模型和基于BERT基础数据库实现的虚回路校核模型进行对比。

打开网易新闻 查看精彩图片

式4

4种模型中性能最好的是本文提出的改进BERT模型,一方面该模型由于采用孪生网络结构,对虚端子文本中存在的中文语义不相符却指代同一对象的校核正确性有很大提升,同时对英文短语的校核也有较好的匹配度;另一方面,本文所提模型基于BERT模型,能更好地捕捉词汇级文本特征,且有效避免了过拟合现象。因此,本文所提模型的虚回路自动校核性能较其他3种模型更优。

打开网易新闻 查看精彩图片

表6、表7

2.3 实际应用

应用本文所提模型对一个新建220 kV智能变电站的全站虚回路文本进行校核,结果见表7。

根据表7数据可以发现,本文所提模型校核保护装置虚端子文本的准确率最高,对测控装置与其他自动装置的辨识效果较差。这是因为保护装置和合并单元、智能终端均采用同一厂家的设备,其文本相似度高,因此辨识结果好;站内测控装置与某些保护装置、合并单元和智能终端属于不同厂家,其虚端子文本描述差别较大,所以辨识效果较差;其他自动装置是来自某些小厂家的设备,其虚端子描述更加不规范,导致辨识效果更差。

根据上述实际应用结果可以发现,本文所提校核模型应对不同厂家,特别是一些小厂家的虚端子文本的性能还有待进一步提高,因此后续可以通过以下两个方面进一步增强算法的校核准确性:

1)增加微调阶段的训练数据,可通过将不同厂家的虚端子文本组合成句子对,作为孪生网络的一组输入数据,以增强模型对不同厂家虚端子的辨识能力。

2)对小厂家的虚端子文本进行更深度的数据清洗,使虚端子文本更加标准化。

3 结论

本文提出了一种基于改进BERT模型的虚回路自动校核方法,通过算例验证了所提方法的正确性与有效性。该方法主要分为3个部分:

1)导出SCD文件中的虚端子文本,通过数据清洗将虚端子描述文本中与语义无关部分剔除,并扩充虚端子中的英文短语句,以提高校核精准度。

2)将虚端子两端的描述文本,进行词汇分割并采取分类词汇遮掩策略后,作为改进BERT模型的输入。通过设定两个虚端子的文本相似度,让改进BERT模型更好地提取语句中的语义信息,形成基于现有虚端子描述文本数据库的微调训练模型。

3)基于生成的训练模型计算虚回路两端文本相似度。得到文本相似度后,根据设定的正确性阈值,自动判断虚端子是否匹配,最终实现虚回路的自动校核。

本工作成果发表在2026年第2期《电气技术》,论文标题为“ 基于改进双向变换器模型的智能变电站虚回路自动校核研究 ”,本项目得到国网浙江省电力有限公司集体企业科技项目的支持。

打开网易新闻 查看精彩图片