基于深度学习的汽车故障知识图谱构建

doi:10.19562/j.chinasae.qcgc.2023.01.006

摘要/Abstract

摘要：

本文将知识图谱引入汽车故障诊断领域，以某公司的售后业务数据为来源，根据文本特点，设计了一种知识图谱构建流程：在传统构建流程的基础上，加入文本预分类和实体重组流程。基于DPCNN模型的文本预分类用于处理目标字段存在信息冗余的问题；基于BERT-BiLSTM-MUL-CRF模型的实体抽取与基于语法规则的实体重组的组合形式可以有效解决文本中的嵌套实体问题和非连续实体问题；采用结合术语相似度和结构相似度的方法完成知识融合；最后，选用Neo4j图数据库进行存储，完成汽车故障知识图谱的构建。

关键词: 知识图谱, 深度学习, 实体抽取

Abstract:

This paper introduces knowledge graph into the field of automobile fault diagnosis. Taking the after-sales business data of a company as the source， a knowledge graph construction process is designed according to the characteristics of the text， which adds text pre-classification and entity reorganization process based on the traditional construction process. Text pre-classification based on DPCNN model is used to deal with the problem of information redundancy in target fields. The combination of entity extraction based on BERT-BiLSTM-MUL-CRF model and entity reorganization based on grammar rules can effectively solve the problems of nested entities and discontinuous entity problems in text. The method combining term similarity and structural similarity is used to complete knowledge fusion. Finally， Neo4j graph database is used for storage so as to complete the construction of vehicle fault knowledge graph.

Key words: knowledge graph, deep learning, entity extraction

胡杰,李源洁,耿號,耿黄政,郭雄,易红卫. 基于深度学习的汽车故障知识图谱构建[J]. 汽车工程, 2023, 45(1): 52-60.

Jie Hu,Yuanjie Li,Hao Geng,Huangzheng Geng,Xiong Guo,Hongwei Yi. Construction of Vehicle Fault Knowledge Graph Based on Deep Learning[J]. Automotive Engineering, 2023, 45(1): 52-60.

图/表 17

表1

图1

图2

表2

图3

图4

图5

图6

表3

图7

表4

表5

表6

表7

图8

图9

图10

参考文献 25

1	徐增林，盛泳潘，贺丽荣，等. 知识图谱技术综述［J］. 电子科技大学学报， 2016， 45（4）： 589-606.
	XU Z L， SHENG Y P， HE L R， et al. Review on knowledge graph techniques［J］. Journal of the University of Electronic Science and Technology of China， 2016， 45（4）： 589-606.
2	MECKEL S， ZENKERT J， WEBER C， et al. Optimized automotive fault-diagnosis based on knowledge extraction from web resources［C］. 2019 24th IEEE International Conference on Emerging Technologies and Factory Automation （ETFA）. IEEE， 2019： 1261-1264.
3	陈曦. 基于领域知识图谱的柴油发动机故障诊断研究［D］. 哈尔滨：哈尔滨工业大学， 2021.
	CHEN X. Research on diesel engine fault diagnosis based on domain knowledge graph［D］. Harbin：Harbin Institute of Technology， 2021.
4	伍建辉. 基于第三方云平台的故障知识服务技术研究与系统实现［D］. 成都：西南交通大学， 2020.
	WU J H. Research and implementation of fault knowledge service technology based on third-party cloud platform［D］.Chengdu： Southwest Jiaotong University， 2020.
5	赵祥龙. 基于第三方云平台的车辆故障知识图谱构建［D］.成都：西南交通大学， 2019.
	ZHAO X L. Construction of vehicle fault knowledge graph based on third party cloud platform［D］. Chengdu： Southwest Jiaotong University， 2019.
6	刘峤，李杨，段宏，等.知识图谱构建技术综述［J］.计算机研究与发展，2016，53（3）：582-600.
	LIU Q， LI Y， DUAN H， et al. Knowledge graph construction techniques［J］. Journal of Computer Research and Development， 2016， 53（3）： 582-600.
7	冀振燕，孔德焱，刘伟，等.基于深度学习的命名实体识别研究［J］.计算机集成制造系统，2022，28（6）：1603-1615.
	JI Z Y， KONG D Y， LIU W， et al. Named entity recognition based on deep learning［J］. Computer Integrated Manufacturing System， 2022， 28（6）： 1603-1615.
8	杨秀璋，彭国军，李子川，等.基于Bert和BiLSTM-CRF的APT攻击实体识别及对齐研究［J］.通信学报，2022，43（6）：58-70.
	YANG X Z， PENG G J， LI Z C， el al. Research on entity recognition and alignment of APT attack based on Bert and BiLSTM-CRF［J］. Journal on Communications， 2022， 43（6）： 58-70.
9	张靖宜，贺光辉，代洲，等.融入BERT的企业年报命名实体识别方法［J］.上海交通大学学报，2021，55（2）：117-123.
	ZHANG J Y， HE G H， DAI Z， et al. Named entity recognition of enterprise annual report integrated with BERT［J］. Journal of Shanghai Jiaotong University， 2021， 55（2）： 117-123.
10	储德平，万波，李红，等.基于ELMO-CNN-BiLSTM-CRF模型的地质实体识别［J］.地球科学，2021，46（8）：3039-3048.
	CHU D P， WAN B， LI H， et al. Geological entity recognition based on ELMO-CNN-BiLSTM-CRF model［J］. Earth Science， 2021， 46（8）： 3039-3048.
11	钟诗胜，陈曦，赵明航，等.引入词集级注意力机制的中文命名实体识别方法［J］.吉林大学学报（工学版），2022，52（5）：1098-1105.
	ZHONG S S， CHEN X， ZHAO M H， et al. Incorporating word-set attention into Chinese named entity recognition method［J］. Journal of Jilin University（Engineering and Technology Edition）， 2022， 52（5）： 1098-1105.
12	WU G， TANG G， WANG Z， et al. An attention-based BiLSTM-CRF model for Chinese clinic named entity recognition［J］. IEEE Access， 2019， 7： 113942-113949.
13	JOHNSON R， ZHANG T. Deep pyramid convolutional neural networks for text categorization［C］. Proceedings of the 55th Annual Meeting of the Association for Computational Linguistics （Volume 1： Long Papers）. Association for Computational Linguistics， 2017： 562-570.
14	KIM Yoon. Convolutional neural networks for sentence classification［C］. Proceedings of the 2014 Conference on Empirical Methods in Natural Language Processing （EMNLP）. Association for Computational Linguistics， 2014： 1746-1751.
15	KATIYAR A， CARDIE C. Nested named entity recognition revisited［C］. Proceedings of the 2018 Conference of the North American Chapter of the Association for Computational Linguistics： Human Language Technologies. Association for Computational Linguistics， 2018， 1： 861-871.
16	STRAKOVÁ J， STRAKA M， HAJIČ J. Neural architectures for nested NER through linearization［C］. Proceedings of the 57th Annual Meeting of the Association for Computational Linguistics. Association for Computational Linguistics， 2019： 5326-5331.
17	SHIBUYA T， HOVY E. Nested named entity recognition via second-best sequence learning and decoding［J］. Transactions of the Association for Computational Linguistics， 2020， 8： 605-620.
18	LI X， FENG J， MENG Y， et al. A unified MRC framework for named entity recognition［C］. Proceedings of the 58th Annual Meeting of the Association for Computational Linguistics. Association for Computational Linguistics， 2020： 5849-5859.
19	WANG Y， YU B， ZHU H， et al. Discontinuous named entity recognition as maximal clique discovery［C］. Proceedings of the 59th Annual Meeting of the Association for Computational Linguistics and the 11th International Joint Conference on Natural Language Processing （Volume 1： Long Papers）. Association for Computational Linguistics， 2021： 764-774.
20	DAI X， KARIMI S， HACHEY B， et al. An effective transition-based model for discontinuous NER［C］. Proceedings of the 58th Annual Meeting of the Association for Computational Linguistics. Association for Computational Linguistics， 2020： 5860-5870.
21	田玲，张谨川，张晋豪，等. 知识图谱综述——表示、构建、推理与知识超图理论［J］. 计算机应用， 2021， 41（8）： 2161-2186.
	TIAN L， ZHANG J C， ZHANG J H， et al. Knowledge graph survey：representation，construction，reasoning and knowledge hypergraph theory［J］. Journal of Computer Applications， 2021， 41（8）： 2161-2186.
22	CONNEAU A， SCHWENK H， BARRAULT L， et al. Very deep convolutional networks for text classification［C］. Proceedings of the 15th Conference of the European Chapter of the Association for Computational Linguistics： Volume 1， Long Papers. Association for Computational Linguistics， 2017： 1107-1116.
23	STRUBELL E， VERGA P， BELANGER D， et al. Fast and accurate entity recognition with iterated dilated convolutions［C］. Proceedings of the 2017 Conference on Empirical Methods in Natural Language Processing. Association for Computational Linguistics， 2017： 2670-2680.
24	ZHANG Y， YANG J. Chinese NER using lattice LSTM［C］. Proceedings of the 56th Annual Meeting of the Association for Computational Linguistics （Volume 1： Long Papers）. Association for Computational Linguistics， 2018： 1554-1564.
25	GUI T， MA R， ZHANG Q， et al. CNN-Based Chinese NER withlexicon rethinking［C］. Proceedings of the Twenty-Eighth International Joint Conference on Artificial Intelligence Main track. Morgan Kaufmann， 2019： 4982-4988.

数据类型	数据字段名称	是否为结构化数据
车辆信息	车型平台	是
	车系	是
	VIN	是
	购车日期	是
	行驶里程	是
故障信息	故障描述	否
故障信息	处理结果	否
维修信息	修理日期	是
	工位名称	是
	配件名称	是

文本类别	示例
故障描述	用户抱怨车辆尾门无法打开
排查流程	测量相关电路正常
故障原因	经检查为尾门拉手内部线路短路所致
更换配件	更换尾门拉手组件

Algorithm 1	基于语法规则的实体匹配
Input：	故障部位实体、失效形式实体在原文本中的索引列表L₁；失效形式实体索引列表L₂
Output：	故障现象实体索引列表L₃
1：	L₃，stack//初始化列表L₃和栈stack
2：	for i ∈L₁ do
3：	if i ∈L₂ then//判断是否为失效形式实体
4：	if stack== null then
5：	stack?i //将失效形式实体索引i存入故障现象实体索引列表L₃
6：	else
7：	for j ∈ stack do
8：	stack.pop（j）//将栈顶元素j弹出
9：	L₃?［i，j］//将故障部位与失效形式组合，存放到L₃中
10：	end for
11：	end if
12：	else
13：	stack?i //将元素i压入栈中
14：	end if
15：	end for
16：	return L₃//输出结果

模型参数	模型参数取值
嵌入层	词向量
卷积核尺寸	3
Dropout	0.3
学习率	2×10^-4
优化器	Adam

文本分类模型	P	R	F₁
SVM	89.33	89.38	89.24
Naive Bayes	85.86	83.97	84.69
TextCNN^［14］	90.91	90.98	90.73
VDCNN^［22］	86.53	84.57	85.24
DPCNN^［13］	93.14	92.79	92.91