Please wait a minute...
Advanced Search
数据分析与知识发现  2023, Vol. 7 Issue (8): 138-148     https://doi.org/10.11925/infotech.2096-3467.2022.0761
  研究论文 本期目录 | 过刊浏览 | 高级检索 |
引入注意力机制的在线问诊推荐研究*
聂卉1(),蔡瑞昇2
1中山大学信息管理学院 广州 510006
2中山大学附属第七医院 深圳 518107
Online Doctor Recommendation System with Attention Mechanism
Nie Hui1(),Cai Ruisheng2
1School of Information Management, Sun Yat-Sen University, Guangzhou 510006, China
2The Seventh Affiliated Hospital, Sun Yat-Sen University, Shenzhen 518107, China
全文: PDF (1289 KB)   HTML ( 20
输出: BibTeX | EndNote (RIS)      
摘要 

【目的】将深度学习引入医疗推荐领域,解决在线诊疗过程中患者“择医”面临的实际问题。【方法】利用患者问诊记录,采用层次注意力网络(HAN)构建医生与患者模型;设计基于“医患”适配度和患者“评分”的医生推荐方案。两个方案应用深度学习框架HAN构建医生和患者模型,并运用注意力机制加强“医患”向量间的交互,使医生名下的与求诊者病情相似的患者获得更高权重,据此计算医生推荐值。【结果】HAN能够从患者的疾病描述中提取表征病情的关键信息,通过提升建模质量,推荐命中率相较经典的Word2Vec模型提升了16.45个百分点;对于推荐值计算,基于注意力机制的“评分”方案的命中率最高(79.7%),显著优于基于余弦相似度的计算方案(74.9%)。【局限】 仅利用医生名下历史患者的问诊数据为医生建模,医生的口碑、资历、专长等信息未纳入模型。【结论】构建用户和推荐对象模型是设计推荐系统的关键,增强用户和推荐对象之间的特征交互可以提高推荐质量,本研究验证了基于深度学习的建模技术在推荐任务中的优势。

服务
把本文推荐给朋友
加入引用管理器
E-mail Alert
RSS
作者相关文章
聂卉
蔡瑞昇
关键词 推荐系统智慧医疗深度学习在线问诊    
Abstract

[Objective] This paper utilizes deep learning to recommend medical services for patients, which helps them choose doctors during online diagnosis and treatment. [Methods] First, we used the Hierarchical Attention Network and patient consultation records to construct doctor-patient models. Then, we designed doctor recommendation schemes based on the “doctor-patient” compatibility and patient “rating”. Both schemes incorporated the HAN deep learning framework to build doctor-patient models and used attention mechanisms to enhance the interaction of “doctor-patient”. Patients with similar conditions to those inquiring about treatments receive higher weights, which helped us calculate the doctor’s recommendation score. [Results] The HAN model could extract the critical information representing the patient’s condition from their disease descriptions. The recommendation hit rate was improved by 16.45% compared to the classical Word2Vec model by improving the modeling quality. For the recommendation score, the “rating” scheme based on the attention mechanism achieved the highest hit rate (79.7%), which is significantly outperforming the cosine similarity-based scheme (74.9%). [Limitations] This study only utilized historical patient consultation data under each doctor’s name to model the doctors, and the model did not include information such as the doctor’s reputation, credentials, and expertise. [Conclusions] Constructing user and recommendation objects is crucial in designing recommendation systems. Enhancing feature interaction between the users and recommendation objectives can improve recommendation quality. This study validates the advantages of deep learning modeling techniques in recommendation tasks.

Key wordsRecommendation System    Intelligent Healthcare    Deep Learning    Online Medical Consultation
收稿日期: 2022-07-21      出版日期: 2023-10-08
ZTFLH:  TP391  
基金资助:* 2020广州市科技计划项目(202002020036)
通讯作者: 聂卉,ORCID: 0000-0001-8567-3084,E-mail: issnh@mail.sysu.edu.cn。   
引用本文:   
聂卉, 蔡瑞昇. 引入注意力机制的在线问诊推荐研究*[J]. 数据分析与知识发现, 2023, 7(8): 138-148.
Nie Hui, Cai Ruisheng. Online Doctor Recommendation System with Attention Mechanism. Data Analysis and Knowledge Discovery, 2023, 7(8): 138-148.
链接本文:  
https://manu44.magtech.com.cn/Jwk_infotech_wk3/CN/10.11925/infotech.2096-3467.2022.0761      或      https://manu44.magtech.com.cn/Jwk_infotech_wk3/CN/Y2023/V7/I8/138
Fig.1  HAN模型网络结构
疾病描述 医生姓名 所在医院 科室
1月23日咳嗽至2月3日,后不咳嗽,近三天如右侧图示(曲线为右侧肋骨边缘,圆圈为痛处) 初期咳嗽的时候吃过 乙酰螺旋霉素,无不良反应。 昨天服用 盐酸丙卡特罗片 心跳明显加快。 周x丽 中山大学附属第三医院 呼吸与危重症医学科
医生你好,上个月(8月),我带我女儿去江西省儿童医院检查腺样体肥大,拍片子以后,医生说不要紧,我看那个医生年纪很小有点不放心,麻烦你帮我看看要紧吗?是否需要手术? 史x波 中山大学附属第一医院 耳鼻咽喉科
Table 1  语料集数据示例
Fig.2  实验框架
实验 文本表示 推荐模型
组别 实验方案 词向量 句向量 医生建模 推荐计算
1 1.1 Word2Vec 词向量求均值 句向量求均值 余弦相似度
1.2 HAN
2 2.1 Word2Vec HAN 注意力权重求和 余弦相似度
2.2 评分方案
Table 2  实验设计
Fig.3  训练集及验证集上损失率/准确率随轮次的变化曲线
实验方案 特征建模 MRR ACC SIM EXP
1.1 Word2Vec 0.287 0.584 1.267 443.059
1.2 HAN 0.423 0.749 2.053 448.494
Table3  基于不同文本表示的推荐系统评测(基于内容的推荐模型I)
实验方案 推荐方法 MRR ACC EXP
1.2 余弦相似度 0.423 0.749 448.494
2.1 ATT+余弦相似度 0.405 0.739 599.872
2.2 ATT+评分方案 0.516 0.797 723.715
Table4  推荐方案评测
Fig.4  好大夫在线页面截
方案 推荐列表1号 推荐列表2号 推荐列表3号
1.1 柯超 中山大学附属肿瘤医院 神经外科 翁胤仑 中山大学孙逸仙纪念医院 神经外科 陈锡辉 中山大学附属第一医院 耳鼻咽喉科
1.2 陈锡辉 中山大学附属第一医院 耳鼻咽喉科 杨海弟 中山大学孙逸仙纪念医院 耳鼻喉科 熊观霞 中山大学附属第一医院 耳鼻咽喉科
2.1 党华 中山大学孙逸仙纪念医院 耳鼻喉科 樊韵平 中山大学附属第七医院 耳鼻咽喉头颈外科 吴旋 中山大学附属第一医院 耳鼻咽喉科
2.2 党华 中山大学孙逸仙纪念医院 耳鼻喉科 熊观霞 中山大学附属第一医院 耳鼻咽喉科 吴旋 中山大学附属第一医院 耳鼻咽喉科
Table 5  推荐结果(案例1)
方案 推荐列表1号 推荐列表2号 推荐列表3号
1.1 李洁 中山大学附属第六医院 生殖医学中心 李宇彬 中山大学附属第一医院 生殖医学中心 欧建平 中山大学附属第三医院 生殖医学中心
1.2 李宇彬 中山大学附属第一医院 生殖医学中心 李洁 中山大学附属第六医院 生殖医学中心 蔡柳洪 中山大学附属第三医院 生殖医学中心
2.1 李予 中山大学孙逸仙纪念医院 妇科生殖内分泌专科 欧建平 中山大学附属第三医院 生殖医学中心 林海燕 中山大学孙逸仙纪念医院 生殖医学中心
2.2 李宇彬 中山大学附属第一医院 生殖医学中心 蔡柳洪 中山大学附属第三医院 生殖医学中心 杨星 中山大学附属第六医院 生殖医学中心
Table 6  推荐结果(案例2)
方案 推荐列表1号 推荐列表2号 推荐列表3号
1.1 王涛 中山大学附属第三医院 耳鼻咽喉-头颈外科 韦民 中山大学附属第六医院 呼吸内科 王章锋 中山大学附属第一医院 耳鼻咽喉科
1.2 王涛 中山大学附属第三医院 耳鼻咽喉-头颈外科 张雪媛 中山大学孙逸仙纪念医院 耳鼻喉科 王章锋 中山大学附属第一医院 耳鼻咽喉科
2.1 樊韵平 中山大学附属第七医院 耳鼻咽喉头颈外科 王章锋 中山大学附属第一医院 耳鼻咽喉科 党华 中山大学孙逸仙纪念医院 耳鼻喉科
2.2 党华 中山大学孙逸仙纪念医院 耳鼻喉科 王涛 中山大学附属第三医院 耳鼻咽喉-头颈外科 樊韵平 中山大学附属第七医院 耳鼻咽喉头颈外科
Table 7  推荐结果(案例3)
[1] 国家卫生健康委员会. 国家卫生健康委办公厅关于在疫情防控中做好互联网诊疗咨询服务工作的通知及解读[EB/OL]. [2022-06-02]. https://baijiahao.baidu.com/s?id=1657958526525905506&wfr=spider&for=pc.
[1] (General Office of National Health Commission. Notice and Interpretation of the General Office of the National Health Commission on the Work of Internet Consultation Services in the Prevention and Control of Epidemics[EB/OL]. [2022-06-02]. https://baijiahao.baidu.com/s?id=1657958526525905506&wfr=spider&for=pc.)
[2] 吴江, 侯绍新, 靳萌萌, 等. 基于LDA模型特征选择的在线医疗社区文本分类及用户聚类研究[J]. 情报学报, 2017, 36(11): 1183-1191.
[2] (Wu Jiang, Hou Shaoxin, Jin Mengmeng, et al. LDA Feature Selection Based Text Classification and User Clustering in Chinese Online Health Community[J]. Journal of the China Society for Scientific and Technical Information, 2017, 36(11): 1183-1191.)
[3] 潘有能, 倪秀丽. 基于Labeled-LDA模型的在线医疗专家推荐研究[J]. 数据分析与知识发现, 2020, 4(4): 34-43.
[3] (Pan Younneg, Ni Xiuli. Recommending Online Medical Experts with Labeled-LDA Model[J]. Data Analysis and Knowledge Discovery, 2020, 4(4): 34-43.)
[4] 刘通. 基于在线咨询记录的医生自动匹配算法应用研究[J]. 情报理论与实践, 2018, 41(6): 143-148,123.
doi: 10.16353/j.cnki.1000-7490.2018.06.024
[4] (Liu Tong. An Application Research of Automatic Physician Matching Algorithm Based on Online Healthcare Consultation Records[J]. Information Studies: Theory & Application, 2018, 41(6): 143-148,123.)
doi: 10.16353/j.cnki.1000-7490.2018.06.024
[5] 孟秋晴, 熊回香. 基于在线问诊文本信息的医生推荐研究[J]. 情报科学, 2021, 39(6): 152-160.
[5] (Meng Qiuqing, Xiong Huixiang. Doctor Recommendation Based on Online Consultation Text Information[J]. Information Science, 2021, 39(6): 152-160.)
[6] 熊回香, 李晓敏, 李建玲. 基于医患交互数据的在线医生推荐研究[J]. 情报理论与实践, 2020, 43(8):159-166.
[6] (Xiong Huixiang, Li Xiaomin, Li Jianling. Research on Online Doctor Recommendation Based on Doctor-patient Interaction Data[J]. Information Studies: Theory & Application, 2020, 43(8):159-166.)
[7] Yan Y, Yu G, Yan X. Online Doctor Recommendation with Convolutional Neural Network and Sparse Inputs[J]. Computational Intelligence and Neuroscience, 2020. DOI:10.1155/2020/8826557.
[8] Yuan H, Deng W. Doctor Recommendation on Healthcare Consultation Platforms: An Integrated Framework of Knowledge Graph and Deep Learning[J]. Internet Research, 2022, 32(2): 454-476.
doi: 10.1108/INTR-07-2020-0379
[9] Koren Y, Bell R, Volinsky C. Matrix Factorization Techniques for Recommender Systems[J]. Computer, 2009, 42(8): 30-37.
[10] Shan Y, Hoens T R, Jiao J, et al. Deep Crossing: Web-scale Modeling Without Manually Crafted Combinatorial Features[C]// Proceedings of the 22nd ACM SIGKDD International Conference on Knowledge Discovery and Data Mining. 2016: 255-262.
[11] Cheng H T, Koc L, Harmsen J, et al. Wide & Deep Learning for Recommender Systems[C]// Proceedings of the 1st Workshop on Deep Learning for Recommender Systems. 2016: 7-10.
[12] He X, Liao L, Zhang H, et al. Neural Collaborative Filtering[C]// Proceedings of the 26th International Conference on World Wide Web. 2017: 173-182.
[13] Vaswani A, Shazeer N, Parmar N, et al. Attention is All You Need[C]// Proceedings of the 31st International Conference on Neural Information Processing Systems. 2017:6000-6010.
[14] Xiao J, Ye H, He X, et al. Attentional Factorization Machines: Learning the Weight of Feature Interactions via Attention Networks [OL]. arXiv Preprint, arXiv:1708.04617.
[15] Zhou G, Zhu X, Song C, et al. Deep Interest Network for Click-through Rate Prediction[C]// Proceedings of the 24th ACM International Conference on Knowledge Discovery & Data Mining. 2018:1059-1068.
[16] Zhou G, Mou N, Fan Y, et al. Deep Interest Evolution Network for Click-through Rate Prediction[C]// Proceedings of the AAAI Conference on Artificial Intelligence. 2019:5941-5948.
[17] Yang Z, Yang D, Dyer C, et al. Hierarchical Attention Networks for Document Classification[C]// Proceedings of the 2016 Conference of the North American Chapter of the Association for Computational Linguistics:Human Language Technologies. 2016: 1480-1489.
[18] Mikolov T, Sutskever I, Chen K, et al. Distributed Representations of Words and Phrases and Their Compositionality[C]// Proceedings of the 26th International Conference on Neural Information Processing System. 2013: 3111-3119.
[1] 钱聪, 齐江蕾, 丁浩. 基于用户多重兴趣漂移特征权重的网络出版物推荐研究*[J]. 数据分析与知识发现, 2023, 7(8): 119-127.
[2] 李广建, 袁钺. 基于深度学习的科技文献知识单元抽取研究综述[J]. 数据分析与知识发现, 2023, 7(7): 1-17.
[3] 王楠, 王淇. 基于深度学习的学生课堂专注度测评方法*[J]. 数据分析与知识发现, 2023, 7(6): 123-133.
[4] 汪晓凤, 孙雨洁, 王华珍, 张恒彰. 融合深度学习和知识图谱的类型可控问句生成模型构建及验证*[J]. 数据分析与知识发现, 2023, 7(6): 26-37.
[5] 吴佳伦, 张若楠, 康武林, 袁普卫. 基于患者相似性分析的药物推荐深度学习模型研究*[J]. 数据分析与知识发现, 2023, 7(6): 148-160.
[6] 刘洋, 张雯, 胡毅, 毛进, 黄菲. 基于多模态深度学习的酒店股票预测*[J]. 数据分析与知识发现, 2023, 7(5): 21-32.
[7] 黄学坚, 马廷淮, 王根生. 基于分层语义特征学习模型的微博谣言事件检测*[J]. 数据分析与知识发现, 2023, 7(5): 81-91.
[8] 潘华莉, 谢珺, 高婧, 续欣莹, 王长征. 融合多模态特征的深度强化学习推荐模型*[J]. 数据分析与知识发现, 2023, 7(4): 114-128.
[9] 王寅秋, 虞为, 陈俊鹏. 融合知识图谱的中文医疗问答社区自动问答研究*[J]. 数据分析与知识发现, 2023, 7(3): 97-109.
[10] 张贞港, 余传明. 基于实体与关系融合的知识图谱补全模型研究*[J]. 数据分析与知识发现, 2023, 7(2): 15-25.
[11] 沈丽宁, 杨佳艺, 裴家旋, 曹广, 陈功正. 基于OCC模型和情绪诱因事件抽取的细颗粒度情绪识别方法研究*[J]. 数据分析与知识发现, 2023, 7(2): 72-85.
[12] 王卫军, 宁致远, 杜一, 周园春. 基于多标签分类的科技文献学科交叉研究性质识别*[J]. 数据分析与知识发现, 2023, 7(1): 102-112.
[13] 肖宇晗, 林慧苹. 基于CWSA方面词提取模型的差异化需求挖掘方法研究——以京东手机评论为例*[J]. 数据分析与知识发现, 2023, 7(1): 63-75.
[14] 成全, 佘德昕. 融合患者体征与用药数据的图神经网络药物推荐方法研究*[J]. 数据分析与知识发现, 2022, 6(9): 113-124.
[15] 王露, 乐小虬. 科技论文引用内容分析研究进展[J]. 数据分析与知识发现, 2022, 6(4): 1-15.
Viewed
Full text


Abstract

Cited

  Shared   
  Discussed   
版权所有 © 2015 《数据分析与知识发现》编辑部
地址:北京市海淀区中关村北四环西路33号 邮编:100190
电话/传真:(010)82626611-6626,82624938
E-mail:jishu@mail.las.ac.cn