北京严禁使用AI自动生成处方,“AI医生”离我们还有多远?

目前,国内AI+医疗的发展还处于起步阶段,安全性还有待考证。

文|览富财经

“AI+医疗”的发展,在给行业带来更多契机的同时,也会产生诸多挑战,亟待政策法规方面的规范。

日前,北京市卫健委发布《北京市互联网诊疗监管实施办法(试行)》(下称《办法》)提出,医疗机构开展互联网诊疗活动要加强药品管理,严禁使用人工智能等自动生成处方,严禁在处方开具前向患者提供药品。

《办法》指出,医疗机构应当对开展互联网诊疗活动的医务人员进行实名认证,确保医务人员具备合法资质。医师接诊前需进行实名认证,确保由本人提供诊疗服务。其他人员、人工智能软件等不得冒用、替代医师本人提供诊疗服务。

“AI+医疗”迈入大模型时代

在“健康中国”战略宗旨下,中国医疗正在经历由提供“医疗保障”到提供“健康服务”智慧化、信息化、定制化的转型。

AI+医疗是在协助人或解放人的状态下,以提升院内外医疗服务效率效果为目的、以人工智能为核心干预技术手段介入传统的院内外医疗环节,从而产生相应软硬件产品的新型医疗应用技术。

随着大模型技术的发展,AI+医疗的应用首先通过文本生成、辅助查询等方式提升医疗全流程的效率,未来更有望融入辅助诊疗决策等核心业务系统,成为我国医疗体系的重要力量。

ChatGPT是一个交互式人工智能模型,由OpenAI在2022年11月发布的一种基于GPT-3.5架构的大型自然语言处理模型,其参数量高达1.75万亿,被广泛应用于对话生成、文本摘要、机器翻译、问答系统等自然语言处理任务中。

GPT-4对于事实的阐述精度对比GPT-3.5高出40%,在医学知识自测评论考试表现更优秀,支持多模态输入,普遍认为将会对医疗信息化、互联网医疗、公卫、医保信息化细分领域产生变革性推动。

在医疗端,ChatGPT等大模型的应用,可以利用患者的健康状况,包括生活习惯、运动情况、饮食习惯等,实现自动医疗指导。这些指导可以为患者提供个性化的健康指导与提醒,提高患者用药治疗的依从性,从而保障患者的健康状况。

通过对话机器人技术,ChatGPT可以用于实现在线医疗咨询、远程医疗诊断、自动医疗指导等。通过文本生成技术,ChatGPT可以用于生成个性化的医疗报告、制定个性化的治疗方案、提供个性化的医疗建议等。通过自我理解和自我修正技术,ChatGPT可以用于实现医疗数据挖掘、疾病预测、诊断推理等。

此外,AI大模型还可以助力医疗记录审查,提高医疗记录审查准确性,缩短临床审查时间。

目前,海外已有多种大模型在医疗领域的应用落地,比如谷歌的Med-PaLM 2,微软子公司Nuance的DAX Express;国内仍存在可提升的空间。

华安证券研报指出,目前ChatGPT在针对中国地区的医疗问题时,回复准确性还未达到最佳性能,存在继续开发空间。此外,ChatGPT存在提供误导性错误答案的可能性。最后,由于ChatGPT无法获取医学影像信息,其提出的建议可能存在局限性。

各路玩家竞相入场

2023年1月,卫宁健康开展了医疗垂直领域的大语言模型WiNGPT的研发和训练工作,截至4月、6月和9月的模型训练参数量分别达到了60亿、156亿、650亿,目前正在探索更多的医疗应用场景。公司计划于10月正式发布由GPT技术加持的新产品WiNEX Copilot。

卫宁健康认为,在医疗领域,ChatGPT将成为医务工作者离不开的贴身助手,它将作为一个超级大脑而存在,不仅能高效地调度和整理数据资源,甚至能引发自主思考,提升医务工作者的工作效率、医疗质量,并做到有效地辅助决策,也为医院的发展运营带来新的可能性。

在5月19-20日的“2023医院高质量发展论坛”上,创业慧康表示已与浙江大学计算机创新技术研究院、浙江省智慧医疗创新中心签订三方战略协议,构建BSoftGPT聚合平台,进一步推动AI大模型在临床决策支持、公共卫生和个人健康场景下的研究和开发。BSoftGPT融入到临床决策支持等业务系统,可实现在医院、区域、互联网、新应用、基础设施多个板块的应用。

据互动易消息,创业慧康打造的BsoftGPT是AI大模型聚合产品,产品将以API调用结合本地部署的方式聚合利用通用GPT模型,同时通过本地部署embedding向量数据库以及公司自有的领域知识库,通过医疗垂直领域的语言模型训练和微调逐步实现产品力,并向公司内外部的应用场景,比如在医疗服务和个人健康等场景中输出AI智能服务。

2023年5月25日,医联正式发布自主研发的基于Transformer架构的国内首款医疗大语言模型——MedGPT。

医联建立了基于专家评议的AI诊疗准确性与真实世界医⽣对标测试机制,不断将AI与真实诊疗场景对齐,最终实现准确诊断。医联团队还会招募真实的医生坐在电脑进行诊断,然后把MedGPT和真实医生的结果交由专家委员会评议,将MedGPT的水平对标真实医生。

据悉,目前医联MedGPT已经可以覆盖ICD10的60%疾病病种,并在近期将研发重心倾斜在多发疾病,以提升数字医院的普惠率。预计在2023年底,可以覆盖80%病种的就诊需求。

从安全角度看,人工智能技术本身更像一个”黑箱“,许多技术细节难以解释,这与医疗这一具有高严谨性高确定性要求的领域产生了矛盾。目前,国内AI+医疗的发展还处于起步阶段,产品性能还不稳定,也缺乏相应的标准和规范,安全性还有待考证,需要在实践中不断调试改进。相关上市公司的投资也存在较大风险。

声明:本文内容仅代表该投稿文章作者观点,不代表浑水号立场。 未经授权不得随意转载,浑水号保留追究相应责任的权利