生病问诊AI出错了谁担责? 普通人问诊AI需要注意什么?
今年3月,一名“95后”新手家长面对孩子反复咳嗽发热的症状,在手机端用AI问诊判定孩子为“普通呼吸道感染”,并参考网络建议居家用药,致病情延误。最终,孩子被医院确诊为病毒感染肺炎。此事一经报道引发热议。医生指出AI问诊存在风险,应以专业医疗意见为准。
AI癌症早筛、AI肺结核诊断、AI手术机器人、AI导诊机器人……近年来,AI技术已在门诊导诊、临床辅助诊断、疾病管理等环节广泛应用,尤其是今年年初DeepSeek的问世,更是掀起了一股“生病了问AI”的热潮。但也有不少人反映,AI医疗并没有想象中那么靠谱,看错病、看不出病的情况时有发生。
对于AI医疗,舆论场也涌现出更多的追问,比如:AI医疗是否会影响到医生的地位?如果AI诊断错误,谁来负责?如何保护普通人的医疗数据隐私?如何让AI医疗发展更快、应用更广?
AI医疗只是辅助手段 “AI医生”不具备处方权
“AI医疗可以提升医疗服务的效率,已经在疾病预测、健康管理、影像识别等领域表现出色,能够为患者提供较为精准的医疗服务。”中国卫生法学会副会长郑雪倩向记者介绍,在基层或缺乏专家资源的边远贫困地区,可以通过AI进行初步筛查,并为医生提供提示或诊断参考,从而优化医疗资源分配、推动分级诊疗政策落地、提升基层医疗服务能力。
正因AI医疗彰显出诸多优势和巨大潜力,“AI会不会抢医生饭碗?”“AI医生看病爆火”“AI看病比三甲医院医生还准”……在最近关于AI医疗的网络讨论中,相关话题频繁出圈。“当DeepSeek给出了和主任医师一样的诊断,以后是否还有必要去医院?”近期,这样的疑问也出现在了医患对话中。
记者采访了多位一线医务工作者,他们均不反对患者使用“AI问诊”。但对“‘AI问诊’的结果是否靠谱”“能否作为诊疗依据”等问题,受访医生都抱着谨慎态度。他们普遍认为,“AI问诊”存在局限,只能作为一种辅助手段,并不能替代医生。
北京市某社区卫生服务中心的全科大夫周医生坦言,在基层医疗机构平日里遇到疑难杂症的情况不多,更多的是高血压、糖尿病、心脏病等慢性病的老年患者,AI在慢性病随访、慢性病管理上还缺少些“人情味儿”。
“以预问诊AI为例,有老年患者反映,他有几个晚上睡不好觉导致头疼、心慌,AI就有可能把所有有头疼症状的病都列给医生,其中绝大多数是无效信息。”周医生说,疾病的诊断是一个模糊决策,尤其是在社区这种基层医疗机构,看病的基本是“老熟人”,往往需要医生综合病史、症状等多种信息、根据经验缩小范围下诊断,AI目前在这方面还不够成熟。
郑雪倩介绍,所谓AI处方是指在一定范围内,依托互联网大数据技术深度整合数据资源,对患者描述的症状进行分析比对,筛选总结该症状的疾病类型归属,以及适用的治疗方式等,综合向患者提供临床诊断及用药建议。
“AI医疗是人工智能在医疗领域的应用,即通过大数据的分析学习,建模,来辅助或优化医生在看病治疗以及健康管理环节的一项技术应用。”在中国卫生法学会常务理事、北京市华卫律师事务所副主任邓利强看来,AI医疗通过机器的学习建模进行数据的分析,让AI反复学习的确可以帮助识别病症,但这种建模本身有数据库的问题,再加上无法把医生的诊疗经验揉到建模里,所以这种智能诊断不可能完全取代医生。
邓利强表示:“处方药必须凭执业医师或执业助理医师处方才可调配、购买和使用。开处方背后涉及‘责任主体’‘职业权力’等一系列复杂因素,‘AI医生’首先是机器,而非人,因此医生可以利用AI进行辅助医疗,但绝不能直接利用AI开处方。”
如果医生利用AI诊疗出现事故 由医生承担责任
随着AI医疗在全国逐步落地,一场医疗领域的巨大变革正在发生。仅今年2月以来,就有不少医院发布其最新应用成果。
比如,上海瑞金医院发布瑞智病理大模型,AI仅需数秒就能精准识别病理切片中的病灶区域;北京协和医院研发的“协和·太初”罕见病大模型已进入临床应用阶段;上海市肺科医院参与研发的肺部智能手术规划系统,将实际手术规划时间从数天缩短至2到5分钟……
虽然有多项成果问世,但对于AI医疗,不仅是医生,相关部门也保持谨慎态度。记者梳理公开资料发现,目前针对AI医疗已出台多项限制性措施:湖南省医保局发布通知,禁止使用AI自动生成处方,以维护医保基金安全和患者权益;北京禁用AI自动生成处方,并成立了互联网诊疗监管平台;国家卫健委和国家中医药局联合发布的《互联网诊疗监管细则(试行)》明确规定,人工智能不得替代医师本人提供诊疗服务……
“这些政策和规定表明,我国在AI医疗领域已经开始划定红线,以确保技术应用的安全性和伦理性。”郑雪倩说,医疗安全底线包括:处方红线,即AI不得自动生成处方,医生必须对诊疗行为负责;伦理红线,即AI应用需遵循医学伦理,确保患者隐私保护、数据安全和公平性;技术红线即AI技术需经过严格的临床验证,确保其在实际医疗环境中的有效性和安全性。
受访专家明确,即便有AI的辅助,医生仍是最后把关人,如果医生利用AI诊疗出现误诊、漏诊等医疗事故,最终还是由医生承担责任。
邓利强认为,由于AI医疗存在较多法律风险和合规挑战,这才让相关部门对AI医疗的态度如此谨慎。
如果个人使用AI致“误诊”责任自负
如果患者自己因使用AI“看病”导致出现误诊、漏诊,谁来担责?
在郑雪倩看来,AI看病出现问题后责任归属较为复杂。根据现行法律,应当遵循“谁开处方谁负责”的原则,但AI作为工具无法独立承担法律责任,此时需要具体讨论该AI机器的所有权人、使用人、管理人的法律责任问题。但AI生成的处方在法律属性和责任主体方面仍存在诸多争议。例如,AI是否具备法律主体资格?其责任应由生产商、计算机平台,还是由使用该系统的医院或其他方承担?这些问题都需要进一步讨论和明确。
“而且,患者的损害后果与AI医疗是否存在因果关系,还需要由鉴定机构或专家对此进行专业鉴定,进而处理赔偿问题,对此可参照《医疗事故处理条例》相关规定解决。对于造成患者损害的AI医疗行为是否属于非法行医、是否构成医疗事故等问题都值得未来继续探讨。”郑雪倩说。
记者使用DeepSeek咨询了疾病的治疗、药物使用等问题,DeepSeek都给出了相应建议。不过,记者也注意到,DeepSeek在回答中会提示,给出的建议“仅供参考”并“请遵医嘱”。例如在询问甲亢药物使用方面,DeepSeek就表示,虽然给出建议,但是“请务必以医生的处方为准”。
《医改界》创始人、AI医院运营管理研究院院长魏子柠在接受记者采访时表示,人工智能是没有处方权的,因此无论是法律法规,还是根据国家、地方的相关规定,人工智能工具肯定是不能够给患者开具处方的。而且真的按照人工智能开出的药方去吃药,出现问题的话人工智能也无法对患者负责,“因此这个口子是绝对不可能开的”。
魏子柠同时表示,人工智能如果合理运用,是可以成为医生工作的有力助手的。“比如帮助医生分析片子,或者分析一些检验报告、检查,给医生提供诊疗意见,以及病历梳理等。”他说,“但是在这个过程中主导和做决定的肯定是医生,DeepSeek等人工智能技术只能是一种辅助手段。100年以后什么样子不好说,但是至少最近这几十年人工智能只能是医生的辅助,而不能代替医生的工作。”
河南泽槿律师事务所主任付建在接受记者采访时表示,如果是个人使用DeepSeek“看病”,一旦出现“误诊”等情况,DeepSeek一方是无需担责的,“DeepSeek已明确告知给出的处方仅供参考,不能作为直接的诊疗方案。并且DeepSeek只是一个人工智能软件,只能作为一种医疗建议,处方在没有经过专业医生的认可下不能作为专业的诊断方法。”
付建还表示,《药品零售企业执业药师药学服务指南》明确规定,执业药师可以通过计算机信息系统辅助开展处方审核及药学服务,但不能完全由人工智能程序替代。因此医生使用DeepSeek等作为诊断辅助是可以的,但是人工智能给出的内容只能作为一种参考,如果医生将Deepseek等给出的处方直接给患者使用,那说明医生是认可这种治疗方法的,如果发生医疗事故,是需要医生承担相应责任的。
北京蓝鹏律师事务所主任张起淮向记者表示,以DeepSeek为代表的人工智能工具的输出内容仅可作为辅助参考,不能替代专业医生的判断。根据DeepSeek的用户协议,其明确指出所提供的内容仅供参考,不构成专业建议,且不对输出内容的准确性、完整性负责。在我国,医疗处方必须由具备资质的医疗机构和专业医生开具,因此如果患者自行按照DeepSeek的建议进行治疗,而未经专业医生的确认,一旦出现问题,DeepSeek通常不承担法律责任,患者需要自行承担因使用该建议而产生的风险。
“人工智能的发展确实为就医、看病带来了便利,但作为个人,我们应审慎对待这些工具的建议,将其作为参考而非决策依据。当身体出现不适时,最明智的选择仍然是前往正规医院,接受专业医生的诊断和治疗。”张起淮说。
“AI医生”看病靠谱吗?
“AI+医疗”作为一种新兴模式,正在悄然改变医疗行业的格局。目前,AI在医疗诊断领域已经具备哪些能力?普通人询问AI大模型看病,需要注意什么?相关专家为你解惑。
问:目前,AI在医疗诊断领域已经具备哪些能力?
答:日前,国家儿童医学中心、北京儿童医院正式发布国内首个儿科大模型“福棠·百川”,基层版和专家版“AI儿科医生”也同步上线。这个存在于虚拟世界里的“儿科医生”承担的角色主要有两个:一个是专家的临床科研助理,帮助医生快速获取最新科研成果和权威指南;另一个是辅助医生进行疑难罕见病的诊断和治疗。工作人员在AI儿科医生的系统中输入病历,屏幕上就反映出专业诊断建议,包括最可能的诊断、需排除的鉴别诊断、需完善的检查等,相关建议与专家组会诊结果吻合度较高,有时AI儿科医生还会通过患者病历报告里的某个单项指标,给治疗方案增加特别提示。
北京儿童医院人工智能大模型探索并非个例。首都医科大学附属北京天坛医院采用AI技术研发的“急诊卒中单元”,可以将患者从入院到接受治疗的时间压缩至20分钟内。
在全国范围内,越来越多医院正引入AI技术,广泛应用于临床诊疗与医疗资源管理等领域。
问:它是否会取代医生?
答:目前来看,AI还不会取代医生。业内专家表示,医生面对复杂病情的综合判断和经验积累以及面对面的人文关怀,是AI无法替代的。AI缺乏和家长、患儿的互动,而医生在诊疗的同时,还能传递医学的温度。
一张处方,不仅意味着对症下药,背后还有医生的责任与担当。医生是诊疗过程的把关人,如果出现误诊,医生本人需要承担责任。尽管AI能为医生分析病例、拓宽诊疗思路提供帮助,但它并不具备承担责任的能力。因此,从法律与伦理角度看,它目前不能替代医生,更不能为患者开具处方。人工智能技术与医生应是互补关系,而非替代关系。
问:普通人询问AI大模型看病,需要注意什么?
答:拿起手机打开AI就能看病?!需要警惕的是,AI大模型在生成内容时会有AI幻觉,即编造信息的现象。
AI幻觉现象已被不少网友发现,有人发帖表示,在用AI进行文献分析时,答案里会出现一些查无此文的文献;有人发现,AI会把一本书的作者安到另一个人的身上;还有人发现,AI给出的答案存在上下文不符、逻辑不一致的现象。
在临床使用中,AI偶尔会犯一些啼笑皆非的错误。比如,临床影像学的变化极为复杂,有时所看到的可能是无诊断价值的“干扰信号”,而AI却可能将其判断为病变。还有一些用户在使用DeepSeek协助生成内容时,也发现它存在杜撰医学名词出处、虚构参考文献等情况。
对于普通人来说,AI的使用效果则更为复杂。AI的诊断高度依赖用户输入的信息,而普通人往往缺乏专业的医学知识和表达能力,信息传达的准确性是一大挑战。如果输入信息不准确或不完整,AI的诊断结果可能会出现较大偏差,甚至给出完全错误的建议。因此,在问询的过程中,对AI提供的信息需进行批判性思考和理性分析应用,不能过度依赖。 综合法治日报、经济日报等
来源:华商网-华商报