English
 
首页  战略研究  业内研究
 
关注微信公众号
    
业内研究
 
海外视点丨经合组织人工智能政策观察站报告: 人工智能在医疗卫生领域的应用与挑战
发布时间:2024-12-05   浏览次数:10
发布人:中国新一代人工智能发展战略研究院


  

本文探讨了人工智能在医疗卫生领域的应用,包括其对卫生人力(health workforce)的影响、潜在的益处和风险,以及未来的发展方向。通过对医学协会关于人工智能工具在医疗保健中整合的观点进行调查,为从医疗从业者的角度讨论人工智能做出贡献。同时,文章也希望为政策制定者和相关利益者提供信息,以促进人工智能在医疗保健领域的负责任、可扩展、公平和可持续的发展。



一、


Artificial Intelligence

医疗行业面临的挑战

(一)医护人员的职业倦怠

职业倦怠是卫生人力面临的一项重大全球挑战。它通常是由长期的工作压力和对专业角色失去控制的感觉造成的,表现为情绪疲惫、感觉筋疲力尽、易怒、睡眠问题、严重疲劳、工作表现下降和人格解体感。据报道,职业倦怠从大流行病时期前的36%上升到大流行病期间的63%。未来,在大流行后时代,51.7%的卫生专业人员报告认为,AI可以改善他们的工作生活质量。

卫生信息系统(HIS)的使用可能是影响医疗工作者工作压力的另一个因素。HIS在现代医疗保健中发挥着关键作用,例如通过改进数据管理、简化流程和增强患者护理来实现护理的连续性。但这些系统的部署和使用同时会增加卫生人力的负担,因为需要文件、编码和其他管理任务。同时随着HIS的发展,医疗工作者必须不断更新他们的数字技能并适应新的系统。当与临床责任相结合时,对持续培训的需求可能会非常耗时和紧张。


(二)医疗人员短缺

尽管过去几十年中,大多数经合组织国家的医生、护士等医疗人员数量有所增加,但仍无法满足日益增长的医疗需求。世界卫生组织估计,到2030年全球将短缺1000万医疗工作者,经合组织国家在未来几年也将面临300万的医疗人员缺口。这一问题在教育资源不均衡、人员流动、地区分布不均等因素的影响下更为严重,导致医护人员工作负担过重,进一步加剧了职业倦怠,尤其对农村和服务不足地区的影响更为显著,可能加剧医疗不平等。


二、


Artificial Intelligence

人工智能在医疗领域的应用及优势

(一)提高医疗决策的准确性和效率

人工智能在临床决策支持方面发挥着越来越重要的作用。算法可以帮助医疗人员减少错误,提高决策的可靠性,进而提升医疗效果。例如,通过利用电子健康记录(EHR)数据,人工智能可以为医疗人员提供及时、相关的信息,辅助诊断、预测分析和个性化治疗建议。在一些医疗影像领域,如放射学、病理学、眼科和皮肤科,人工智能算法经过训练可以识别复杂的模式,如前列腺活检组织切片中的癌组织或胸部X射线中的结核病检测。


(二)改善医疗服务质量和患者体验

人工智能有潜力通过提高医疗质量、改善患者体验、减轻医护人员负担和提高医疗效率来变革医疗行业。例如,AI工具可以改善护理质量,提升患者体验,减轻医疗人员的工作负担和职业倦怠。同时,人工智能还可以增强医疗助理(PAs)和护士从业者(NPs)的能力,使医生能够更充分地发挥其技能,提高医疗效率并降低成本。此外,人工智能在生物医学研究、药物开发、健康系统管理和服务重新设计等方面也具有广泛的应用前景。


(三)案例分析

1. 马卡比医疗保健服务病理实验室案例

以色列的马卡比医疗保健服务公司(Maccabi Healthcare Services)与初创企业IBEX合作,利用人工智能进行病理学诊断,开发了用于诊断前列腺癌、乳腺癌和胃癌的工具。该工具经过病理学家的大量数据标注和训练,能够为病理学家提供辅助,提高诊断准确性,减少错误,同时也有助于提高工作效率。尽管人工智能不会完全取代病理学家,但可能会使某些低风险评估实现自动化。

2. 人工智能临床记录案例:

在医患互动过程中,通过获取患者同意后记录对话并将其转化为文字,再利用ChatGPT应用程序生成简洁的300字咨询总结,最后由治疗医生进行审查和更新。结果显示,约20%的笔记无需修改,80%需要轻微调整,效率提高了15%,同时减轻了医护人员的负担,提高了数据质量,改善了患者和医护人员的体验。但该案例也存在一些风险,如隐私保护、成本和培训等问题。


三、


Artificial Intelligence

人工智能在医疗应用领域的风险与挑战

(一)数据相关问题

1. 数据质量和代表性:

数据是人工智能在医疗领域应用的核心问题之一,其质量和代表性直接影响到人工智能的效果和可靠性。如果数据存在偏差或不具有代表性,可能会导致人工智能算法产生错误的结果,进而影响医疗决策和患者的治疗效果。例如,在乳腺癌诊断中,黑人女性接受高风险基因突变检测的可能性低于白人女性,这可能导致依赖基因检测结果的人工智能算法对黑人患者的乳腺癌风险评估出现错误。

2. 数据隐私和安全:

医疗数据涉及患者的敏感信息,数据泄露可能会导致严重的法律后果和患者信任危机。此外,人工智能系统使用的大量数据也使其成为网络攻击的目标,可能导致隐私泄露和系统无法正常使用。

3. 数据访问和管理:

获取用于训练人工智能算法的健康数据存在困难,数据清洗工作也需要耗费大量时间和资源。同时,医疗机构的数据格式和系统存在差异,导致数据的交换和整合面临挑战,影响了人工智能在医疗领域的广泛应用。


(二)伦理和法律问题

1. 伦理问题:

人工智能在医疗领域的应用可能会引发新的伦理问题,如算法偏见、隐私和安全问题以及医疗资源分配不均等。例如,人工智能解决方案可能会因为训练数据的不代表性而传播偏见,对某些群体产生不利影响。此外,人工智能工具的高昂价格可能会降低医疗服务的可及性,尤其对低收入群体造成影响。

2. 责任问题:

人工智能在医疗领域的应用可能会增加医生的责任风险。如果医生使用了错误的人工智能建议,可能会导致医疗事故,进而引发责任纠纷。目前,对于人工智能相关的医疗责任归属问题尚未明确,这给医疗行业带来了一定的困扰。


(三)对医疗人员的影响

1. 工作替代风险:

尽管大多数人认为人工智能不会取代医生,但人工智能的应用可能会导致某些工作职能的自动化,从而使一些医疗人员面临职业转型的压力。例如,人工智能可能会使一些行政性工作实现自动化,这可能会导致部分医疗人员需要重新调整自己的技能和工作方向。

2. 技能和知识要求:

人工智能的应用需要医疗人员具备新的技能和知识,如数据解读、算法理解和人工智能工具的操作等。这对医疗人员的继续教育和培训提出了新的要求,如果医疗人员不能及时掌握这些新技能,可能会影响他们在人工智能时代的职业发展。

3. 职业地位和收入:

人工智能的应用可能会对医生的职业地位和收入产生影响。一方面,医生可能会担心自己的职业地位会因为人工智能的应用而下降,被视为只会使用智能工具的技术人员。另一方面,人工智能的应用可能会影响医生的收入,例如引入人工智能到常规临床工作中可能会损害医生的收入。


四、


Artificial Intelligence

针对人工智能在医疗领域应用的调查研究

为了了解各国医师组织对人工智能在医疗领域应用的看法,经合组织与世界医学协会(WMA)合作开展了一项调查。该调查涵盖了来自亚洲、北美、拉丁美洲、欧洲、中东和非洲等地区的18个国家的医学协会。调研结果反映了从业者对人工智能工具的一些普遍认识。


(一)对人工智能的总体看法:

大多数受访者认为医生应从一开始就参与人工智能项目,且需要额外的教育来掌握和应用人工智能工具。他们还认为人工智能应用应经过严格评估、伦理审查和正式授权。同时,他们对政府在应对人工智能对医疗人员的影响方面的工作表示不满,且认为人工智能在医学中的风险并不能否定其带来的机会。

(二)对人工智能在医疗领域发展轨迹的预期:

大多数受访者认为人工智能将极大地改变医疗保健和医学的格局,医生的角色仍将是核心,且人工智能将为医生提供更多工具。没有人认为人工智能会对医疗保健产生微不足道的影响或取代大多数医生。

(三)对人工智能在医疗领域应用机会的看法:

受访者认为人工智能最有可能带来的影响包括提高护理质量、改善患者体验、减轻医护人员负担、增强医疗助理和护士从业者的能力、提高医疗效率并降低成本。然而,他们认为人工智能不太可能成为解决医疗人员短缺的主要方案,且在提高医护人员同理心方面的作用也相对较小。

(四)对人工智能在医疗领域应用风险的看法:

受访者对人工智能相关风险表示了不同程度的关注。其中,伦理问题是最受关注的风险之一,他们认为人工智能的整合可能会给医生的工作带来新的伦理挑战。此外,他们还担心人工智能工具的应用可能会对医生的收入产生不利影响,增加医疗成本,以及可能会降低医生的自主性。不过,他们认为人工智能导致医生助理和护士从业者取代临床医生的风险相对较低,且人工智能取代医生的可能性也较小。

(五)各国医学协会在健康人工智能方面的参与情况:

各国医学协会在分析人工智能在医疗保健中的潜在影响、确保医学伦理在人工智能工具开发中的得到遵守、影响数据访问政策、影响数据质量保证政策以及影响卫生部关于医疗保健中人工智能的监管等方面表现出了较高的参与度。数据表示,70%的医疗协会参与了相关政策的制定,然而,在实际AI工具的设计方面,医学协会的参与度较低。

展望未来,医学协会并不担心人工智能工具对其角色的影响,而是担心在没有医疗专业人员参与设计、开发和实施的情况下,在卫生解决方案中实施AI。确保AI被用来补充人类,而不是取代人类,这一点至关重要。决策者应该整合新的职位,以保障AI在卫生领域的充分有效融合。例如专注于人工智能的数据科学家或数据工程师,建立内部单位和领导职位来协调和管理卫生组织内的AI应用,以确保合法合规性。通过设计、开发、实施和持续维护将医疗从业者纳入整个人工智能生命周期。这包括听取专业人员关于确保卫生解决方案中新型临床工具有效性的标准,以及他们在具体工作流程中使用的要求。

应特别注重培养医疗从业者的相关技能,人工智能技术的整合可以比作在癌症治疗中采用一种新的免疫治疗方案,医师必须接受专门的再培训,以应对癌症治疗的进展,包括了解免疫治疗的机制、患者选择标准、潜在的副作用以及这些副作用的管理。医疗从业者需要理解这一创新的意义,掌握必要的知识,并有效地实施。


原文链接:https://www.oecd-ilibrary.org/science-and-technology/artificial-intelligence-and-the-health-workforce_9a31d8af-en

本文编译作者:

中国新一代人工智能发展战略研究院研究员 罗纯



 
 
 
 
 地址:天津市海河教育园区同砚路38号(300350)
 
 地址:天津经济技术开发区宏达街23号(300457)
 
 邮箱:cingai@nankai.edu.cn
 
 
 
友情链接
 
微信公众号   
 
版权所有  中国新一代人工智能发展战略研究院 津ICP备12003308号-1
 
En
 
 
关闭
首页  战略研究  业内研究
    
业内研究
海外视点丨经合组织人工智能政策观察站报告: 人工智能在医疗卫生领域的应用与挑战
发布时间:2024-12-05   浏览次数:10
发布人:中国新一代人工智能发展战略研究院


  

本文探讨了人工智能在医疗卫生领域的应用,包括其对卫生人力(health workforce)的影响、潜在的益处和风险,以及未来的发展方向。通过对医学协会关于人工智能工具在医疗保健中整合的观点进行调查,为从医疗从业者的角度讨论人工智能做出贡献。同时,文章也希望为政策制定者和相关利益者提供信息,以促进人工智能在医疗保健领域的负责任、可扩展、公平和可持续的发展。



一、


Artificial Intelligence

医疗行业面临的挑战

(一)医护人员的职业倦怠

职业倦怠是卫生人力面临的一项重大全球挑战。它通常是由长期的工作压力和对专业角色失去控制的感觉造成的,表现为情绪疲惫、感觉筋疲力尽、易怒、睡眠问题、严重疲劳、工作表现下降和人格解体感。据报道,职业倦怠从大流行病时期前的36%上升到大流行病期间的63%。未来,在大流行后时代,51.7%的卫生专业人员报告认为,AI可以改善他们的工作生活质量。

卫生信息系统(HIS)的使用可能是影响医疗工作者工作压力的另一个因素。HIS在现代医疗保健中发挥着关键作用,例如通过改进数据管理、简化流程和增强患者护理来实现护理的连续性。但这些系统的部署和使用同时会增加卫生人力的负担,因为需要文件、编码和其他管理任务。同时随着HIS的发展,医疗工作者必须不断更新他们的数字技能并适应新的系统。当与临床责任相结合时,对持续培训的需求可能会非常耗时和紧张。


(二)医疗人员短缺

尽管过去几十年中,大多数经合组织国家的医生、护士等医疗人员数量有所增加,但仍无法满足日益增长的医疗需求。世界卫生组织估计,到2030年全球将短缺1000万医疗工作者,经合组织国家在未来几年也将面临300万的医疗人员缺口。这一问题在教育资源不均衡、人员流动、地区分布不均等因素的影响下更为严重,导致医护人员工作负担过重,进一步加剧了职业倦怠,尤其对农村和服务不足地区的影响更为显著,可能加剧医疗不平等。


二、


Artificial Intelligence

人工智能在医疗领域的应用及优势

(一)提高医疗决策的准确性和效率

人工智能在临床决策支持方面发挥着越来越重要的作用。算法可以帮助医疗人员减少错误,提高决策的可靠性,进而提升医疗效果。例如,通过利用电子健康记录(EHR)数据,人工智能可以为医疗人员提供及时、相关的信息,辅助诊断、预测分析和个性化治疗建议。在一些医疗影像领域,如放射学、病理学、眼科和皮肤科,人工智能算法经过训练可以识别复杂的模式,如前列腺活检组织切片中的癌组织或胸部X射线中的结核病检测。


(二)改善医疗服务质量和患者体验

人工智能有潜力通过提高医疗质量、改善患者体验、减轻医护人员负担和提高医疗效率来变革医疗行业。例如,AI工具可以改善护理质量,提升患者体验,减轻医疗人员的工作负担和职业倦怠。同时,人工智能还可以增强医疗助理(PAs)和护士从业者(NPs)的能力,使医生能够更充分地发挥其技能,提高医疗效率并降低成本。此外,人工智能在生物医学研究、药物开发、健康系统管理和服务重新设计等方面也具有广泛的应用前景。


(三)案例分析

1. 马卡比医疗保健服务病理实验室案例

以色列的马卡比医疗保健服务公司(Maccabi Healthcare Services)与初创企业IBEX合作,利用人工智能进行病理学诊断,开发了用于诊断前列腺癌、乳腺癌和胃癌的工具。该工具经过病理学家的大量数据标注和训练,能够为病理学家提供辅助,提高诊断准确性,减少错误,同时也有助于提高工作效率。尽管人工智能不会完全取代病理学家,但可能会使某些低风险评估实现自动化。

2. 人工智能临床记录案例:

在医患互动过程中,通过获取患者同意后记录对话并将其转化为文字,再利用ChatGPT应用程序生成简洁的300字咨询总结,最后由治疗医生进行审查和更新。结果显示,约20%的笔记无需修改,80%需要轻微调整,效率提高了15%,同时减轻了医护人员的负担,提高了数据质量,改善了患者和医护人员的体验。但该案例也存在一些风险,如隐私保护、成本和培训等问题。


三、


Artificial Intelligence

人工智能在医疗应用领域的风险与挑战

(一)数据相关问题

1. 数据质量和代表性:

数据是人工智能在医疗领域应用的核心问题之一,其质量和代表性直接影响到人工智能的效果和可靠性。如果数据存在偏差或不具有代表性,可能会导致人工智能算法产生错误的结果,进而影响医疗决策和患者的治疗效果。例如,在乳腺癌诊断中,黑人女性接受高风险基因突变检测的可能性低于白人女性,这可能导致依赖基因检测结果的人工智能算法对黑人患者的乳腺癌风险评估出现错误。

2. 数据隐私和安全:

医疗数据涉及患者的敏感信息,数据泄露可能会导致严重的法律后果和患者信任危机。此外,人工智能系统使用的大量数据也使其成为网络攻击的目标,可能导致隐私泄露和系统无法正常使用。

3. 数据访问和管理:

获取用于训练人工智能算法的健康数据存在困难,数据清洗工作也需要耗费大量时间和资源。同时,医疗机构的数据格式和系统存在差异,导致数据的交换和整合面临挑战,影响了人工智能在医疗领域的广泛应用。


(二)伦理和法律问题

1. 伦理问题:

人工智能在医疗领域的应用可能会引发新的伦理问题,如算法偏见、隐私和安全问题以及医疗资源分配不均等。例如,人工智能解决方案可能会因为训练数据的不代表性而传播偏见,对某些群体产生不利影响。此外,人工智能工具的高昂价格可能会降低医疗服务的可及性,尤其对低收入群体造成影响。

2. 责任问题:

人工智能在医疗领域的应用可能会增加医生的责任风险。如果医生使用了错误的人工智能建议,可能会导致医疗事故,进而引发责任纠纷。目前,对于人工智能相关的医疗责任归属问题尚未明确,这给医疗行业带来了一定的困扰。


(三)对医疗人员的影响

1. 工作替代风险:

尽管大多数人认为人工智能不会取代医生,但人工智能的应用可能会导致某些工作职能的自动化,从而使一些医疗人员面临职业转型的压力。例如,人工智能可能会使一些行政性工作实现自动化,这可能会导致部分医疗人员需要重新调整自己的技能和工作方向。

2. 技能和知识要求:

人工智能的应用需要医疗人员具备新的技能和知识,如数据解读、算法理解和人工智能工具的操作等。这对医疗人员的继续教育和培训提出了新的要求,如果医疗人员不能及时掌握这些新技能,可能会影响他们在人工智能时代的职业发展。

3. 职业地位和收入:

人工智能的应用可能会对医生的职业地位和收入产生影响。一方面,医生可能会担心自己的职业地位会因为人工智能的应用而下降,被视为只会使用智能工具的技术人员。另一方面,人工智能的应用可能会影响医生的收入,例如引入人工智能到常规临床工作中可能会损害医生的收入。


四、


Artificial Intelligence

针对人工智能在医疗领域应用的调查研究

为了了解各国医师组织对人工智能在医疗领域应用的看法,经合组织与世界医学协会(WMA)合作开展了一项调查。该调查涵盖了来自亚洲、北美、拉丁美洲、欧洲、中东和非洲等地区的18个国家的医学协会。调研结果反映了从业者对人工智能工具的一些普遍认识。


(一)对人工智能的总体看法:

大多数受访者认为医生应从一开始就参与人工智能项目,且需要额外的教育来掌握和应用人工智能工具。他们还认为人工智能应用应经过严格评估、伦理审查和正式授权。同时,他们对政府在应对人工智能对医疗人员的影响方面的工作表示不满,且认为人工智能在医学中的风险并不能否定其带来的机会。

(二)对人工智能在医疗领域发展轨迹的预期:

大多数受访者认为人工智能将极大地改变医疗保健和医学的格局,医生的角色仍将是核心,且人工智能将为医生提供更多工具。没有人认为人工智能会对医疗保健产生微不足道的影响或取代大多数医生。

(三)对人工智能在医疗领域应用机会的看法:

受访者认为人工智能最有可能带来的影响包括提高护理质量、改善患者体验、减轻医护人员负担、增强医疗助理和护士从业者的能力、提高医疗效率并降低成本。然而,他们认为人工智能不太可能成为解决医疗人员短缺的主要方案,且在提高医护人员同理心方面的作用也相对较小。

(四)对人工智能在医疗领域应用风险的看法:

受访者对人工智能相关风险表示了不同程度的关注。其中,伦理问题是最受关注的风险之一,他们认为人工智能的整合可能会给医生的工作带来新的伦理挑战。此外,他们还担心人工智能工具的应用可能会对医生的收入产生不利影响,增加医疗成本,以及可能会降低医生的自主性。不过,他们认为人工智能导致医生助理和护士从业者取代临床医生的风险相对较低,且人工智能取代医生的可能性也较小。

(五)各国医学协会在健康人工智能方面的参与情况:

各国医学协会在分析人工智能在医疗保健中的潜在影响、确保医学伦理在人工智能工具开发中的得到遵守、影响数据访问政策、影响数据质量保证政策以及影响卫生部关于医疗保健中人工智能的监管等方面表现出了较高的参与度。数据表示,70%的医疗协会参与了相关政策的制定,然而,在实际AI工具的设计方面,医学协会的参与度较低。

展望未来,医学协会并不担心人工智能工具对其角色的影响,而是担心在没有医疗专业人员参与设计、开发和实施的情况下,在卫生解决方案中实施AI。确保AI被用来补充人类,而不是取代人类,这一点至关重要。决策者应该整合新的职位,以保障AI在卫生领域的充分有效融合。例如专注于人工智能的数据科学家或数据工程师,建立内部单位和领导职位来协调和管理卫生组织内的AI应用,以确保合法合规性。通过设计、开发、实施和持续维护将医疗从业者纳入整个人工智能生命周期。这包括听取专业人员关于确保卫生解决方案中新型临床工具有效性的标准,以及他们在具体工作流程中使用的要求。

应特别注重培养医疗从业者的相关技能,人工智能技术的整合可以比作在癌症治疗中采用一种新的免疫治疗方案,医师必须接受专门的再培训,以应对癌症治疗的进展,包括了解免疫治疗的机制、患者选择标准、潜在的副作用以及这些副作用的管理。医疗从业者需要理解这一创新的意义,掌握必要的知识,并有效地实施。


原文链接:https://www.oecd-ilibrary.org/science-and-technology/artificial-intelligence-and-the-health-workforce_9a31d8af-en

本文编译作者:

中国新一代人工智能发展战略研究院研究员 罗纯



 
微信公众号
 
版权所有  中国新一代人工智能发展战略研究院
津ICP备12003308号-1