人工智能目前存在的问题及临床试验设计思路
人工智能(Artificial Intelligence),英文缩写为AI。它是研究、开发用于模拟、延伸和扩展人的智能的理论、方法、技术及应用系统的一门新的技术科学。
目前人工智能在医学领域的应用场景多种多样,主要的应用场景为:“需要重复学习才能掌握的技术,且诊疗技术已经固定的医疗情景”。其目的主要是减少医生的重复劳动。但总体上可以分为以下几大类:①疾病诊断;②健康管理;③图像分析;④手术引导;⑤诊疗规划。
虽然目前人工智能可以大体上分为以上几大类,但它们有时是相互联合,共同发挥临床用途。比如一些健康管理系统不仅可以用患者的健康数据进行管理,同时还会提出诊疗意见。
1.人工智能目前存在的问题
虽然人工智能在医学领域的应用越来越多,但这些产品还存在一些不成熟的地方,正是这些不成熟可能会影响人工智能未来在医学领域的应用。技术开发人员应对这些问题有一个合理的认识,才能避免存在夸大和误判产品技术水平的情况。人工智能目前存在的问题主要是以下几大类。
1.1 数据质量
人工智能的研发是基于大量的诊疗数据,数据质量直接决定了产品开发以及它的结果运算。如果医生对患者是否存在眼底病变都不能做出正确的判断,很难期待基于此类数据所研发的产品也能做出正确的判断。如果产品研发阶段没有对数据质量进行识别,一味的追求大数据,可能会导致数据库的数据质量不高,甚至出现错误的地方,进而最终影响产品的结果输出。
1.2 数据标准化
有些诊疗数据为文字性描述,其描述过程具有较大的自由度,不同的医生对同一情况可能会存在不同种说法。目前的人工智能对于识别自然语言还是不及人脑,有时定性数据的标准化还需要人脑的协助。因此未来如果人工智能要有长足的发展,医疗数据的标准化是一个极其重要的基础工程,需要花费大量的人力物力进行建设。
1.3 数据采集硬件存在差别
诊疗数据有时需要基于一定的硬件设备才能采集,比如血压计、心电图等等。由于每家硬件设备生产商的技术路线、原材料、质量控制、器械原理等各不相同。所以同一类数据由于采样设备的不同,可能存在系统误差。真实的医疗环境中,每个医疗机构的医疗设备都不可能是一样的,这就为人工智能产品的硬件适配性带来了很大的挑战。
1.4 患者隐私信息的保护
目前的人工智能产品都逐渐采用云平台和云计算的数据管理方式。此时患者数据的储存和分析都在医院的监控范围之外,如何保证这些数据的安全以及不被非法利用是人工智能产品在未来需要首要解决的合法性问题。
1.5 法规监管不完善
目前中国还没有专门针对人工智能产品的法规,特别是针对机器学习、神经网络模型等这种新技术、新方法,以及应用在自动诊断的产品。类似的法规只有《医疗器械软件注册技术审查指导原则》和《医学图像存储传输软件(PACS)注册技术审查指导原则》,但这两份指导原则无法应对目前人工智能产品申报注册所面临的一系列挑战。而FDA相关的法规也只有《Clinical Performance Assessment: Considerations for Computer-Assisted Detection Devices Applied to RadiologyImages and Radiology Device Data -Premarket Approval(PMA) and Premarket Notification [510(k)]Submissions》和《Computer-Assisted Detection Devices Applied to Radiology Images and Radiology Device Data - Premarket Notification[510(k)]Submissions》这两份指导原则也仅仅只能作为类似产品的参考。配套监管法规的缺失,给这类产品的注册检测和临床试验都带来了不小的挑战,使得这类产品在申报注册时存在一定的不确定性。
1.6 软件的更新迭代
对于IT类产品,其软件的更新迭代是非常快而且频繁的。诊疗产品的首要关键问题不是算法创新、算法优化、界面美观、使用体验,而是其结果的准确性。它准确性可能会影响医生后面的诊疗措施,一旦出现错误可能是难以挽回的。可以预见,审评机构对产品的迭代更新是非常重视的,每一次软件迭代更新,特别是核心算法的迭代更新都将是产品的许可变更事项,都有可能导致需要重新评估产品的风险受益比。
此外,有些人工智能产品在使用过程中,随着数据量的提升,其算法的准确性可能会不断改变,这种改变是正向的还是负向的可能不得而知。对此,审评机构可能会要求企业定期提交产品相关数据,以评估这种变化对产品的风险受益比的影响。