我们能否相信人工智能的健康建议？

如果患者知道医生会在即将到来的预约中提供错误的信息，他们会立即取消预约。然而，诸如 ChatGPT 之类的生成式人工智能模型经常会产生“幻觉”——这是科技行业的行话，指的是编造东西。那么为什么有人想将人工智能用于医疗目的呢？

乐观的设想是这样的：人工智能工具会接受经过审查的医学文献的训练，正如一些正在开发的模型所做的那样，但它们也会扫描患者记录和智能手表数据。然后，像其他生成式人工智能一样，它们会生成文本、照片甚至视频——针对每个用户进行个性化设置，并且足够准确，可以提供帮助。反乌托邦的设想是：政府、保险公司和企业家推动存在缺陷的人工智能来削减成本，导致患者迫切需要人类临床医生的医疗服务。

现在，很容易想象事情会出错，尤其是因为人工智能已经被指责在网上散布有害建议。春末，美国饮食失调协会暂时禁用了其聊天机器人，因为一名用户声称它鼓励不健康的饮食习惯。但美国人仍然可以下载使用人工智能评估症状的应用程序。尽管存在潜在问题，但一些医生仍在尝试使用这项技术与患者进行更有同情心的交流。

约翰霍普金斯大学计算机科学教授 Mark Dredze 表示，ChatGPT 和其他大型语言模型“非常自信，表达能力很强，但经常出错”。简而言之，人工智能还有很长的路要走，才能让人们相信它的医疗建议。

尽管如此，Dredze 对该技术的未来持乐观态度。他最近发表的研究发现，ChatGPT 提供的建议已经与医生在 Reddit 论坛上提供的建议相当。开源 AI 平台 Hugging Face 的医疗保健机器学习工程师 Katie Link 表示，未来的生成模型可能会补充看医生的过程，而不是完全取代咨询。例如，他们可以在就诊后更详细地解释治疗方法和病情，或者帮助防止因语言障碍而产生的误解。

哈佛医学院人工智能和医疗保健研究员 Oishi Banerjee 的前景更为乐观，她设想人工智能系统将整合多个数据源。她说，利用照片、患者记录、可穿戴传感器的信息等，它们可以“随时随地为任何人提供良好的护理”。手臂上出现了奇怪的皮疹？她设想一款皮肤病学应用能够分析照片，梳理你最近的饮食、位置数据和病史，为你找到合适的治疗方法。

随着医疗人工智能的发展，该行业必须确保越来越多的患者数据的安全。但麻省理工学院机器学习实验室负责人 Marzyeh Ghassemi 表示，监管机构现在可以为负责任的进展奠定基础。许多医院已经将匿名患者数据出售给谷歌等科技公司；Ghassemi 建议，美国机构可以要求他们将这些信息添加到国家数据集中，以改进医疗人工智能模型。此外，联邦审计可以审查医院和医疗团体使用的人工智能工具的准确性，并切断对不合格软件的宝贵医疗保险和医疗补助资金。医生也不应该只是被交给人工智能工具；他们应该接受如何使用它们的广泛培训。

很容易看出人工智能公司可能会诱使组织和患者注册那些无法产生准确结果的服务。立法者、医疗保健提供商、科技巨头和企业家需要谨慎行事。生命取决于此。

了解更多关于人工智能时代的生活：