原标题：世卫组织呼吁规范AI，确保AI技术在医疗中的伦理和安全

当越来越多人们使用AI生成的内容来获取医疗信息时，如何确保这些信息的准确性和可信度？AI技术在医疗保健中的广泛应用可能会对医疗专业人员的角色和责任产生什么影响？在使用AI生成的健康信息时，如何解决数据偏见和不平等问题，以确保公平和包容性？……对此，中国生物多样性保护与绿色发展基金会生物与科学伦理委员会（简称绿会BASE）注意到，前段时间世界卫生组织（WHO）发布了一则官宣，呼吁AI在健康领域需谨慎使用，确保安全和伦理。为助力全球健康治理、为我国学者提供信息供决策参考，编译分享信息如下，供感兴趣的读者们参阅。

2023年5月16日，世界卫生组织（WHO）发出了一项重要呼吁，敦促在使用人工智能（AI）生成的大型语言模型工具（LLMs）时要谨慎，以保护和促进人类的福祉、安全和自主权，维护公共健康。

LLMs包括一些迅速扩展的平台，如ChatGPT、Bard、Bert等，它们模仿理解、处理和生成人类交流。它们在公众中的迅速传播和在健康相关领域的不断实验使用，引发了对支持人们健康需求潜力的巨大兴奋。

当使用LLMs来改善健康信息获取、作为决策支持工具，甚至用于增强不发达地区的诊断能力以保护人们的健康和减少不平等时，有必要仔细考虑其中的风险。

图源：CBCGDF

虽然WHO热切支持使用技术，包括LLMs，来支持医护人员、患者、研究人员和科学家，但担心通常用于新技术的谨慎在LLMs方面并未得到一致的执行。这包括广泛遵循透明性、包容性、公众参与、专家监督和严格评估等关键价值观。

匆忙采用未经测试的系统可能会导致医护人员犯错误，损害患者，削弱对AI的信任，从而破坏（或延迟）这些技术在全球范围内的潜在长期益处和用途。

需要对这些技术进行严格监督的担忧包括：

1. 用于训练AI的数据可能存在偏见，产生误导性或不准确的信息，可能对健康、公平和包容性构成风险。

2. LLMs生成的回应可能对最终用户具有权威性和可信度，但这些回应可能完全不正确，或包含严重错误，尤其是在与健康有关的回应方面。

3. LLMs可能是基于未提供同意的数据进行训练的，并且LLMs可能不保护用户提供给应用程序以生成回应的敏感数据（包括健康数据）。

4. LLMs可能被滥用以生成和传播极具说服力的虚假信息，形式可以是文本、音频或视频内容，难以让公众与可靠的健康内容区分开来。

5. 虽然WHO致力于利用新技术，包括AI和数字健康，来改善人类健康，但WHO建议政策制定者确保患者安全和保护，同时技术公司努力商业化LLMs。

WHO建议解决这些问题，并在广泛用于日常卫生保健和医学之前测量其明显的益处，无论是由个人、护理提供者还是卫生系统管理员和政策制定者。

WHO再次强调，在设计、开发和部署健康领域的AI时，应遵循道德原则和适当的治理，这些原则在WHO关于健康AI的伦理和治理指南中有详细说明。WHO确定的六项核心原则包括：保护自主权；促进人类福祉、人类安全和公共利益；确保透明度、可解释性和可理解性；培养责任和问责制；确保包容性和公平性；促进具有响应性和可持续性的AI。这些原则将有助于确保AI在健康领域的安全、有效和道德使用。

（注：本文是#科技创新中伦理问题前瞻研究# 第122集。文章仅供信息了解，供全球环境治理专家学者和感兴趣的读者参考。文章不代表平台观点。欢迎留言、点评、批评、讨论。）

本文仅供资讯参考。不代表平台观点。

欢迎转发（请标注来源）。

文 | 王芊佳

审 | 绿茵

排版 | 绿叶

【参考链接】

WHO calls for safe and ethical AI for health

https://www.who.int/news/item/16-05-2023-who-calls-for-safe-and-ethical-ai-for-health