公平使用人工智能标准的关键有哪些
人工智能有潜力帮助应对全球健康挑战,但是利益相关者必须促进快速和公平的数据访问并建立道德标准,以便适当地使用该技术。
这项审查由哥伦比亚大学梅尔曼公共卫生学院海尔布伦人口与家庭卫生系兼职教授MPH的Nina Schwalbe和约翰霍普金斯大学彭博社国际卫生系助理科学家Brian Wahl博士进行公共卫生学院,收录了2010年至2019年发表的研究论文。
该团队发现,尽管人工智能可以在资源有限的环境中帮助支持人口健康,但是在全球卫生领域,由人工智能驱动的许多干预研究并未描述广泛使用所需的伦理或法规考量。
“特别是在紧急情况期间,我们不能忽视我们对以人为中心的设计和算法的性别偏见的重要性的认识,”施瓦尔贝(Schwarbe)说道,他也是联合国大学国际卫生研究院首席访问学者。
“思考如何在将AI干预部署到的卫生系统中进行适应性调整是每项研究的一部分。”
作者指出,数据访问将在确保AI在伦理上和适当使用全球健康方面发挥关键作用。对于开发用于健康干预的机器学习工具的研究人员而言,开放访问各种数据集将特别重要。
“跨境访问将需要新型的数据共享协议和互操作性和数据标签标准。国际合作可以促进这一全球运动,以便迅速,公平地获得数据,以开发和测试AI驱动的健康干预措施,” Schwalbe和Wahl说。
除了数据访问之外,该团队还强调了对AI驱动的健康干预措施进行规范的健康技术评估的必要性。这些结构化的评估将确保医疗保健组织了解AI工具的潜在风险和收益。
“迫切需要标准化的评估方法,包括这些干预措施在多大程度上增加了当前护理标准的价值。这些方法应显示出AI工具在研究环境之外的工作效果,并强调相关的卫生系统成本,包括意想不到的临床,心理和社会后果。”