天桥脑科学研究院举办脑健康数据库建设与科技伦理研讨会:科技进步与伦理如何平衡?

从电影《她》中描绘的AI情感伴侣,到AI已在现实世界中成为人类的情感依赖对象,科技能否治愈人类心灵?高质量数据集的精准医疗将使许多人受益,是否应降低对个人数据保护的门槛,鼓励数据共享以造福大众?AI在精神疾病诊疗的各个环节可以发挥什么作用?

5月30日,天桥脑科学研究院(中国)和上海市精神卫生中心、国家精神疾病医学中心脑健康研究院联合举办了“脑健康数据库建设和科技伦理研讨会”,30余位来自精神卫生、人工智能、心理学、脑科学、数据科学、科技伦理、数据安全、科学出版领域的知名专家,展开跨学科的对话与讨论。

 

天桥脑科学研究院创始人雒芊芊表示,这些话题既具有现实意义,又具前瞻性。她指出,由于人工智能领域技术的快速发展,一些原本只在科研和临床研究中出现的伦理问题,如隐私保护,如今变得更加复杂。此外,AI技术本身还带来了新的伦理和价值观问题。

上海市精神卫生中心院长赵敏教授则从数据库建设角度谈到,探讨数据库标准化及其相关问题是一个非常重要的话题。虽然人工智能的热度和应用前景广泛,但早期GPT模型在回答的准确性、专业性方面存在较大差距。其根本原因在于底层数据的质量和标准化问题。这个需要我们专业人员共同努力,提高数据质量和标准化水平。

 

上海市精神卫生中心院长赵敏教授

 

01AI治愈心灵:实然与应然考量

伴随着ChatGPT席卷而来的科技进步,AI进入心理咨询室,充当人类全天候在线的知己角色。这在一定程度上缓解了当下精神疾病高发、医疗资源供给不足的问题。可当“精灵”从瓶子里跑出,人类究竟面临着什么?

AI在知识层面上确实能达到人类水平,但据长期在一线临床工作的上海精卫副院长王振教授表示,心理治疗不仅仅是知识的传递,真正起作用的是治疗师与患者之间的关系,这种关系是AI在短时间内难以替代的。

 

上海市精神卫生中心副院长王振教授

 

会议主持人、国家精神疾病医学中心脑健康研究院院长徐一峰教授表示赞同:“我们知道,在心理咨询中,语言只表达了约27%的信息输出,还有超过70%的信息如何捕捉,这也是我们在多模态研究中需要考虑的问题。”

 

国家精神疾病医学中心脑健康研究院院长徐一峰教授

 

另一方面,如同我们常常被提醒的“要小心你的愿望,因为它们可能会成真”,一个24小时在线的AI心理治疗师就是人类需要的吗?上海交通大学计算机科学与工程系副教授吴梦玥认为,虽然机器人可以实现随时的陪伴,但在真实情况下,给患者全天候的陪伴可能会阻碍其独立面对世界的能力。因此,这种工具应该如何存在?也许为它设置一个危机干预接口,而不是让患者随时接触,会是一个更值得探索的方向。

02研究范式革新:

重新思考数据规模与隐私安全

随着AI的技术进步,研究上已经出现了范式革新。通过重构信息基础设施和优化流程,可以实现大规模数据的无缝采集和利用,同时兼顾隐私保护和伦理要求。这可能是未来医学研究和AI应用的一个关键方向。

“传统的研究范式中,几千例的数据非常有用,适用于原理性和知识性研究。然而,现在的技术发展使得我们可以考虑更大规模的数据集,不是100倍,而可能是一万倍甚至十万倍。”上海交通大学计算机科学与工程系教授俞凯认为,我们正在经历从中小规模精标数据到超大规模弱标注数据的转变。精巧的模型设计仍然重要,但在ChatGPT出现后,上规模的研究范式变化显得更为重要。

 

上海交通大学计算机科学与工程系教授俞凯

 

他进一步说:“现在的数据采集和模型训练往往是两个独立的阶段。未来,人机协同的方式可能会融合数据采集和模型训练。通过让AI辅助医生进行诊疗,可以在不经意间收集到大量数据,从而降低成本和复杂性。”俞凯认为,这种数据集成不仅包括文字和图像,还涵盖社交媒体上的活动数据、面部表情和反应等。现有的知识性数据也可以作为大规模数据库的一部分。

上海交通大学医学院副研究员张维拓则更精细地将医学领域相关模型开发的数据分为两种:训练数据和验证数据。训练数据量越大越好,因为大模型需要海量数据才能得到良好的效果。验证数据用于评估模型的效果,特别是在申请医疗器械审批时。此时,需要的是金标准数据,即有明确患者临床结局评价的数据,数据量的大小并不是最关键的。

 

华东师范大学心理与认知科学学院院长周晓林教授

 

延伸到实际临床研究角度,华东师范大学心理与认知科学学院院长周晓林指出,传统的研究和数据收集多依赖结构化方法,如量表和结构化访谈。事实上,结构化数据收集方式可能限制了智能性和敏感性,使得发现新问题变得更困难。而随着AI算法的提升,未来的数据挖掘技术可能让我们不再需要严格的结构化数据。

03隐私保护:重新审视收益风险的平衡

当前AI技术在医学中的应用带来了多方面的伦理问题,需要多视角和多维度的考量。比如最核心的问题之一——数据使用与隐私保护,究竟如何衡量?

 

中国医学科学院北京协和医学院翟晓梅教授

 

中国医学科学院北京协和医学院翟晓梅教授说,现有的知情同意要求受益风险评估必须体现受益大于风险。在医学领域,数据和样本的使用通常带来显著的医疗和科研进步,身体风险较低,主要关注隐私保护。隐私泄露和污名化是重大风险,但在重大公共利益的背景下,我们需重新审视收益风险的平衡。

 

天桥脑科学研究院人工智能与精神健康前沿实验室研究科学家耿海洋博士

 

在本次研讨会上,天桥脑科学研究院耿海洋博士介绍了国内外脑健康数据库建设进展,包括各国的脑计划布局以及各类数据集中的问题与挑战。上海市精神卫生中心医务部主任陈剑华介绍了抑郁症、焦虑症问诊数据库建设进展与未来规划,国家精神疾病医学中心脑健康研究院办公室主任张青分析了AI环境下抑郁症研究的伦理风险,强调在AI算法与数据集建设过程中要警惕可能存在的伦理问题。

 

上海市精神卫生中心医务部主任陈剑华教授

 

本次会议邀请到了多位专家学者:

杭州师范大学认知与脑疾病研究中心主任臧玉峰、北京大学人工智能研究院助理研究员杜凯、清华大学神经调控技术国家工程实验室副教授眭亚楠、和鲸数据科学平台创始人范向伟、中科院心理研究所博士后鲁彬、《自然》期刊编辑王笑。

来自上海市精神卫生中心的多位专家参与对话,包括上海市精神卫生中心党委副书记李春波、心理治疗学院院长仇剑崟、脑健康研究院执行院长袁逖飞、门诊部主任王勇、老年精神科主任李霞等。

据悉,今年11月,天桥脑科学研究院将与《科学》杂志、上海市精神卫生中心在上海联合主办AI和精神健康国际学术论坛(AI and Mental Health Conference),邀请世界各地的科学家进一步讨论交流。

 

关于天桥脑科学研究院

天桥脑科学研究院(Tianqiao and  Chrissy Chen Institute, TCCl)是由陈天桥、雒芊芊夫妇出资10亿美元创建的全球最大私人脑科学研究机构之一,总部设在美国。TCCI与华山医院、上海市精神卫生中心设立了应用神经技术前沿实验室、人工智能与精神健康前沿实验室;与加州理工学院合作成立了TCCI加州理工神经科学研究院。TCCI建成了支持脑科学研究的生态系统,项目遍布欧美、亚洲和大洋洲,包括学术会议和交流、夏校培训、AI加速科学大奖、科研型临床医生奖励计划、特殊病例社区、中文媒体追问等。