第1533章 全球AI伦理标准(1/2)
请关闭浏览器的阅读/畅读/小说模式并且关闭广告屏蔽过滤功能,避免出现内容无法显示或者段落错乱。
次日早上,林杰收到了世卫组织总干事发来的邀请。
邀请他参加下个月的执委会会议,主要是想请他谈一谈关于人工智能在医疗领域的伦理与监管方面的想法。
他没有立刻回复对方,而是先给儿子打了个电话。
“念苏,下个月我想去一趟日内瓦参加世卫组织会议,主要是讨论关于AI伦理方面的话题。”
“爸,您要去发言?”
“嗯。我在想把咱们搞的那套伦理审查办法,推到国际上去。”
“爸,这不容易。各国利益不一样,标准也不一样,美国人不会听咱们的。”
“没打算让他们听,主要是让他们讨论。”
“那您打算啥时候出发?”
“明天就走,念苏,你帮我准备一下,明天早上送我去机场。”
林念苏点了点头。
第二天,到了机场,林念苏帮父亲把行李拿下来。
一个旧背包,一个拉杆箱。背包里面全是材料,沉得很。
“爸,您带这么多东西干什么?”
“资料。伦理审查办法的试点方案、实施细则、评估报告,给各国代表看的。”
“您不会用U盘?”
“U盘他们也看,纸质的他们也会看。多带点,总有人感兴趣。”
林念苏把父亲送到安检口,看着父亲的背影消失在通道里。
十二个小时后,林杰于当地时间下午抵达日内瓦世卫组织总部。
他在门口下了车,背着旧背包,拉着拉杆箱。
门卫一眼就认出他了,朝他敬了个礼,放他进去了。
会议室里已经坐满了人。
各国代表、专家、NGO的观察员。
林杰找到自己的位置,坐下。
旁边是一个黑人妇女,五十多岁,穿着色彩鲜艳的裙装,胸口的牌子写着“南非卫生部”。
她看见林杰,伸出手说:
“林先生,久仰。我看过您在非洲抗疫的报道。”
“谢谢,那不是我一个人的功劳。”
“您太谦虚了。”
会议开始了。
总干事致辞后,然后各国代表轮流发言。
有人讲技术,有人讲法律,有人讲伦理。
讲得很热闹,但林杰听出来了,各说各话。
发达国家讲的是如何保持领先,发展中国家讲的是如何不被落下。
没人讲那些被AI误诊的病人,没人讲那些因为数据偏见而被漏诊的女性,没人讲那些死在客厅里的人。
轮到林杰发言了,他站起来走到讲台前,带上老花镜,从包里拿出讲稿,放在桌上,开始发言:
“尊敬的各国代表,我想说的是:AI没有国界,但患者有国家。”
翻译把他的声音传成六种语言,在耳机里回荡。
“我们不能让AI在发达国家是天使,在发展中国家是魔鬼。数据偏见、算法歧视、责任真空,这些问题不分穷国富国。中国愿意分享我们的探索,也愿意学习各国的经验。”
台下有人点头,有人低头记笔记,有人在交头接耳。
林杰翻开讲稿,继续念。
“去年,中国发生了一起AI医疗误诊致死案。一位五十三岁的男性患者,因为胸痛就诊,AI系统给出‘无异常’的结论。三天后,患者猝死。事后调查发现,AI系统的训练数据存在严重偏差,女性患者的样本量严重不足,导致AI对女性患者的误诊率比男性患者高百分之三十七。”
“这个案子暴露了三个问题。第一,数据偏见。训练数据不均衡,AI学坏了。第二,算法黑箱。AI怎么得出结论的,没人知道。第三,责任真空。AI出错了,谁负责?开发公司说AI只是辅助,医院说医生有最终决定权,医生说参考了AI的建议,到最后没人负责。”
他把讲稿翻到下一页。
“为了解决这些问题,中国制定了《人工智能辅助诊疗产品伦理审查办法》。所有AI医疗产品上市前,必须通过独立伦理委员会审查。委员会成员必须包含临床医生、伦理学家、患者代表,各占三分之一。对AI决策拥有最终否决权。”
台下有人举手示意,林杰停下来,看了一眼,这是个白人男性,大约五十多岁的样子,胸口的牌子写着“美国卫生部”。
“林先生,您说的这个办法,我不认为适合所有国家。每个国家的国情不同,监管体系也不同。美国的FDA有一套成熟的审批流程,不需要照搬中国的做法。”
林杰看着他说:“我没让你照搬,我就是拿出来给大家分享一下,供大家交流讨论。”
台下有人笑了。
美国代表的脸色不太好,没再说话。
林杰继续念。
“AI医疗产品的核心问题,我们认为并非技术问题,而是伦理问题。技术可以慢慢进步,但伦理不能等。每等一天,就可能多一个被误诊的病人。我们等不起。”
他念完了最后一页,合上讲稿,摘下老花镜。
台下响起掌声。
散会后,美国代表走过来。
他比林杰高半个头,头发花白,脸上的皱纹很深。
他伸出手,同林杰握了握手笑着说:
“林先生,您说的对,讨论可以。但制定标准,不能只由一个国家说了算。”
林杰冷静地回应道:“我没说中国说了算,我的意思是各国一起讨论。美国有美国的经验,中国有中国的教训。大家的智慧合在一起,才能制定出了符合实际的全球标准。”
美国代表笑了一下说:
“好吧,林先生,我回去以后,会跟我的同事讨论您的建议。我再强调一遍,我们仅仅是讨论而已。”
然后,美国代表带着一股子骨子里的傲慢走了。
林杰回头把讲稿收好,装进背包,走回宾馆。
第二天早上,林杰的发言被翻译成六种语言,在世卫组织的官网上发布了。
标题是《AI没有国界,但患者有国家》。
全球传播,转发量很大。
有人支持,有人反对,有人质疑。
下午,世卫组织总干事便发来信息说:“林先生,您的建议已经列入执委会下一阶段工作议程。我们将组织专家组,研究制定AI医疗伦理全球标准。希望您能继续提供指导。”
林杰欣慰的答应了。
很快,世卫组织召开了第二场会议,专题研究讨论了关于制定AI医疗伦理全球标准的事情。
第二场专题会,从开场第一分钟,林杰就遭遇到了针对性围堵。
美方首席代表罗伯特抬手按住桌面话筒,指尖敲了敲桌上一叠厚厚的商业调研报告,身子微微前倾,目光死死的盯着林杰开口说:
“林研究员,我们直话直说。中国这套三方伦理审查机制,会直接冲击全球头部医疗AI企业的商业化布局。目前,全球六成以上医疗AI算法研发资本来自北美与欧洲,我们投入数百亿美金搭建训练数据库,本身就是为了抢占全球基层医疗市场。你们要求公开算法底层逻辑、强制补齐小众人种医疗数据、前置全流程伦理风控,本质上是在抬高行业准入门槛,截断现有资本的盈利路径。”
林杰抬起头,平静对视罗伯特问道:
“所以在各位资本方眼里,患者的生命,永远排在商业利润之后?”
一句话,直接戳破会场所有伪装。
全场哗然。
欧盟代表立刻接过话头,用典型西式官僚话术说道:“林先生,不要偷换概念。科技行业有自身发展规律,过早、过度的伦理约束,会扼杀技术创新。现阶段AI只是辅助诊疗工具,不具备独立行医资质,本身就不该承担医疗事故全责。”
林杰迅速接过话说:“也就是说,AI给出错误诊疗建议,医生采信后致人死亡,所有责任全部由一线医护人员承担,研发企业全程免责?”
罗伯特坦然承认,毫无愧疚的说:“从现行法律条款来看,确实如此。企业只负责提供技术工具,临床决策永远在医生手中。这是目前全球通行规则,也是FDA一直坚守的审核底线。”
林杰伸手,从背包里抽出一份案卷复印件,抬手放在桌面,推到会场中央展示台。
高清投影瞬间投射出案卷内容,他补充说道:
“去年国内那起五十三岁男性胸痛猝死案,我会上一场已经讲过。我补充一个你们不知道的内部实情。这款入市AI诊疗系统,进入国内市场之前,通过了国内常规器械准入审核。但是审核环节里,存在地方卫健部门形式主义审核、人情放行问题。审核人员只看企业提交的美化后实验数据,没有实地抽检基层临床病例,没有核查原始训练数据集。”
“企业心知肚明自身数据集女性样本缺失、老年人群体数据偏差严重,依旧选择隐瞒;监管部门走过场,官僚主义审核放水;一线医生信任官方准入资质,最终患者买单死亡。”
本章未完,点击下一页继续阅读。