“这就是你们的精准?”林砚之的声音提高了几分,“这位患者因为这个诊断延误了半年治疗,现在已经发展到晚期。老周,用差分测试法,把影像里的病灶边缘像素值微调0.5%,再测一次。”
差分测试法是审计的关键手段——通过微小调整输入数据,观察算法输出的变化,就能判断算法是否真正学习了病灶特征,还是在“死记硬背”病例。老周按照要求调整后,再次导入数据。这次算法运算了五分钟,结果却和上次一模一样:“良性结节,置信度89.1%。”
“不对劲。”老周皱起眉头,“正常情况下,病灶边缘像素调整会影响算法的特征提取,置信度至少会波动5%以上,现在一点变化都没有,说明它根本没在分析影像,而是在匹配历史病例!”
赵伟的脸色瞬间变得惨白,他想辩解,却张了张嘴说不出话。林砚之走到服务器前,指着屏幕上的日志记录:“你看这里的时间戳,算法调用的不是实时分析模块,而是2024年3月的历史决策库——也就是三位患者误诊时的数据库。你们把真实的算法模块藏起来了,给我们的是一个只会回放历史结果的‘复读机’。”
就在这时,小陈拿着第三方监理的报告跑进来:“林处!查到了!凌晨三点十五分,备用节点机房的电力消耗突然增加了300%,同时有一股数据流量通过海底光缆传到了新加坡,接收方是智愈科技的海外子公司!”
铁证面前,赵伟的肩膀垮了下来。他从口袋里掏出那个备用硬盘,放在桌上:“这是真实的算法日志和核心模块,陈明远让我藏在备用节点里,说如果审计发现问题,就把这个硬盘寄到海外,让他们重新注册公司继续运营。”他的声音带着颤抖,“我知道这么做不对,可公司里有几百个员工,我要是不照做,陈明远就会裁员……”
林砚之拿起硬盘,没有立刻检查,而是看着赵伟:“你有没有想过,那些因为误诊失去治疗机会的患者,他们的家庭怎么办?技术可以有漏洞,但人心不能有漏洞。”她顿了顿,继续说,“现在配合我们,把真实算法导入沙箱,争取从轻处理。”
赵伟沉默了很久,最后点了点头。他走到服务器前,插入备用硬盘,输入一串复杂的密码。这次数据上传很顺利,进度条一路走到100%。老周立刻开始测试,导入罕见病影像后,算法很快给出了正确诊断:“肺淋巴管平滑肌瘤病,建议立即进行靶向治疗,置信度92.7%。”
“还有一个问题。”林砚之突然说,“你们的算法为什么对50岁以上患者的肺癌疑似判定率比行业平均高37%?是不是为了提高‘检出率’,故意夸大风险?”
赵伟的头垂得更低了:“是陈明远要求的,他和一家保险公司合作,每推荐一位患者做穿刺活检,就能拿到200元的分成。算法被调整过,对老年患者的病灶特征格外敏感,哪怕是良性结节,也会判成疑似肺癌。”
林砚之让小陈记录下这个信息,然后对赵伟说:“这些情况,你需要在后续的听证会上如实陈述。我们会向法院申请,对陈明远和海外投资方展开调查。”
当天晚上,审计机房的灯一直亮到凌晨。老周团队完成了对真实算法的全面审计,发现除了罕见病数据缺失、过度诊断倾向外,算法还存在“种族偏见”——对亚裔患者的囊性纤维化诊断准确率比白人患者低12%,原因是训练数据中亚洲病例占比不足5%。
“我们得写一份详细的审计报告,不仅要指出问题,还要给出整改方案。”林砚之揉了揉太阳穴,看着窗外黄浦江的夜景。江面上的货轮闪着灯光,像一颗颗移动的星星。“明天召开行业座谈会,把智愈的案例分享出去,让其他AI医疗企业引以为戒。”
小陈突然指着平板电脑说:“林处,网上有人在传‘伦理审计阻碍科技创新’,说是我们故意针对智愈科技,影响黄浦市的投资环境。”林砚之拿过平板,看到那些帖子都是用匿名账号发布的,Ip地址大多指向海外。“不用管,事实会说话。”她笑着说,“你看,今天已经有五家AI医疗企业联系我们,主动要求加入伦理审计试点。”
凌晨三点,审计报告终于完成。林砚之在报告的末尾写下:“科技的意义在于服务人,而非凌驾于人。伦理审计不是创新的绊脚石,而是保护人的安全网。”她合上平板电脑,走出机房。数据中心的走廊里很安静,只有服务器的低鸣像远处的海浪。
走到玻璃门外时,她回头看了一眼审计机房的灯光。那束光在黑暗里很亮,像一盏灯,照亮了科技伦理的道路。她知道,这只是算法审计困局的开始,未来还会有更多的挑战,但只要守住“以人为本”的底线,黄浦市的科技发展就不会偏离正确的方向。
第二天的行业座谈会上,林砚之公布了智愈科技的审计结果。当她展示算法修改前后的诊断对比图时,台下一片哗然。一位来自三甲医院的医生站起来说:“我们医院之前也用过智愈的算法,总觉得老年患者的疑似病例太多,现在终于知道原因了。以后我们采购AI系统,一定要先看伦理审计报告。”
座谈会结束后,周明远教授找到林砚之:“你们的‘脱敏审计+差分测试’模式很好,我已经把这个案例上报给国家科技部,建议纳入《科技伦理审查办法》的修订草案。”林砚之笑着点头:“这是团队的功劳,也是所有患者的功劳。”
她拿出手机,给第一位误诊患者的女儿发了条消息:“审计已经完成,智愈科技的算法会整改,以后不会再有人像你妈妈一样被误诊了。”很快,对方回复了一个谢谢的表情,后面跟着一颗红色的爱心。
林砚之看着那个爱心,心里暖暖的。她知道,这份工作虽然辛苦,但每一次坚守,都在守护着无数人的生命和希望。这就是科技伦理的意义——让科技有温度,让创新有底线。