国漫手机壁纸

患者痛不欲生,但AI说:别给她开止疼药

博雯发自凹非寺量子位报道公众号QbitAI因为严重痛经入院,在医嘱下注射阿片类药物(Opioid)以缓解痛苦。结果入院四天后,就突然被AI告知:你将不会再接受任何阿片类药物。然后就抱着尚未被消除的病痛,立即“被出院”了。这就是2020年7月份,32岁的Kathryn所

NetSmell 出品

  博雯发自凹非寺

  量子位报道公众号 QbitAI

  因为严重痛经入院,在医嘱下注射阿片类药物(Opioid)以缓解痛苦。

  结果入院四天后,就突然被 AI 告知:

  你将不会再接受任何阿片类药物。

  然后就抱着尚未被消除的病痛,立即“被出院”了。

  这就是 2020 年 7 月份,32 岁的 Kathryn 所遭遇的情况。

  而更让她无法理解的是,两周后,长期保持联系的妇科医生突然又向她声明:要终止他们之间的关系。

  一番查证之后,Kathryn 最终发现——

  源头竟来自她的两只宠物狗?

  宠物狗生病让主人被禁止买药

  其实,在住院期间,Kathryn 在被告知“不能再使用阿片类药物”时,工作人员同时也表示:

  你完全没有意识到自己的图表中有多高的分数。

  当时的 Kathryn 并不明白“图表”和“分数”是什么意思。

  而两周后她的医生送来的终止关系的声明中,又有这样一段描述:

  (关系的终止)来自 NarxCare 数据库中的一份报告。

  或许这里提到的 NarxCare 和之前所说的“图表分数”有关?

  Kathryn 和她周围的人都没有听过这个名字,于是她马上去 Google 了一下:

  原来,这是一个面向医生、药店和医院的分析工具和护理管理平台。

  NarxCare 可以利用 AI 算法对病患的处方药数据进行统计和分析,最终得到一个风险报告。

  它主要使用来自国家药品登记处的数据。

  除此之外,医疗索赔数据、电子健康记录、 EMS 数据和刑事司法数据也在使用范围之内。

  NarxCare 会通过机器学习算法对这些数据进行统计和分析,最终得到一个预测模型。

  根据这一模型,每位患者都会得到一个属于自己的的“处方药使用风险评估报告”:

  如果评分过高,就有可能被认为是有药物滥用情况,从而被拒绝出售相关处方药。

  但这仍然不能解决 Kathryn 的疑惑:

  她所患有的子宫内膜异位症导致了常年的生理病痛,因此她确实有长期服用阿片类药物(如扑热息痛)的习惯。

  但这一切都是在医生指导下所开的处方药啊,怎么突然就被叫停了?

  在与各种论坛上的慢性疼痛病患者的交流之后,Kathryn 最终找到了这场意外的源头。

  而结果让她感到无比离奇——

  原来,Kathryn 的两只宠物狗,都曾因疾病而服用过大量的阿片类药物、苯二氮卓类药物,甚至巴比妥类药物:

  由于代谢原因,狗狗们所服用的剂量会高出人类。

  而买药的全部流程挂的都是主人,也就是 Kathryn 的名字。

  因此,Kathryn 去过的药店数量、去医院的路程,以及她收到的处方药组合,全都被 NarxCare 记录了下来。

  她的宠物狗们的服药经历,全都算到了她的头上。

  美国处方药监控项目

  这场非常荒谬的意外,或许是由于平台算法的缺陷所导致的。

  不过让 Kathryn 更在意的是另外一点:

  这样一个暗中收集处方药数据的项目,她和身边的大多数人从来都没听过。

  谁允许的?

  其实,这是来自过去 20 年内,美国已投入了数十亿美元的处方药监控项目:

  司法部一直在致力于开发和维护州级处方药数据库。

  他们希望通过这一电子登记系统实时跟踪某些受管制药物的药方,密切关注制药市场。

  现在,几乎美国的所有洲都有一个这样的处方药监控项目(PDMP)。

  而在过去的几年里,一家名为 Appriss 的公司慢慢主导了这些州处方数据库的管理。

  NarxCare,就是 Appriss 公司旗下的产品。

  Appriss 希望通过 NarxCare 所产生的报告来帮助处理药物滥用情况,并辅助医生进行更好的诊断决策。

  在目前的美国,几乎每个州都会要求医生和药剂师在开具处方药的同时,咨询和参考 NarxCare 中的医疗信息,否则就有可能被吊销执照。

  而对于 Kathryn 这样的例子,Appriss 则表示:

  宠物狗提高了主人的评分,这是一个非常罕见的例子。

  但不论这是怎样的一个卡夫卡式的发展,对于现在的 Kathryn 来说,每次进入药店时,总能有人看到她过去的那些“图标和分数”。

  她对此表示:

  这让我感到我走入的不是药店,而是宗教审判所。

  不公开的专利算法

  而像是 Kathryn 这样的例子并不少见。

  她在慢性疼痛患者论坛中,就曾遇到一位拥有相似经历的女士。

  在对医生进行自我介绍之前,就先被要求披露自己为什么长期服用阿片类药物。

  回答了自己患有 PTSD 后,还被要求进一步解释精神创伤的原因。

  而目前 NarxCare 并不需要获得 FDA 的批准,这也让一些医学专家提出了质疑:

  它(NarxCare)是一种专有的算法,既没有学术界的同行评审,也没有政府监管。

  NarxCare 用于过量风险评估的算法并不对外公开。

  不过根据官网的一些已有的资料,我们可以了解它们大致的思路:

  在得到来自处方药监控项目的大量数据,并开发了一个大的变量集后,再将数据分解为一个训练集和一个测试集。

  有了训练数据之后,算法就开始将服药过量和未服药过量的模式进行对比。

  比如,如果某位病患拥有同一医生开出的三张阿片类处方药,那么他的药物滥用风险就远远低于三位不同医生开出处方药的病患。

  在这种重复的对比和学习中,最终就得到了一个用于评估病患风险的预测模型。

  这一算法近年来在生命的多个领域得到了广泛应用。

  比如,常常被用来预测哪些病人最有可能从特定的治疗中受益,并估计 ICU 病人出院后恶化或死亡的可能性。

  但也就像很多人说的那样,NarxCare 并不透明,没有办法从底层去检查它们是否存在错误或偏见:

  有很多病人并没有意识到他们正在被测量分析。

  甚至不仅是病患,连使用这一辅助临床决策系统的医生也无法完全知晓它的原理。

  就像是亲身体会的 Kathryn 所说的那样:

  对于大多数美国人来说,这是一个秘密的信用评分系统。

  参考链接:

  [1]https://www.wired.com/story/opioid-drug-addiction-algorithm-chronic-pain/

  [2]https://twitter.com/Annaleen/status/1425493523076304898

  NarxCare 官网:

  https://apprisshealth.com/solutions/narxcare/

显示余下内容
相关文章:
  1. 信用卡 PIN 码很容易猜测
  2. 神经元簇发能模拟 AI 学习策略
  3. 蜘蛛丝可能根本不具有抗菌性质
  4. 佳能因禁止无墨水打印机扫描被起诉
  5. DeepMind盈利后开始「买买买」!收购机器人模拟平台MuJoCo,全面开源
  6. 分析师:新MacBook Pro搭载自家芯片,苹果利润率更高了
  7. 格芯提交上市申请IPO,筹资约26亿美元
  8. 美股周二:中概股普涨 阿里涨超6% 高途涨逾12%
  9. 搭配自研处理器与安卓12,谷歌新机Pixel 6起价599美元
  10. 摩根士丹利:马斯克有望凭SpaceX成首位万亿美元富豪
  11. 《鱿鱼游戏》助奈飞三季度新增用户翻倍,股价近新高
  12. DOTA 2又上热搜了 为什么这次大家到处刷“猛犸”?
  13. 多位游戏巨头联合希望美国政府监管盗版和作弊网站
  14. Google Play Data Safety开始接受开发者申请:2022年将强制执行
  15. 价格欺诈投诉引发公益诉讼 京东“划线价”格式条款须整改
 

发表回复

您的电子邮箱地址不会被公开。