现如今，社会医疗成本不断飙升，一些国家政府和医疗公司开始寄希望于算法帮助他们分配有限的医疗资源，包括筛选出应该向哪类人优先提供医疗保障等等。
这种做法本身具有其合理性。但是反对者们称这类自动抉择系统一旦出错，它带来的损害将是成倍的，同时也会加剧矛盾与偏见，造成及其恶劣的后果。
关于这一点有一个现成的例子，2016年美国阿肯色州在一个州立残疾人项目中借助了某个算法工具来为该州最为贫困的残疾人们提供帮助。该项算法下，人们可以申请由政府来支付在家雇佣专业护工的费用，这样他们就可以不用搬去全职护理机构。而在应用这项算法之前，州政府一直是人为来判断一个申情人一个星期应该得到多少小时的照顾。
算法推出之后，申请人会事先做一份有关于他们健康问题的调查，包括询问他们是否需要护理人员帮助吃饭或上厕所。在收集相关信息后，算法会计算出某个受益人能得到多少小时的照顾。随即许多人就发现，与之前相比，他们得到的护理时间被大幅削减。因为算法根本就不适用于评估所有病例，例如残疾人和脑瘫患者。在向法院提出诉讼后，为申请人们提供法律援助的律师说道，当算法本身出现问题时，它就成了最大的问题之一。
无独有偶，各国各地的医疗系统也会用类似的算法工具来进行福利分配，但时常也会有问题产生，产生的原因可能是数据缺失，也可能是受历史数据影响等等，但通常情况下，由于人们很难探知到一个算法究竟是如何工作的，所以就算是利益被损害，也很难拿出有效的数据对使用方提出诉讼。
不过可以预想的是，即使存在一定风险，各国的医疗体系不会放弃借助算法工具来提高分配效率，如今，研究人员们正在探索如何使用人工智能来检测皮肤癌，心脏病，眼疾及其他各类疾病。
医护人员们甚至还在研究如何能以AI预测一个人的死亡，这可能是一项对护理人员的工作大有裨益的工具，不过要是这类工具工作出现差错，那可就是真正的非生即死了。
