波音空难背后:人类应该在何种程度上信任AI?

金融界 中字

随便举个例子。比如判定一个人是不是秃顶,这个标准其实就很模糊。假如他确实一根头发都没有,那么事情就清楚明白了,无论是AI还是普通人,都会认为他就是秃顶。但假如他只有一根头发呢?在AI看来,哪怕它只有一根头发,他也已经不是秃顶了,但在普通人的习惯性认知里,他依然是个秃顶。那么,如果要给AI设计一个程序,到底这个量级应该设置在多少呢?一根头发?两根头发?还是一万根头发?这是一个界限很模糊的事情,在AI的认知中极难判定,但在人类的认知中这几乎不是什么难题。

AI是有漏洞的,它处理问题过于刚性,有时候会酿出惨祸。因此在西方科学界,很多大咖都提醒人类,对待AI要慎重,这是一把双刃剑,它的副作用必须引起警示。

自动驾驶技术也是这样。在飞机上,当然应该装自动驾驶系统,但是在最后决定权的归属上,一般默认人类应该有超越AI的权限。

为什么在最终抉择时,人类选择相信自己呢?这也是一个颇有争议性的话题。

众所周知的事实是,人类存在一大堆弱点。人类自身的计算能力远没有机器精准,躯体远没有机械强悍,在保持客观理性的判断力上,人类也乏善可陈,很多时候人类都是凭情感来做选择的。

那么,人类凭什么这么自信呢?

这也许只是源于人类的盲目自信,甚至是自大,但可能更大的原因在于,人类知道纯粹的刚性思维往往会带来极其严重的社会后果,比如算法歧视、规则排他性等等。一旦AI掌握游戏规则的最终裁定权,很可能会产生一个让人类绝望的AI暴政时代。设想一下,假如AI计算后认为,只有某类人才有生存的价值,那么一场大屠杀就要开始了,那可能比纳粹更离谱。

AI不会自我修正,但人类可以,反省精神可能是人类优于AI的一个方面。

已故科学巨匠霍金一直对AI保持警惕的态度。

2016年10月19日,霍金剑桥大学发表演讲。他在演讲中批评了人工智能的无节制发展,他认为,人工智能技术的确有希望带来巨大的福利,比如根除疾病和贫困,但是它同样也可能带来危险,比如强大的自主式武器,或者帮助少数人压迫多数人。

2017年3月,霍金在接受《泰晤士报》采访时再次发出警告,“人类需要控制以人工智能为代表的新兴科技,以防止它们在未来可能对人类生存带来的毁灭性威胁。”他还说,“自从人类文明开始以来,侵略便一直存在,往往出现在相对具有生存能力优势的不同群体之间,而未来人工智能进一步发展便可能具备这种‘优势’。他们本身也是生根于达尔文的进化论之中。因此人类需要利用逻辑和理性去控制未来可能发生的威胁。”

在欧美国家,对于人工智能的立场分为截然不同的很多派别。不过即便是最乐观的派系,也远不及我们身边的大多数人对于AI技术的乐观。

目前我所能查到的国内有关民航无人驾驶系统应用的论文,对于AI技术的态度都是持高度肯定和乐观态度的,甚至很多文章通篇洋溢着浪漫主义的情怀。至于媒体的报道则更是如此,比如前几年关于波音、空客民航大客机做飞行表演时的报道,很多媒体对于AI控制系统成为飞机的实际控制者的消息欢欣鼓舞。在大多数人看来,AI技术只要做好防范黑客攻击这一道关,其他方面都不是问题。

其他领域也是一样,比如关于机器换人的新闻,基本上都持高度肯定及赞赏的态度,金融资本圈对于AI技术、大数据技术的追捧同样是大家有目共睹的。

但是,AI技术对于现实生活的反噬其实已经开始显现。比如,AI技术的基础建立于大数据之上,而大数据非法采集及信息泄露问题,现在层出不穷。但遗憾的是,尽管这个问题已经泛滥了好几年,现在却依然没有看到局面改变的迹象,甚至愈演愈烈。

算法的歧视问题也越来越严重。比如去年IG夺冠,王思聪微博抽奖,113名获奖者中只有1名男性,随即有人发现,几乎所有的微博抽奖都是女性获奖,而有人更是深挖出背后的计算逻辑,即系统并不考虑性别,但如果用户对化妆品之类的商品敏感度高、购买力强,则不会被标注为“垃圾用户”。今年更曝出猛料,如果某女性在某电商平台上买了几条低于128元的裙子,基本上她已经失去了被人追求的价值。

更令人细思极恐的是,在隐私权被无视之后,大数据和AI技术实际上是可以获得你的一切信息的,包括你的容貌、身份信息、指纹、密码、生活习惯,你在网络上留下的任何痕迹都会面临潜在的非法使用风险。那么如果有一天,AI创造了另外一个你,那么你该如何证明自己才是真实的本主呢?

结语

当下我们所处的时代还只是一个初级AI时代,不过阿尔法狗已经向人类证明了AI强大的自我学习能力,假以时日,强人工智能时代终将来临。

考虑到硬件的快速发展和软件的创新是同时发生的,强人工智能时代可能比我们预期的更早降临,因为指数级增长的开端可能像蜗牛漫步,但是后期会跑的非常快。

以当下我们身边很多人对AI技术的乐观态度,未来人类会和与人类智能相当的强人工智能电脑平等快乐地生活在一起。或者更理想一点,一群智能远超人类的机器人甘愿为人类的幸福默默地奉献一切。我不知道这种设想是否正确,但我希望它是真的,毕竟谁不希望未来会更加美好呢?

但这个星球上依然有很多人对于AI心存警惕。比如当狮航空难和埃航空难发生之后,仍然有很多人认为,对于关乎人类性命的事情,最后的裁决权依然应该交给人类,而不能交给冰冷的AI,即便它无比强大。

声明: 本文系OFweek根据授权转载自其它媒体或授权刊载,目的在于信息传递,并不代表本站赞同其观点和对其真实性负责,如有新闻稿件和图片作品的内容、版权以及其它问题的,请联系我们。
侵权投诉

下载OFweek,一手掌握高科技全行业资讯

还不是OFweek会员,马上注册
打开app,查看更多精彩资讯 >
  • 长按识别二维码
  • 进入OFweek阅读全文
长按图片进行保存