永利国际平台网址多少 >永利皇宫app下载 >人工智能,应该有道德么? >

人工智能,应该有道德么?

2019-10-02 04:29:07 来源:工人日报

  

经典科幻电影《银翼杀手》中,背景是设置在2019年。电影中,这个年份已经出现一种复制人,他们与人类几乎一致,无论美丽的外表还是机智的判断力,甚至对爱的感觉、对暴力的嗜好也一样。当然,还有追杀这些复制人的杀手。

复制人渴望成为人类,这应是死罪么?如果有杀手机器人,应该追究谁的责任?《银翼杀手》核心,其实已经涉及了一个关键问题:人工智能即AI,应该有道德观么?如今,对比科幻电影,在现实中,我们已经到了过去看起来很遥远的2019年。上述问题,其实还是没有妥善答案。现实中,阿里巴巴发起的研究机构罗汉堂于2019年6月25日提出了“最关乎世界未来的十大问题”,有人称为“世界终极十问”。

未来十问

完整十问如下:

1、我们是应该先控制风险,还是先迎接数字技术?

2、数字技术会扩大鸿沟,还是会让世界变平?

3、数据是谁的?谁是真正的受益者?

4、数字技术会让更多的人失业,还是会让工作时间更短?

5、谁是平台经济的受益者,是所有参与者,还是少数平台公司?

6、治理机制要如何改变,才能适应数字时代?

7、金融服务在越来越平民化的同时,会不会引发更多的风险?

8、数字时代全球化会走回头路吗?

9、人工智能该不该有道德观?

10、大算力和大数据,一定会让我们离真相更近吗?

这些问题,其实没有标准答案。即使有6位诺奖得主加入的学术委员会讨论,也不意味着有一致结果。

这些问题,看起来和我们的生活也许不直接相关,其实却触及了时代紧急而隐蔽的变迁。科技在飞速迭代,但我们的灵魂和社会,却没有同步进化。这种技术与人类组织、社会与生活方式的不同步,其实是比起技术本身更难解决又更容易忽视的问题。如何应对,其实将成为未来社会能否顺利转型的关键之一。

平台属于谁

如同盗火的普罗米修斯,科技公司释放了技术的能力,带来物质便利以及生活水平的提升;同时,也冲击了原来的社会形态,可以说生产关系已经改变。

当科技公司越来越大,市值万亿的公司开始涌现。在2018年前10大上市公司中,有七名都是科技公司,而且前五名都是科技公司,都来自中美两国。这个时候,科技公司变得体量更大,也意味着暴露在更多社会关系中,与监管用户的关系日益复杂。

回顾经济史,创新一直存在,从蒸汽机到铁路,对世界带来的改变巨大,甚至经济的促进作用,也并不亚于互联网。随着人工智能等技术加持,互联网进入转折点。科技公司纷纷转型平台经济,甚至让“中台”成为关键词。

与此同时,平台经济也意味着公司规模扩张,利益相关者增加,对于监管以及信息的使用,都带来各种挑战。比如这些天,国内外都在热议甚至盛赞的Facebook发行数字货币Libra,然而在国外Facebook的相关新闻,不少则集中于隐私丑闻导致活跃度下降等方面。

科技的发展,对于互联网公司管理其实也提出了挑战。互联网公司从边缘的创新,一跃而为成为社会主流公司,也意味着必须承担更多社会责任。这个时候,科技公司仅仅拥抱平台战略或者进行中台整合,已经不足以应对外界无日无之的打量。在6月罗汉堂年会上,阿里巴巴集团CEO张勇和三位诺贝尔经济学奖得主由此对话,罗汉堂秘书长陈龙主持。这场对话核心议题之一,其实就在回应 ,谁是平台经济的受益者?张勇表示,平台不是一个人决定的,平台是所有利益相关方的平台;甚至平台型公司并不是平台的所有者,而只是在运营这个平台,只是平台的一部分。

超越行业的知识思考

这些讨论见仁见智,但从超越行业的视角来看,其实有不一样的高度。当下,类似《黑客帝国》以及《三体》的科幻电影场景正在变为现实,对于人类社会冲击逐渐展现。从数据的隐私安全到个人的职业保障再到阶层的重组,都在接近转折点。人类社会如何应对这些挑战,其实是超越了我们当前的知识储备;换言之,我们并非手握答案。认识到这一点,是第一步。

例如开篇谈到的人工智能道德观问题。讨论这个问题,常常有个两难选择的经典场景,比如驾驶一辆失控汽车,假设必须选择撞向一边,左边是老人,右边是小孩,怎么办?

类似的伦理难题,在人类开发人工智能的历程中,也会遭遇不少类似的拷问。那就是,在多大的程度上、以怎样的方式处理人工智能的“类道德问题”?与此相关,罗汉堂的学术委员会成员两位诺贝尔经济学奖得主分别有所阐述。2011年诺奖得主托马斯.萨金特认为,机器并不是自己在学习,所以我们人类在给机器提供数据的时候,要努力去除掉一些偏见;2016年本特•霍姆斯特罗姆(Bengt Holmstrom)则指出,人工智能也是公司一员,有工作动机,应该给予其正确动机激励。

人工智能的道德观,这个问题并不是空想,不仅重要,甚至越来越迫切的问题。这个问题背后,不仅涉及算法以及道德问题,更是知识边界拷问的问题。正如站在人类的角度,推进人工智能当然应该有道德观,但是人工智能会不会有道德观是另外一个问题,而且人类的道德观,是否适用人工智能,则是更大的问题。

类似未来十大问题的提出,其实比起如何回答更有意义。正如艺术家杜尚所言,没有问题就没有答案;反过来说,好的问题往往也意味着解决问题的开始。

比如回顾历史,知识革命的先驱,并不一定总是来自于学院体制。比如在欧洲工业革命时期,一些民间社团对技术革新发挥不小作用。比较著名的是英国月光社,他们就是由一些科学家与工程师甚至枪炮制造商等人自发组织。他们聚会的目的,不是为了赚钱,聚会的结果却往往造成了科学可能性。制造蒸汽机的瓦特,就是其中一员。

当代智库或者社群,其实也应该发挥类似的作用。国外有一个社群Edge,也是汇集各路聪明学者,发布年度重要问题。其中,一个聪明家伙就说,我足够聪明到回答这些问题,但是我足够聪明到提出这些问题么?好的问题,往往是成功的一半,集体智慧好过个人探索。知识边界的拓展,永远从跨界的提问开始。注:本文代表作者本人观点,作者为资深财经观察者,亦为经济人读书会创始人,更多思考可见公号《徐瑾经济人》(ID:econhomo)

(责任编辑:费嵫咬)
  • 热图推荐
  • 今日热点