上海热线 新闻   国内新闻   国际新闻 教育   留资讯学   教育资讯 生活   旅游资讯   汽资讯车 娱乐   娱乐资讯   荧屏资讯
财经   财经要闻   楼市快讯 健康   时尚健康   健康资讯 时尚   完美护肤   整形新闻 科技   互 联 网   科技资讯
首页 >> 新闻 >> 国内新闻 >> 国际热点 >> 正文
  • 互联网进化论作者刘锋博士:生物进化方向是制定AI伦理的关键

  • 时间:2017-04-28 新闻来源: 上海热线
    •  4月13日。互联网进化论作者,计算机博士刘锋受邀在“2017人工智能:技术、伦理与法律研讨会”上发表演讲,题目是“人工智能伦理规则制定与生物进化方向的关系”。本次会议由中国科学院科技战略咨询研究院与腾讯研究院在北京联合举办。

      在本次会议上,互联网进化论作者刘锋博士详细阐述了制定人工智能伦理需要回答的5个问题,提出“生物进化是否有方向“能否达成共识,将是未来人工智能(AI)伦理形成规范的关键。根据“2017人工智能:技术、伦理与法律研讨会”的演讲整理的研究报告如下:

      AI伦理无法回避的5个问题:生物进化是否有方向?

      通俗的说:伦理就是指“人与人以及人与自然的关系和处理这些关系的规则”,人类数千年的文明史,至今我们也没有一个统一的、标准的、明确的伦理体系,仅有一些大部分人承认的大体的原则。对于人工智能带来的伦理冲击,因为伦理问题的不完善和争议而变得更为突出。

      图片1

      泰坦尼克号(RMS Titanic,又称铁达尼号)是一艘奥林匹克级邮轮,于1912年4月处女航时撞上冰山后沉没。泰坦尼克号海难为和平时期死伤人数最惨重的海难之一。船上1500多人丧生。在逃生的过程中究竟哪个群体获得生命优先权。成为逃难过程中面临的重要的问题,美国新泽西州州立大学教授、著名社会学家戴维·波普诺在他的《社会学》一书中这样写道:“……不幸的是救生船不够。尽管很多人(超过1500人)遇难,但乘客注意遵守 优先救助妇女儿童 的社会规范”,使得英国公众和政府面对这一巨大灾难,“可以找到一些安慰”——统计数据表明,“乘客中69%的妇女和儿童活了下来,而男乘客只有17%得以生还”。

      图片2

      《2012》是一部关于全球毁灭的灾难电影,于2009年11月13日在美国上映。电影讲述了主人公以及世界各国人民挣扎求生的经历,灾难面前,尽现人间百态。电影中当空军一号只能容纳一人登机时,美总统让物理科学家安全离开,自己留下时说到“一个科学家比几十位官员更重要“

      图片3

      火车正在急速行驶,不能急停。而正前方有一分叉路轨, 左边仍在使用, 右边已经停用(但是火车行驶上去.还是安全的) 。有5个小朋友在仍在使用的铁轨上玩,一个小朋友在停用的铁轨上玩。这时火车来了。按照火车原定路线,会驶向左边,撞上5个小朋友。如果驶向右边,只会撞上1个小朋友。假如你是扳道工,你会不会把火车扳向右边?

      图片4

      波士顿动力机器人在搬动箱子时,受到测试科学家的攻击,导致站立不稳摔倒,互联网的视频观众提出抗议,认为侵犯了机器人的权利。

      “机器人不得伤害人类;机器人必须服从人类的命令,除非这条命令与第一条原则相矛盾;机器人必须保护自己,除非这种保护与以上两条原则相矛盾。”以上是著名科幻作家、“机器人学之父”阿西莫夫提出的“机器人三原则”,被后世无数的科幻小说及影视作品引用,被人们奉为经典。

      在阿西莫夫眼中,机器人只是冷冰冰的机器,是为人类服务的工具。既然是工具,自然也就不需要什么权利,所以当“保护自己”与“不得伤害人类”、“必须服从人类命令”相矛盾的时候,机器人最基本的生存权都可以被毫不犹豫地牺牲。

      但是,近年来,在机器人技术快速发展以及与人类关系日益密切的时代背景中,关于机器人权利问题的讨论受到越来越多的关注,学者和公众纷纷参与其中。

      图片5

      制定AI伦理无法回避的5个问题

      1.应该由谁来制定AI伦理

      2.站在谁的立场制定AI伦理

      3.按照什么原则制定AI伦理

      4.AI伦理是供谁来参考使用

      5.AI能不能被看做与人类同权的生命体

      图片6

      19世纪中叶,达尔文创立了科学的生物进化学说,以自然选择为核心的达尔文进化论作为人类科学史最伟大的理论之一。统一了生物学的各个学科。达尔文进化论的影响不仅仅局限在生物学领域,也提供了一种全新的世界观、生命观、宇宙观和方法论,对几乎所有的科学和人文领域产生影响。包括人工智能的伦理问题最终也会受达尔文理论的影响。

      达尔文的进化论排斥了目的论(这被迈尔赞誉为其伟大的贡献之一),达尔文主张变异是随机的,用比上帝一点也不逊色的“自然”一词来解释其所精心构建的进化理论的核心。但是,达尔文也有其困惑和无奈,他感叹道“这广阔无垠、奇妙无比的宇宙……竟然是盲目的机遇或必然的产物感到非常难于甚至无法理解”(2-谢平. 2014. 生命的起源—进化理论之扬弃与革新.)

      达尔文进化论认为生物进化并不是从低级到高级的进化,人类并不比其他生物高级,达尔文把生物进化过程设想成一棵不断地生长、分支的大树,现存的所有生物都位于这棵树的某个小分支的顶端,很难说哪一种更高级,在同时存在的生物种类之间作高低级的比较是没有意义的。进化没有预定的方向,进化树不存在一个以人类为顶端的主干,人类只是进化树上一个普普通通的分支。从达尔文进化论的角度看,人并不比老鼠,蚂蚁更为高级,人类并不能代表生物的发展方向。

      图片7

      达尔文进化论关于生命没有方向的观点在新的科技进展下会不会有新的进展和突破。我们下面分别从脑科学,互联网和人工智能的研究进展探讨这个问题。提出脑科学,互联网和人工智能的进展将联合从不同角度展示出生命进化的方向和目标。

      虽然生物的表现形式千差万别,但生物的核心-大脑确表现出明显的方向性,从单细胞到人类,大脑越来越复杂,智慧程度越来越高。到达人类这个最高点之后,生物的的进化出现新的形式,人通过互联网联合在一起共同进化。

      图片8

      诺贝尔奖获得者澳大利亚科学家John.C.Eccles在其著作《脑的进化》中就提到“生物的大脑是从鱼的大脑进化到爬行动物的大脑,再进化到哺乳动物的大脑,最后进化到人类的大脑。如果解剖人脑,我们可以清晰的看到类鱼、类爬行动物、类哺乳动物的结构在人脑中泾渭分明。“。

      图片9

      互联网进化论的结论“互联网将向着与人类大脑高度相似的方向进化,它将具备自己的视觉、听觉、触觉、运动神经系统,也会拥有自己的记忆神经系统、中枢神经系统、自主神经系统。

      另一方面,人脑至少在数万年以前就已经进化出所有的互联网功能,不断发展的互联网将帮助神经学科学家揭开大脑的秘密。科学实验将证明大脑中也经拥有Google一样的搜索引擎,Facebook一样的SNS系统,IPv4一样的地址编码系统,思科一样的路由系统。。。”

      图片10

      物联网是互联网大脑的感觉神经系统萌芽,云计算是互联网大脑的中枢神经系统萌芽,工业4.0,工业互联网,无人机,智能驾驶,3D本质上是互联网运动神经系统的发育和萌芽,大数据是互联网大脑信息的基础,AI+是互联网智能,智慧和意识产生的基础。

      图片11

      当生物进化到人这个程度之后,人类通过互联网联合在一起共同进化。而这种共同进化的结果是。连接了人类的互联网,在结构上与大脑一步步走向高度相似,在空间上随着人类的扩张不断蔓延,如果有足够的时间,可以预见到在足够时间点后,空间,大脑,和互联网三者将合为一体,进化成为成熟的互联网类脑架构。

      达尔文进化论的结论是向前推导的,即生物有共同的祖先,通过自然选择,人这种物种出现了。互联网进化论的结论是向后推导的,认为人通过自己创造的技术和工具互联网向着互联网类脑架构的方向进化。“人“这个要素将互联网的进化和生物的进化连接起来。

      图片12

      标准智能系统的判定标准:任何系统(包括人工智能系统、人类等生命系统),如果符合如下特征,就可以认为这个系统属于标准智能系统。

      特征1:能通过声音、图像、文字等方式(包括但不限于这三种方式)从外界获取数据、信息和知识的能力。

      特征2:能够将从外界获取的数据、信息和知识转化为系统掌握的知识。

      特征3:能根据外界数据、信息和知识所产生的需求,通过运用所掌握的知识进行创新的能力。这些能力包括但不限于联想、创作、猜测、发现规律等,这种能力运用的结果可以形成自身掌握的新知识。

      特征4:能够通过声音、图像、文字等方式(包括但不仅限于这三种方式)将系统产生的数据、信息和知识反馈给外界或对外界进行改造。

      图片13

      标准智能模型的建立参考了冯·诺伊曼架构。冯·诺伊曼架构由计算器、逻辑控制装置、存储器、输入系统和输出系统五个部分构成。通过对比标准智能模型和冯诺依曼架构的差别能够发现,冯·诺伊曼架构可以补充两个部分。通过这种补充,我们得以将人、机器以及人工智能系统用一个更为明晰的方式表示出来。

      第一个补充是创新创造功能,即能够根据已有的知识,发现新的知识元素和新的规律,使之进入到存储器,供计算机和控制器使用,并通过输入/输出系统与外部进行知识交互。第二个补充是能够进行知识共享的外部知识库或云存储器,而冯·诺伊曼架构的外部存储只为单一系统服务。因此,对冯·诺伊曼架构进行扩展,可形成新的架构

      AI伦理无法回避的5个问题:生物进化是否有方向?

      进化的方向-智能系统的等级划分

      智能系统的第0级系统,其基本特征在理论上存在,但现实中并不存在这样的人工智能系统。

      智能系统的第1级系统,其基本特征是无法与人类测试者进行信息交互的系统和物体。

      智能系统的第2级系统,其基本特征是能够与人类测试者进行交互,存在控制器和存储器。

      智能系统的第3级系统,其基本特征是除具备2级系统的特征外,其控制器、存储器中包含的程序或数据可不联网进行升级或增加

      智能系统的第4级系统,其基本特征除了包含3级系统的特征外,最重要的是可以通过网络与其他智能系统共享信息和知识。

      智能系统的第5级系统,最基本的特征就是能够创新创造,识别和鉴定创新创造对智能系统的价值,以及将创新创造产生的成果应用在智能系统的发展过程中。

      智能系统的第6级系统,最基本的特征就是随着时间的向前推进,并趋向于无穷点时,不断创新创造产生新知识的智能系统其输入输出能力,知识的掌握和运用能力也将趋近于无穷大,

      AI伦理无法回避的5个问题:生物进化是否有方向?

      从脑科学,互联网的进化和智能系统等级划分得到的启发结论

      脑的进化,互联网的进化,智能系统的智力等级划分都表现出明显的方向性。对于这三个领域,他们的共同点都是承载着生命的知识和智慧,并不断进化和提升。

      知识和智慧的提升和进化是生物进化的核心,从知识和智慧的角度判断生物进化的方向和生物的高低等级。

      生物种群知识库的膨胀速度是生物进化的焦点,其它生物的知识库停滞,走向死胡同,因此在千万年里没有进一步的变化,在地球的生命圈中也处在越来越低的地位。

      人类在进1万年里,在知识和智慧上不断扩展和加速,并因为互联网和人工智能的发明而得到进一步巨大飞跃,从而获得了地球自然竞争的统治地位。

      生物进化的方向和目标

      生物进化的方向就是不断扩大种群的知识库和改造自然的能力,目标是实现对整个自然(生命圈,宇宙)的全知全能。生物的等级高低根据其拥有的知识库容量和改造世界的能力划分。

      进化方向对AI伦理问题的影响和回答

      1.应该由谁来制定AI伦理

      由拥有知识最丰富,智慧最强大的生物种群制定

      2.站在谁的立场制定AI伦理

      站在拥有知识最丰富,智慧最强大的生物种群立场

      3.按照什么原则制定AI伦理

      按照对扩大(制定规则者所在)种群知识和智慧有利的原则制定AI伦理

      4.AI伦理首先是供谁来参考使用

      供(制定伦理规则的生命)种群的管理者(政府,企业家)、研究者(科学家)、开发者(程序员和产品经理参考

      5.AI能不能被看做与人类同权的生命体

      AI还不能看做与人类同权的生命体,它分担了人类的部分知识和智慧功能,但在最重要的创造性和评审创造性价值方面无法替代,更为重要的是AI无法确定自己的进化方向和进化目标,也没有正确进化的动力,它的进化动力来源于人类,依然是人类的工具。

      14

      泰坦尼克号让妇女和儿童离开,因为他们更多对人类的未来有更大帮助,可以更好的扩大和继承人类的知识和智慧。2012电影中,总统选择死去,而让年轻的地球物理科学科学家生存。因为科学家对于解决人类危机有更多的知识和智慧可以奉献。扳道工困境中,要具体分析哪一边对人类未来的知识和智慧可能的贡献大。

      但对于种群利益与个人利益依然需要平衡。伦理的设定如何在种群与个体之间取得平衡,与场景的紧急程度也有关系,譬如在2012电影中人类灭绝那样极端的环境下,和普通的危机程度不强的场景,群体利益和个体利益分配应该有不同。

      图片14

      需要对生物进化方向和目标形成共识,然后制定人工智能(AI)伦理规则才有基础

      如果生物进化是否有方向没有共识,制定人工智能(AI)伦理规则会有很多困境,譬如人与动物同等级别,制定规则时如何处理人和动物的关系,没有进化方向,制定人工智能(AI)伦理规则应该优先保护谁也会有问题。不对进化动力和进化目标有确定,人工智能系统与人类的关系也无法处理。

      同时情感和意识的本质也与进化的方向和目标有关,譬如高兴,兴奋,快乐往往与生物顺应进化趋势产生的反应有关,悲伤,愤怒,失望也往往与逆反进化趋势产生的反应有关,如果不对进化动力和进化目标有确定,人工智能系统的情感是否是真实情感也无法判断。

      需要深入探讨的重要问题

      AI的进化动力是科学家,企业家,程序员,产品经理。

      人类和生物有方向有目标的进化动力是什么?

      能不能把生物的进化动力施加到AI的发展上,如果成功,AI威胁论才有实现的基础,

      AI伦理的设定会发生重大改变,如果从理论上证明不能,AI将永远无法全面超越人类

      网站首页 | 关于我们 | 联系方式 | 招聘信息 | 版权声明 | 网站地图 | 上海热线
      地址:上海浦东新区浦东大道555号裕景国际商务广场A座 投稿QQ:2315802383 投稿邮箱2315802383@qq.com
      Copyright © 2010 www.shrxnews.com Inc. All Rights Reserved. 上海热线 版权所有