人也是一种“黑箱”,但不影响我们相互理解。
2016年3月9日-15日,Google Deepmind公司的团队研发的人工智能围棋机器人AlphaGo与韩国围棋天下冠军李世石展开了5场激烈的激烈的战斗,终极AlphaGo以4:1的悬殊比分轻松取胜。随后在一系列与天下围棋顶尖高手的对决中AlphaGo披荆斩棘所向披靡,再也没有输掉过任何任何对决。2017年10月18日AlphaGo的升级版AlphaGo Zero横空出世并且以100:0的比分击败了上代版本AlphaGo。
“AI完胜”无疑让第三次人工智能浪潮达到了一个高峰,但随即也引起了部分人们对人工智能的惶恐,AlphaGo已经证明了人类已经真的可以创造出如此聪明的人工智能,其一旦不受人类掌握和约束,那些科幻电影的情节会不会成真,终极导致严重的后果呢?
近年来人工智能技能飞速发展,关于人工智能机器人终极不受人类掌握并且终极统治乃至毁灭人类的科幻影视作品出不穷,热播美剧《西部天下》中的失落控的AI机器人在人类天下里大肆屠戮,严重的毁坏了原来稳定的秩序。电影《升级》里面的人工智能芯片“智脑“被植入人体后通过其高超的运算能力一步一步的毁坏了原来给它设定的规则程序,与人脑融为一体终极掌控人的肉体,终极让人成为他的傀儡。
针对这种担忧,麻省理工学院媒体实验室的研究职员表示,社会须要用一种类似于行为学的多学科方法来研究算法,而不是大略的恐怖人工智能或呼吁对人工智能的监管。
AI技能的核心是算法,算法本身并不带有善意与恶意,但人类的善意和恶意都能被算法放大。因此,对人工智能伦理的研究,不能局限于人工智能本身,而必须将人工智能放置于其即将被投入的社会视角进行研究。
于是他们提出了一个新的跨学科研究领域,来研究人工智能是如何进化的,以及它对人类意味着什么——机器行为学。
评论人士和学者正在对人工智能机器人带来的广泛的、意想不到的后果发出警告,这些机器人内置的算法能够通过机器展示自己的行为,并产生始料未及的影响(包括正面和负面影响)。人们担心人类可能失落去对智能机器的掌握,“自主武器”的发展意味着机器可以决定谁在武装冲突中生存,谁在冲突中去世亡。
本月揭橥在《自然》(Nature)杂志上的论文《机器行为》(Machine behavior)呼吁“在设计和设计人工智能系统的领域,以及传统上利用科学方法研究生物学的行为的领域”共同努力。详细地说,作者建议不仅研究机器学习算法如何事情,而且还研究它们如何受其事情环境的影响。
用更大略的话来说,便是不止考虑人工智能在“实验室”里若何事情,还要看它在实际中会若何事情,产生什么影响。
这“类似于动物行为学和行为生态学通过将生理学和生归天学(内在特性)与生态学和进化论(由环境塑造的特性)结合起来研究动物行为。”
以是机器人行为学是一个跨学科的,繁芜的研究方向须要更多的跨学科专家加入研究。
02
目前,最常见的研究机器行为科学家是打算机科学家、机器人专家和工程师,由于是他们首先创造了机器。他们会基于原发者的视角思考机器人的行为。这就彷佛是一个创造生命的“上帝”,他们为创造出的生命设计了各种机制与本能。
然而,这些“生物”一旦“离手”最初设计的机制与外在环境互动的过程中并不一定总是与最初的设想同等。
这就好比每个身心康健的人类总是有大致相似的生理需求与生理动机,但在与现实天下的互动中每个人都发展为完备不同的个体,一些人成为了至善之人而另一些人成为了邪恶的罪犯。
打算机科学家和工程师常日都不是演习有素的行为学家,他们可能对自己创造的AI有足够的节制,但却并不一定能够对这些AI即将独自探索的社会现实有充足的理解。
他们很少接管实验方法论、基于人口的统计和抽样范式或不雅观察性因果推理方面的正式辅导,更不用说神经科学、集体行为或社会理论了。相反,虽然行为学家更有可能拥有在这些方面的科学方法,但他们不太可能精通人工智能方面的干系知识。
为此,人工智能行为学期望通过一种全新的办法来办理目前对人工智能的理解。
目前,社会上各种算法的盛行是前所未有的,推举算法和社交媒体公司的人工智能会影响着我们看到什么样的信息。各大金融软件里的信用评级(评分)算法决定了放贷策略。打车软件中的算法改变了人们的出行办法和城市交通。
这些人工智能给人们生活带来便利的同时,也带来了系统的繁芜性和不透明性,比如乃至连金融公司自己都不再能清楚的阐明为什么可以给一个人贷款10万而另一个只有1000。
人工智能系统的多样性以及普遍性会对研究这些系统(如金融系统或交通系统)的行为造成巨大寻衅。
人工智能系统的繁芜性很高,虽然用于指定模型的体系构造和演习它的代码可能会很大略,但输出的结果每每十分繁芜。它们被给予输入,但产生这些输出的确切的函数过程纵然对那些自己天生算法的科学家也很难阐明。
此外,数据的维度和大小为理解机器行为增加了另一层繁芜性。使这一研究更加繁芜的是,社会上利用最频繁的算法的大部分源代码和模型构造都是专有的,这些系统所演习的数据也是专有的。
03
在许多情形下,商业中的人工智能系统公开可见的唯一成分是它们的输入和输出。纵然在可用的情形下,人工智能系统的源代码或模型构造也不能对其输出供应足够的预测能力。人工智能系统还可以通过与天下和其他无法精确预测的系统的交互来展示新的行为。纵然解析在数学上是可描述的,它们也可能是冗长而繁芜的,以至无法阐明。而且,当环境发生变革时(可能是算法本身的结果),预测和剖析行为就变得困难得多。
对此,引入对此,引入AI与外部环境互动的视角能更好的帮助研究者理解人工智能本身。
机器行为位于设计和设计人工智能系统的领域与传统上利用科学方法研究生物行为领域的交叉点。对行为的科学研究有助于人工智能学者对人工智能系统能做什么和不能做什么做出更精确的表述。
到目前为止,那些创建人工智能系统的人的紧张关注点一贯是构建、实现和优化智能系统,以实行特定的任务。他们的目标一贯是最大化算法的性能。一旦目标任务“多快好省”的实现,人工智能便“发布成功”。然而在这一目标被实现后的社会影响,目标实现路径种可能存在的其他影响则每每并不在人工智能科学家的考虑范围之内。
机器行为的学者们对付更广泛的指标集感兴趣,而不是利用指标来对基准进行优化,就像社会科学家在社会、政治或经济互动领域探索人类的广泛行为一样。因此,研究机器行为的学者花了大量的精力来定义微不雅观和宏不雅观结果的度量,以解答一些广泛的问题,比如这些算法在不同环境中的行为,以及人类与算法的交互是否会改变社会结果。
随机实验、不雅观察推断和基于群体的描述性统计——这些方法常常用于定量行为科学,这必须是机器行为研究的核心。以是将传统上生产智能机器的学科之外的学者纳入个中,可以供应关于主要方法论工具、科学方法、替代观点框架以及机器将日益产生影响的经济、社会和政治征象的不雅观点的知识。
通过不雅观察某一事物与周边环境互动的“行为”来对事物的内在进行研究并不是一个新方法。AI所面临的“算法黑箱”也不是新问题,某种程度上,动物和人都是一种“黑箱”。
1973年,尼古拉·丁伯根(Nikolaas Tinbergen)与卡尔·冯·弗里施(Karl von Frisch)和康拉德·洛伦茨(Konrad Lorenz)共同创立动物行为学领域。这个学科有很多维度,这些维度涉及动物行为的功能、机制、发展和进化历史等问题,为研究动物和人类行为供应了一个组织框架。只管机器和动物之间存在根本差异,但对机器行为的研究可以从类似的分类中获益。机器人同样拥有产生行为的机制,经历将环境信息集成到行为中的发展,产生功能化的结果,导致特定机器人在特定环境中或多或少变得常见,并表示出了进化历史,通过进化历史,过去的环境和人类决策连续影响机器行为。只管仍旧存在许多问题,但打算机科学的学者们在理解人工智能系统的机制和发展方面已经取得了本色性的进展。这在此前受到的重视相对较少。
发展人工智能的初衷就在于让人类生活更加便捷更加美好,而进一步理解机器人行为对付我们能够有效地掌握它们的行为,以及我们最大化人工智能对社会的潜在好处,肃清可能带来的潜在危害至关主要。
–END–
作者:杨振瀚,王健飞,"大众年夜众号:腾讯研究院(ID:cyberlawrc)
来源:https://mp.weixin.qq.com/s/BKe4w9WAa2O95Z2r5sS92Q
题图来自Unsplash,基于CC0协议