机器行为学


48人参与 |分类: S生活城|时间: 2020-07-17
機器行為學

诺贝尔经济学奖得主Herbert Simon曾在《人造物的科学(暂译)》(Science of the Artificial)中写道:「自然科学是关于自然生物与现象的一门学问,那是否也存在所谓『人工』科学,专门研究人造物与所引起的现象呢?」随着AI逐渐渗透人类社交、文化、经济与政治活动,理解AI行为,将风险和伤害降到最低,显得更为重要。鑒于过往相关研究的缺乏与限制,部分学者主张以动物行为研究为模板,来讨论机器的行为以及与环境的互动。

跨领域的行为研究

之所以有这样的想法,主要在于我们生活中随处可见、日趋重要的AI应用,小如社群网站的推文演算法,大如目前国际极力避免的AI武器化,除了预期的任务与目标外,也常有意料之外的负面影响。例如,推文演算法虽然能大幅渲染广告成效,却也促使错误讯息与假新闻高效扩散。此外,如演算法的公平性也深深影响着我们,尤其当已有部分业者将AI应用于个人金融的信用评估与犯罪案件的审判。

目前,机器行为的研究多侷限于如何提升AI效能,忽视AI间、与周遭环境、与人类之间的互动与交互影响。一部分的原因归咎于存在已久的「黑盒子」问题:研究人员通常只能掌握输入和输出,很难推得演算的过程,更别说要诠释并控管它。某些原始码和运算模型的取得与公开更涉及版权问题(甚至训练资料亦然),光要审视多维度与大规模的资料便令人心力交瘁,再加上不透明性,机器行为的研究难乎其难。

另一部分的原因,则在于「行为」本身便是跨越多个领域、融合不同专业的研究。以往只有专精电脑科学的数学家或工程师孤身奋战,缺乏认知神经科学或社会学的理论基础与实务经验。所幸这样的现象已随着越来越多跨领域学者的投入而改善,并且这样的互动是双向的:对机器行为的理解与分析,除了有助于新科技的发展、提供新的灵感给AI工业外,这些研究资料与结果最终也成为传统行为科学的养分、提出新的问题与研究素材。

四个面向

动物行为学(ethology)奠基者之一、也因此获得1973年诺贝尔生理与医学奖的Nikolaas Tinbergen曾提出动物行为研究必须考虑的四个面向:机制(mechanism,引发特定行为的物理机制与刺激)、发展(development,例如动物是否透过学习,或受环境制约而出现相同行为)、功能(function,以「生殖优势」(reproductive fitness)的观点釐清为何特定行为被保留,而其他行为却逐渐消失)与演化(evolution,一个行为的演化历程。一个行为现有的「功能」可能与其当初出现的原因不同)。

儘管机器和动物行为有着根本上的差异,但研究方法却可类推。举例来说,自驾车会在不同情境下超车、切车道或是打方向灯,这些行为的相关演算法都是建立在交通法规之上,也囊括汽车引擎系统的性质、物体辨识系统的準确度等。这些演算法上的差异与环境因子,都是直接导致机器行为的「机制」。

至于行为的「发展」,意即行为的取得过程,对机器而言,有一部分可归因于人类在设计时的选择。工程师会调配不同的参数和架设适合的神经网路,让机器得以获取相应的行为,若机器被投入刺激训练,当中使用的训练资料库也可算是一种设计上的选择。此外,机器还可能透过自身经验提升表现,例如强化学习模型可以分析奇异的短线交易策略中,可能伴随哪些市场回馈,再将经验转为最大化长线交易利润的能量,让下单更加精确、进步。

那该如何分析机器行为在特定环境中的「功能」呢?我们可以聚焦在机器行为为环境带来何种影响,使得它们能持续佔有一席之地。举例来说,某些表现优良的交易演算法,可能会成为业界的榜样,在不同公司之间交流,也可能受对手仿效、学习。相同地,越是顾及乘客安全的自驾车系统,越会受到市场宠爱,反之则会销售不善,被淘汰出局。

优秀的设计与理念也会被后起的诸多AI产品沿用,正所谓前人种树后人乘凉,像贝氏状态空间模型(Bayesian State-Space model)便是一例;或透过更新、改善原先的缺失,让设计上的複杂程度大幅下降,「演化」出更多变的新产品。

由个体到人机混合

上述的四个面向不在于区分或割裂机器行为研究,而是如何兼顾行为本身的整体性,由个体、不同AI间、人机与环境间,将研究提升至更大规模与层次。与动物、昆虫类似,机器也有群体互动的一面。如果彼此互动优良,可能更顺利也更出色地完成指定任务。相较于单一AI的行为研究多聚焦于机器在不同环境、背景下的各种反应是否合乎预期,群体研究着重多个AI间的合作关係,以及如何提升效率。

当然,大众最关注的便是人机互动:机器会如何影响人类生活?人类又会对机器造成那些影响?举例来说,随着机器引入各种人类活动,包含选举、休闲、工作等等,而人类社会中固有的歧视与刻板印象自然地显现在提供给机器的训练资料中影响演算法。交互作用之下,人机共存的世界必然呈现不同的样貌,只是改善或加剧既有的不公不义?也是机器行为学此一新兴学科迫切关注的问题之一。

编译来源

I. Rahwan, “Machine behaviour”, Nature, 2019.

(本文由教育部补助「AI报报─AI科普推广计画」执行团队编译)