利维坦按:

经常听到某些人说,技术从来都是中立的。这句话的意思似乎是在表明,由该技术所产生的道德/伦理问题是事后的,与技术无关。这听起来颇有几分道理,但如果你再细琢磨一下,技术发明的目的是什么?比如枪。很少听说有人买把枪的主要用途是当锤子使用——枪的发明者自然也知道发明其的主要目的与用途。由此,再来审视那句“枪不杀人,人杀人”时,你就会对“枪不杀人”的意涵有了新的质疑:发明枪支的人,其主要目的就是为了杀人,即便枪在无人使用时的确不会对人造成物理伤害,但这也不能掩盖设计该技术的用途以及发明者的价值观。
The Trek
图片

技术就在我们身边。它既无处不在,如空气一样自然,但又在其他领域引人注目,吸引着世界的注意力。

从陶瓷杯到核武器,从床垫的弹簧到沉浸式的虚拟世界,从纸和铅笔到智能算法,技术的范围是如此宽广,从最基础的东西到近似魔法的东西,无所不容。

但即使是最基础的技术,它们也曾经像魔法一样。杯子和弹簧在今天可能不会引起太多的讨论,但如果没有它们,生活将会完全不同。也许人工智能、虚拟现实和其它发展中的技术也会走上类似的道路。

技术的发展引出了一个哲学难题——道德价值:我们能说一项技术是好,是坏,是中性的吗?我们的价值观是根植于我们所创造的技术中,还是直到有人决定如何使用该技术之前,它都没有价值观呢?

这个问题的答案看起来微不足道,但它将影响到我们监管技术的方式,以及谁应该为使用技术的后果负责。随着我们向智能计算机、大脑接口和生物黑客等领域开拓前进,这些道德问题的意义变得越来越重要。

我们来看看一些观点。

图片

枪不杀人,杀人的是人。

赞成技术中立的一个重要论点是“价值中立论”:一项技术本身并不具有任何道德价值,只有当人使用它时,才具有价值。

(link.springer.com/chapter/10.1007/978-94-007-7914-3_6)

以下是主要观点:

1、价值难以识别

约瑟夫·皮特(Joseph Pitt)在他的文章《枪不杀人,杀人的是人》中指出,为了让技术包含或体现价值,这些价值应该是可识别的,但事实并非如此。
他以一个大学足球场为例。它可以是威望或自豪感的来源,是大学一切美好的象征,它也可以代表着学生的梦想和愿望。但所有这些价值都是人所赋予的,而不是体育场本身的价值。
想象一下,外星人在太空中发现了一把刀。它们会如何看待这把刀?它们会从中识别出和我们一样的价值吗?它们会发现任何价值吗?退一步说,它们应该如何开始寻找这种价值呢?
再想象一下,亚马逊丛林的一个小部落的土著偶然发现了一台iPad,他们会怎么看待它呢?他们眼中的iPad,会和硅谷的程序员眼中的一样吗?

图片

《上帝也疯狂》(The Gods Must Be Crazy)剧照。© Revolve

2、不同的人,不同的价值

工具只有被一个有价值的生物所拥有时才有价值,所以这取决于这个人的价值体系。在这个体系中,如果人或环境发生变化,价值也会发生变化。
如果一个在球场踢球的学生腿折了,他的未来也因此毁于一旦,那么他看待球场的方式将可能急转直下。尽管球场没有任何物理变化,其他学生眼中的球场的价值也没有任何变化。
当一项新技术被介绍一个新的群体时,尽管技术可能是为特定目的而开发的,但它的价值取决于每个人使用时的功能和目的。
如果我们的工具的价值取决于它们所处的系统和解读它们的头脑,那么我们怎么能说工具中蕴含着任何价值呢?这些价值难道不应该保持一致吗?

3、用途决定价值

我们行动的后果和结果,这些是具有价值的,但我们使用的工具没有。
刀就是刀,是一个中性的物品。直到有人用它来削水果皮或在背后捅人,它才会有道德价值。

图片

© Rebloggy

这个观点重点关注终端用户。他们的欲望、需求和目标决定了技术的使用方式,而使用方式又决定了技术的价值。
这种观点也表明,终端用户要对技术的道德使用负责。我们不能责怪枪支射杀了人,即使枪支让凶手更方便。枪是中性的,人不是。
总结:
技术是工具。我们使用工具,工具不会使用我们。我们把自己的想法加到技术身上,而不管其本身的意义是什么。我们掌控着一切,我们可以自由地使用我们想要的工具,这是我们的选择。对于那些做出错误选择的人,他们要为自己的行为负责。
现在是反方论点:
图片
当你只有一把锤子时,所有的东西看起来都像钉子
“我称它为工具的法则:给一个小男孩一把锤子,他会发现他遇到的一切东西都需要敲打。”
——亚伯拉罕·卡普兰(Abraham Kaplan)
反对价值中立论的人认为,我们的价值观已经融入到我们设计和建造的一切中。
这个观点并不关注人们在如何诠释和使用工具,而是更仔细地审视发明者和发明,这些技术的特点如何影响人们,以及为什么我们识别价值的能力并不是必须的。
论点如下:

1、技术是有目的的

与随机杂乱、物竞天择的进化过程不同,技术是发明者意志的产物,是为了达成某种目的而形成的。它在诞生前就已经被概念化,被谨慎思考过了。每一个新的创造都是为了满足需求,实现目的,成为有用的东西。
我们的价值观决定了技术,也决定了发明者所期望的,未来用户所持有的价值观。虽然用户的实际价值将决定技术的使用方式。但事实上,基于我们的价值观所以技术才存在,两者不可分割。

2、决策揭示价值

每一个决策和选择过程都会揭示我们的价值观。每当我们把某个选项设成默认,或选择性地显示或隐藏一些信息时,我们就已经做出了价值判断。把所有的东西都平等地展示出来,这是不可能的,因此总会有偏差。(看看这篇文章先举出哪一方的观点呢?)
让“立即购买”按钮占满屏幕,用晦涩的语言写下条款和条件,在品牌识别中使用红色而不是蓝色,这些都是反映价值观的决策。但仅仅因为它们反映了价值观,并不意味着人们会认同或分享这些价值观。

3、不是所有价值都是可见的

有时,价值是非常明确的,比如在产品上贴上“绿色环保”或“需家长指导”的标签。无论你是否使用手机上的密码功能,它显然是为安全而设计的。为什么你的遥控器上有一个EPG按钮,你可能不明白,但它的存在肯定是有原因的,而这个原因反映了设计师的价值观(或者设计师预期中的用户的价值观)。

图片

© eCRATER

无论人们是否能识别出这些价值,并不意味着这些价值不存在。反过来想一想外星人在太空中发现一把刀的这个情景:假设我们发现了一个漂浮在太空中的外星装置,这个东西显然是经过设计的,而不是自然产生的陨石。除了想知道是谁建造的,我们肯定会对它是什么以及它的用途非常感兴趣。
如果我们不能理解设计它的外星大脑,那么要找到它的目的将非常困难。但技术的发明一定是有原因的,而这个原因暗示了价值。

4、有限的使用范围

技术是有方向的。它增加了我们的选择,或者让我们更靠近某个特定的方向。
枪支可能有很多不同的用途。我们甚至可以将其用作镇纸或门挡。但我们大多数人都知道,这不是我们发明枪的原因。枪支是为特定的目的而开发的,我们一般也是按照这个目的来使用的。

图片

© Imgur

枪的用途并不是无限的。我们不能用枪来开车或看电影。某些用途虽说是可以实现的,但却不理想。也许你可以用枪来切洋葱,但刀会更好。
有限的理想用途范围表明了发明者的价值观所在。枪擅长杀人或在某些东西上打洞。如果你需要从远处刺穿东西,你会先选枪,而不是门挡,除非你的挡板是一把枪。

5、最终技术框定了现实

“我们成为我们所看到的东西,我们塑造工具,此后工具又塑造我们。”
—— 马歇尔·麦克卢汉(Marshall McLuhan)
一项技术出现的时间越长,传播的范围越广,人们对它的关注就越少,它就越有可能融入我们生活的背景,变得不足为奇,进而成为我们谈论现状时的常态。
当我们太习惯于现状时,就需要付出更大的努力,才能看到其他可能性。当我们太习惯于某事时,就需要更有创造力的头脑才能从别的角度来看待它。
以下是与此论点相关的两条研究方向:
功能固着(Functional fixedness,功能固着是指人把某种功能赋予某种物体的倾向,认定原有的用途就不会再去考虑其他方面的作用——译者注),这凸显了人们在另辟蹊径时遇到的困难。此外,定势效应(Einstellung effect)描述了当我们已经学会用一种方法解决这个问题,那么我们将很难意识到其实有更好的方法。
上述两种理论都表明,我们都会陷入一种特定的思维框架。我们经过努力学习,然后我们所学的东西就变成了自动的、僵化的。这并不是说我们不能进行创造性的思考,打破常规,但随着工具及其用途变得越来越常见和熟悉,从不同的角度看待它们就变得越来越困难。
总结:
技术由人创造,为人服务。我们的价值观决定了我们创造的东西以及其用途。即使用途不完全和最初的设计意图相吻合,也不会相差太远。虽然人可以创造性地使用科技,超越其设计意图,但总有那么一些功能,表明了这项技术最初的目的,因此也表明了其价值观。随着时间的推移和人们对它越来越了解,这项技术及其功能也就变得愈发根深蒂固,以至于人们几乎不会去思考,更不用说质疑了。
图片
责任的负担
我们不是无助的技术奴隶,我们是决策者,我们珍视自己的选择自由。然而,人们往往做出了糟糕的决定,却不知道有某些因素在影响自己。
虽然每个人都可以决定如何使用某些技术,但在集体层面上,技术将我们推向了非价值中立的方向。
如果我们认为技术是中性的,那么当技术改变世界时,我们就不能去指责技术的发明者。那么问题来了,有没有公司或个人因为他们的发明而受到了赞扬呢?为什么发明者只能接受赞美,而不能接受批评呢?如果我们认同这个观点,技术发明者既不需要赞美,也不需要批评。那么,他们的作用到底是什么呢?
1986年,罗伯特·J·希勒(Robert J. Welchel)在《IEEE技术与社会》(IEEE一般指电气与电子工程师协会,简称IEEE。——译者注)杂志上写道:

“这种道德中立的基础是将技术纯粹视为一种手段(提供工具供社会使用),其目的(技术的实际用途)则在工程领域之外;这一立场还假设,可用的手段对所做出的结果没有因果影响。如果技术真的只是一种手段,那么工程就是一个二等职业,因为我们只是力量手中的一枚棋子。我们的清白索价斐然:要想无辜,我们就必须无能为力。

(ieeexplore.ieee.org/document/5010049)
认定创造者难辞其罪,技术有相应的价值观,这并不会让我们更容易弄清哪些技术体现了良好的价值。为此,我们必须就什么价值观是好的达成一致,并为违反这些价值观的行为设定一个标准,然后我们才能决定如何应对这些违反行为。
这个问题的难点在于我们无法预测未来。如果没有设计师、发明者或公司,能够预测他们所建造的东西的所有未来收益和成本,他们怎么可能确保他们把良好的价值观设计进了技术里呢?
但这是一个古老的哲学问题:如果我们永远无法预知自己行为所有的后果,那么我们又如何分辨好坏呢?既然这个问题并不能阻止我们在生活的其他方面做出道德选择,那凭什么在谈到技术的时候可以呢? 
我们必须利用现有的信息,找到最好的解释或预测。如果我们关注不同的技术是如何发展的,尤其是它们的后果,我们就能从错误中吸取教训,做出更好的决定。

 

图片

© Pinterest
我们目前的生活方式与技术紧密交织在一起,它们可以被认为是一体的。如果我们觉得可以倒退回去,并解开我们的生活与技术的联系,这似乎过于荒谬了。但我们可以更加小心地将未来的技术融入到我们的生活中。
这一点很重要,因为未来的技术可能比今天的技术更强大,影响更深远。当人工智能做出自己的道德选择时,继续坚持技术中立将毫无意义,而且这也将使我们的价值观变得更加重要。

内容来源:维利坦

作者 aiforum

发表评论

您的电子邮箱地址不会被公开。 必填项已用*标注