王小伟:日常的深处,重归人与技术的和谐关系

|科技向善 作者:腾讯研究院 2024-02-21

2024 年 1 月 24 日,由腾讯研究院和腾讯可持续社会价值事业部主办的“2024 腾讯科技向善创新节”顺利进行。活动以“相变”为主题,包含主题演讲、圆桌论坛、在线研讨、线下展览、辩论赛等形式,探讨 AI 技术与行业变革、技术社会、科技艺术、城市发展、个人成长等议题。

在本次活动上,中国人民大学哲学院副教授、《日常的深处》作者王小伟进行了以《日常的深处:重归人与技术的和谐关系》为主题的分享。

以下为分享全文:

在日常生活中,人与技术的关系逐渐成了不可回避的话题。我们生活在一个充满技术的空间。手机、电脑、电子手表等装置每个人几乎要随身携带。这些物件看似小巧,但他们只是一个庞然大物的触角。个人网络电子用品是靠着深埋在大洋下面的线缆,掩藏在大山深处的数据库构成的。每一秒都在消耗巨大的电力。今天,随着人工智能技术的大发展,人们开始在日常生活中谈论机器人,ChatGPT,元宇宙,量子计算机等时髦的话题。坦率说,我们每个人都切身感觉到技术对自己的影响,甚至是挟持。在这种情况下,就有必要去思考人和技术之间的关系究竟是什么。

当我们想到技术时,最直接的看法是技术是一种中立的工具,可以被用于善或恶的目的。就像是一把刀,既可以用来做菜也可以用来伤人。美国步枪协会有句话叫:不是枪杀人,是人杀人。堪称是技术中立论的一个响亮的表达。我们很多人的直觉,不管你是工程师还是普通的消费者,大都觉得技术本身无非就是一种工具。也就是说,人来设定目标,然后使用技术去实现这些目标。在这里,人是工具的主人,是可以随意操纵工具。

但实际上,在哲学史上,许多知名的哲学家都讨论过技术反过来影响人的情况。比如,边沁讨论过环形监狱,也叫全景监狱对人的影响。监狱的牢房呈环型,中间布置有岗哨,造成一种对所有人进行监视的态势,使人人都变得老实守序。福柯讨论过学校对人的驯化。福柯将学校视为纪律正常化和内化的场所,学校创建了符合社会规范和期望的“驯服之身”。拉图尔的行动者网络理论,将人和物都视为行动者,它们相互构建行动。例如,一个酒店里,如果客人总是忘记还钥匙,无论如何提醒效果都不佳,最有效的办法是在钥匙上装一个巨大的钥匙链。因为它笨重难以随身携带,就会促使人们将其归还。行为心理学家斯金纳则干脆动手操作,做了一个小白鼠实验,设计了特殊的鼠笼装置,通过糖水和电击的方式来塑造小白鼠的行为。他甚至发明了一个儿童襁褓,就是包孩子的包裹,这个包裹可以通过物质性的刺激,来使婴儿更加听话,但也遭到了不少抵制。很多人认为这样会伤害人的尊严。

其实生活中,大家都对技术反过来对人的影响有直接的生命体验。据说,光绪6年, 俄国皇太子送给李鸿章一把金质的手枪。他非常喜欢这个礼物,随身携带, 一天到野外,就忍不住拿出来开两枪。猛一抬头,看到万籁俱静,远处的村庄炊烟袅袅,不忍打破这种平静。才幡然醒悟,把枪收了起来。说了句:“身怀利器,杀心自起,慎而重之”。可见,技术也在塑造人。

看到技术对人的影响如此突出,荷兰哲学家汉森·阿赫特豪斯在九十年代就提出了“道德物化”一词,即moralizing technology,认为人的道德行动也不是人能全部主导的。你做好事还是坏事也受到技术的影响。提出这一概念的背景源自荷兰国内关于可持续发展的大辩论。荷兰的英文名字不是The Holland,而叫The Netherlands,翻译过来是“低地之国”,在海平面下面,公众对环境危机非常敏感。随着生活方式的转变,荷兰人乘飞机和火车旅行的人数逐年激增,交通污染严重,这引起了广泛的生态忧虑。有人甚至提议政府限制国民去度假,这进而掀起了一场环保大讨论。从官员学者到商人群众,人人都加入其中,讨论异常热烈。荷兰交通组织调查发现,度假人数不减反增。阿赫特豪斯指出,不能仅仅通过口头唱高调来解决问题,我们还需要回到人们所处的物质情境中去分析人的道德处境。要去观察日常生活中的各种物质情境是否特别有利于我们做出某些符合道德的行动。遗憾的是,阿赫特豪斯没有进一步发展起来具体分析技术如何影响道德的理论工具。这一工作要等到他的学生维贝克来完成。

 

人和技术的关系

一个后现象学思路

维贝克转向了美国技术哲学家唐·伊德(Don Ihde)寻找理论工具,来描述技术如何调节道德决策。伊德系统地提出了后现象学的技术哲学,用以细腻分析人与物之间的关系。他的核心观点认为,当代人的生活几乎在所有方面都受到技术的调节,我们的知觉并非与世界直接相通,而是时时刻刻受到技术的调节和改造。伊德用伊甸园的例子来类比:在伊甸园中的人是赤身裸体的,他/她的知觉与这个世界直接相通,用眼、耳、口、鼻直接去体验这个世界。后来人偷吃了智慧树上的果实,突然有了羞耻心,用无花果树的叶子做成衣服。因此,衣服成为了人类历史上第一件技术制品。在今天这个深度科技化的时代,我们戴着眼镜、用着手机、开着汽车、穿着化纤衣服,生活在由燃气和暖气管道构成的复杂现代建筑中。一个现代人的知觉实际上完全是被技术调节和构建的,我们几乎已经忘记了身体直接与世界相通时的感受。

伊德将人与技术的关系归纳为四种。第一种是背景关系,例如空调、暖气等在背景中发挥功能,它们在调节我们的知觉。在一间暖气房间里,你看窗外的白雪,会将其知觉为一种风景;但如果你坐在旷野中,身体直接与寒冷的气候相通,冬天将以一个非常凛冽、肃杀的形象呈现在你的知觉里。第二种是具身关系,例如眼镜,它成为我们视力的延伸,通常是透明的,我们几乎意识不到它的存在。第三种是诠释关系,比如说我们想知道外面的天气情况,就会查看温度计或智能手表。人体其实感觉不到21度和22度的差别,但在温度计上可以清晰呈现。因此,温度本身作为一种体感的知觉,被转化成了一种视觉的知觉。最后一种是他异关系,这种关系指的是技术本身变成了一个类似人类,但不完全是人的“他者”。例如,当你面对一个机器人时,这个机器人就作为一个对象出现,所以你会直接与它互动。伊德就针对这四种关系如何具体调节人的知觉,进行了详细阐述。

 

道德物化视野下人与技术的关系

保罗·维贝克继承了唐·伊德的后现象学分析框架,并进一步进行了伦理的转向。他探索了技术如何调节我们的道德经验。维贝克常以自己的日常经历为例,讨论最多的带着爱人进行超声检查例子。他认为,决定一对夫妇是否生下孩子这样的重大的道德决策,实际上是人和技术共同完成的。如果没有这项技术,我们就无法探查到孩子是否健康,从而没有道德抉择的空间。有了技术,我们能看到孩子是不是健康,自己才有所谓的道德抉择的可能。例如看到孩子有畸形,可能就要放弃分娩。

但这还不是最关键的,最关键的在于超声检查技术使得孩子从妈妈的附属变成了一个独立的对象。有了四维彩超技术,我们能看到孩子的脸、眼、鼻、嘴,感觉到他/她是一个活生生的人。即使孩子有缺陷,看到孩子的形象以后,我们也可能因其是鲜活的生命对象而选择不终止妊娠。在这里,技术不再只是一个简单的辅助工具,如果它是工具,我们发现孩子是残缺的,我们就要终止生育了。但是这里,这个技术从根本上改变了我们的初衷,显示出技术本身可能也有意向性。

延续这个思路,维贝克认为我们可以积极主动地将特定的价值和道德期望嵌入技术制品中。通过这些技术制品的布置、使用和流行使人们自觉或不自觉地按照道德期许行动。这就把技术哲学转向了一种设计哲学。维贝克自己曾经一直在荷兰特文特大学教授技术哲学和技术伦理课程,对理工院校学生的设计理念产生了深远的影响。由于他的杰出工作,现在成了阿姆斯特丹大学的校长。

在维贝克的早期工作中,他专注于荷兰国内的各种前沿设计知识,其中有一个叫“恒久设计”(Eternally Yours)尝试。这一理念源于环保设计运动。上面说过,荷兰政府极其关注环保问题,一直在尝试通过设计来减少碳排放。常见的思路是要求技术产品材料很环保,要能高效回收,控制生产过程的排放等等。但维贝克认为,要想充分把环保的价值嵌入到的技术中,光是以上考虑还不够。要完成这个任务,必须要对技术如何与人的知觉进行互动进行更细致微妙的分析。

设计师们注意到,即使产品材料环保且便于回收,产品的生命周期也常很短。我们在一个快消社会中,有些产品本身并未损坏,但因样式过时、显得破旧也会被淘汰。恒久设计探索了一种可能性,要让一些物品在使用过程中优雅地老去。例如,一个沙发,在使用和磨损中,其内部的图案可能逐渐涌现出来,呈现“历久弥新”的感觉。这个设计尝试让人感觉到产品本身具有生命力,它们与人的互动使得产品能够展现不同的状态。这个设计思路对维贝克产生了非常大的影响,他后来的工作就是试图去把各种各样的价值嵌入到这个技术人工物当中,透过对人和技术之间的互动,不单单是使用,来推动伦理实践。特别旗帜性地提出了道德物化的思路, 要把技术道德化。

 

道德物化思路的启发

道德物化的核心主张是,技术不是一个中立的工具,技术有意向性,带有某种倾向性。在人与技术的关系中,不再是主体随意使用工具这么简单,同时人的主体性也在时刻受到技术的影响和建构。因此,人与技术的关系严格来说是一种交互关系,甚至可以称之为交往关系,而不是简单的工具使用关系。既然人可以影响技术,技术也可以影响人,我们就可以将伦理价值嵌入到技术中,使用技术来促使人按照道德要求行动。这种思路促成了一个积极的科技伦理治理模式。

积极伦理学认为伦理不应被视为是技术的审查清单,用于监督控制、阻碍技术发展,伦理是构成良好产品的一部分。如果产品设计能够充分考虑重要价值,并将这些价值嵌入到技术中,产品就更容易被消费者接受。以荷兰推广智能电表为例:

2009年,欧盟推动了一项能源节约计划,要求成员国,包括荷兰,考虑实施智能电表。智能电表的优势在于能统计每户的用电量并回传至计算中心,从而优化电力需求和定价。然而,最初的强制推广在许多欧盟国家遭到抵制。智能电表每10秒钟收集一次数据,可能揭露如房间是否有人、看的是什么电视节目、甚至家中是否有孩子等隐私信息。即使改为每15分钟收集一次数据,依然能推断出许多家庭细节。直到2017年,大约有10%的消费者拒绝安装智能电表,2%家庭的智能电表被用户直接关闭了。

荷兰政府一直在调整策略,将智能电表的安装改为可选而非强制的,允许用户限制某些功能,电表内嵌了自选功能,例如不自动发送读数等。经过一系列努力,荷兰智能电表的安装率显著提高。这个例子说明,如果能从一开始就充分考虑隐私价值,并通过技术的功能和物质性将其融入产品中,产品会更易被接受。因此,伦理不应视为技术发展的审查清单,而是促进产品销售的重要因素。

 

注意重新思考

工程师和大众的角色

在道德物化的视野里,我们看到工程师正在经历一次华丽的转变。工程师在一定程度上成为了伦理治理的专家。在今天这个技术时代,我们身边接触最多的不仅是人,还有大量的技术制品。因此,伦理学从规范人与人之间的关系,拓展到了人与技术的关系上,因为人与人之间的联系也受到了技术的调节和中介。这赋予了工程技术人员一个非常特殊的地位。在前现代社会,技术制品一般都是一些非常普通的低技术产品,这些技术没有高度的自动化,也没有广泛连接起来形成一个复杂的技术系统。

那时候,技术以实现具体功能的单品形式出现。负责社会教化的人群和负责制造器物的实际上不是同一群人。比如说,在中国传统的儒家社会中,一个人要通过掌握众多儒家经典典籍来修身、齐家、治国、平天下,使自己成为能够辨别善恶的君子,同时对社会进行教化。一般的工匠在社会中并不负责这方面的工作。尽管工匠的工作也有一些伦理要求,比如巧传求故,物勒工名等等。但这都是对职业操守的要求,要求制造的东西要结实耐用,对大家负责。工程师并不被看成是伦理治理的专家。但现在就不同了,工程师成了伦理治理大师,技术中主动嵌入价值,人们生活在一个充满各种价值的物质情境中,自觉或不自觉地按照这些价值期望行动。

例如,汽车减速带的例子。如果我们认为安全驾驶是一个重要的价值——当然它的基础是生命权不可以被任意剥夺——我们会发现无论在路口怎样设置提示牌,其效果都不如安装一个汽车减速带。因此,设计、制造、布置减速带的工程师实际上直接参与到了社会的伦理治理中。减速带的例子很容易理解,但当下的技术情境要远比这复杂得多。比如,一些工程师在设计特定应用时,可能连自己都不知道算法可能带来偏见。这些工程师实际上没有具备充分的价值敏感性。从道德物化的角度来看,在一个技术成为日常的时代,工程师具备一种责任,他/她应该意识到自己不再仅仅是一个工程人员,同时也是一个伦理治理人员,他们有责任对技术内部可能嵌入的价值偏见进行充分的考虑和反思。

同时,道德物化也提示我们平常人要审视自己的日常生活,走入日常的深处。在技术成为日常的时代,我们要注意到身边的技术物质情境是充满价值的,我们的决策会在不知不觉中受到物质情境的影响,我们今天都普遍感受到自己被手机所重塑:我们的注意力和思维越来越碎片化,这加剧了对短平快的偏激言论的兴趣,信息茧房则进一步使每个人的观点越来越偏激。这对我们的伦理生活正在产生非常深刻的影响。普通人在当下的技术时代需要具备一种技术德性,理解身边的技术不再仅仅是中立的工具,而是一个价值场域。我们应该对每一项技术保持充分的价值敏感性。

未来,要将什么样的价值嵌入到技术中,必须在一个开放的领域中,由不同利益相关者共同谋划和思考,这必然走向一种对技术的开放伦理治理。近来,不少哲学家和人类学家都在提倡人的本质不仅是智人(Homo Sapien),而是劳动人(Homo Faber),我把它称为技术人。人是一种技术性的动物,这是我们的本质,假如我们有本质的话。今天,技术更是成为了我们的日常。现代人的核心任务是走进日常的深处,细心理解技术对生活的深刻影响,重建一种和谐的人与技术的关系。

                                                   《日常的深处》,作者王小伟
(本文作者:王小伟 中国人民大学哲学院副教授、《日常的深处》作者)
前沿杂志
互联网前沿61

2022年,从引爆AI作画领域的DALL-E 2、Stable Diffusion等AI模型,到以ChatGPT为代表的接近人类水平的对话机器人,AIGC不断刷爆网络,其强大的内容生成能力给人们带来了巨大的震撼。

2023-05-12

全站精选