董洁林:不成为「作恶工具」是科技公司的底线

|最新成果 作者:腾讯研究院 1980-12-16

【科技向善大咖说·第十一期】

董洁林

清华大学技术创新研究中心兼职教授和学术委员、清华大学中国科技政策研究中心兼职研究员,担任《华尔街日报》等多家国际财经媒体专栏作家,以及几家科技公司的董事会成员。主要研究方向是科技创新史和企业创新方法论,著有《人类科技创新简史:欲望的力量》。

 

作为诸多科技史作品之一,董洁林老师的大部头著作《人类科技创新简史》不仅严谨且生动,以马斯洛需求金字塔为框架,角度新颖地重新讲述了人类科技创新的漫长旅程;而且,更有价值的是,相比其他同类著作,她浓墨重彩、详尽又客观地描述和解释了中国科技创新发展的历程、与其他国家的对比、在全球科技创新版图中的地位等等;此外,对于一些经典命题与新近的热点问题,比如著名的李约瑟之谜、人工智能技术的现状与下一步的可能性,都给出了自己清晰有力的回答。 

相比以色列历史学家尤瓦尔教授著名的《人类简史》、《今日简史》、《未来简史》三部曲,董洁林老师在书中虽然得出不少跟尤瓦尔相同的结论,比如农业革命对人类的影响等等,但这本书更加扎实的推论、更加平和的讲述,让读者得以从尤瓦尔教授敲响的惊悚的警钟当中平静下来,更理性、建设性地理解科技发展的内外因素、潜在影响,从而更明智地采取行动。近期,董洁林老师从人类科技创新整个大历史背景的角度,跟腾讯研究院分享了她对于科技向善的理解与建议。

 

腾讯研究院:全球范围来看,您认为互联网发展至今最大的成就是什么?最大的问题又是什么?

董洁林:我觉得在过去二十年,互联网最大的成就就是推动了全球化。互联网使全世界真正成为一个Global Village(地球村),全世界的人都得以联通起来,不同的语言和文化能够实现交流、互通,从而达成商业、文化等方方面面的合作。 

而最大的问题在于,互联网在让人连接远方的同时,下意识地忽略了身边与当下的人与事。我觉得无论是互联网时代还是移动互联网时代,所有的产品都有一个共性,就是它会让你非常方便地跟遥远的人建立连接。但是人的时间也好,注意力也好,都是极为有限的,最后就变成一种「零和游戏」,在这种情况下,你就会忽略身边的人以及现实生活中更重要的事。人们不能再像传统社会那样,跟身边的人建立和维系亲密关系,最后造成整个社会交往模式的一种改变。

人类的社会性驱动人与人之间建立关系,久而久之,人们在生理上也形成了期望彼此建立深度连接的需求。但现在,你有了一个工具,它可以辅助你与远方的人建立起关系,如果这种技术与生理需求的互悖,就会使人的内心产生一种强烈的冲突感,从而可能引发集体心理层面的问题。

我不知道在技术方面,是否可以设计一类产品或游戏,让人们与身边的人能够进行更多、更亲密的互动。要知道,有很多人,特别是自制力不是特别强的人,他的需求会被一些外部工具比如手机APP带着跑,他就会缺少主动性去聆听身边的人、关注附近的事物。如果互联网公司能够理解这些问题,在设计产品时以一种比较平衡的状态去处理,我觉得会是一种很好的「向善」。

 

腾讯研究院:您认为互联网信息技术革命给社会带来的影响,与工业革命相比,有哪些不同?未来又会有什么趋势?

董洁林:未来二十年,信息技术领域的重要趋势是AI与机器人会越来越普及,这两种事物实际上是过去几十年自动化趋势发展的一个延续。

但人工智能发展速度会渐趋缓慢,因为它现在有很多技术难题无法攻克,因此陷入发展瓶颈期,不会出现如尤瓦尔教授所预言的快速突破并导致社会激进变化的情况。同时,成本过高也是问题之一,我一直觉得人是上帝创造的一个最智能且性价比最高的计算机,以现在的人工智能水平想要在很多事情上取代人的话,计算量很大,成本极高。 

机器人的广泛运用,使每个工厂需要的人员越来越少,这一趋势对社会发展会产生比较大的影响。尤其是在全球分工方面,它会让发展中国家的低成本优势变得越来越没有意义,而资本家在全球各地寻求最便宜劳动力的游戏也会趋于终结。全球供应链布局因此受到影响,一些供应链会从发展中国家回流到发达国家去。

 

腾讯研究院:你写作了整整一部专著,关于人类科技创新的历史,想知道,如果放在人类科技创新的大背景中,您会如何看待目前这一轮数字化技术?如何看待科技向善?

董洁林:从科技史的角度看,一项科技不仅带来近期效应,其很多影响往往是远期的,有点像蝴蝶效应一样,非常难以预测。科技的发明,往往是为了解决一些当下的问题,满足一些暂时的需求。至少在发明之初,它看上去都是向善的,如果不是,那会很容易被淘汰。但要知道,它所带来的问题可能发生在远方,在未来的某时某刻挖了一个坑,而你在此时此刻未必就能看得清楚。对科技长期效应的关注是意在「科技向善」的科技公司需要特别考虑的。

 

腾讯研究院:您觉得科技向善可以成为互联网公司的商业竞争力吗?

董洁林:我觉得互联网公司存在的前提与价值,就是通过设计、发布一些产品,来挖掘以及满足人和社会的需求。长久以来,互联网公司做了许多新鲜的尝试来探索人的不同需求,这些探索会把社会和人的行为推向一个特定的方向。这个新方向可能很好,但很多时候会事与愿违,出现很多问题,而解决这些问题实际上会变成新的商业契机。

「科技向善」不能为了「善」而「善」,而是应该具备一种洞察力,去洞察社会问题和潜在的需求,从而抓住下一步创新的机会,在「向善」的同时,创造商业价值。只有这样,「科技向善」才具有可持续的生命力。

科技本身肯定是有一定公益性的,但如果是把「科技向善」纯粹当成一种花钱的公益行为,我觉得会很难成功,因为它难以持续。

 

腾讯研究院:从人类整体的角度,您觉得就科技发展本身而言,存在一个共识或共有的价值观吗?

董洁林:我想共识肯定是会有的,但不同地区可能稍微有些不一样,比如美国、中国就会有一些文化差异,但有一些基本的东西应该是在的。

互联网界的人喜欢谈论公平、普惠这些价值观,但我觉得这些价值观有一点乌托邦的意味。一个公司在做产品的时候,大概较难把这些价值观实现出来,而效率类指标比较容易追求。互联网几十年下来,我并不认为互联网给社会的公平普惠带来根本改善。但无论在美国还是在中国,某些底线原则是共有的,比如不能做一些科技让一个群体去侵犯、伤害另一个群体等。这未必是核心价值观,但至少是必须坚守的底线——互联网公司不能成为某些人作恶的工具,这是底线。

 

腾讯研究院:您觉得我们从工业社会进入数字社会,会出现或者需要有一套新的价值观吗?还是会延续之前的?

董洁林:即便是西方社会现在的价值观,实际上也是从英国工业革命、法国启蒙运动、美国建国这么一路走过来慢慢形成的。互联网发展起来后,并没有改变这些基本价值观,但同时也形成了一些新的、较为特别的价值观,比如开源和共享,其核心要义是让信息和知识属于全人类,而非成为少数人的特权。

 

腾讯研究院:如果从科技公司到全社会,都推行科技向善的话,您觉得最大的阻碍会是什么?

董洁林:我觉得对一家公司来说,赚钱肯定是决策时一个最重要的逻辑。在这样的逻辑主导下,如果「科技向善」这样的追求与赚钱存在抵触的话,公司上上下下的选择可能就是会倾向于赚钱,而放弃「向善」的价值观。

其实越大的公司选择机会就会越少,因为公司的规模大到一定程度,成长空间非常饱和,很容易陷入到增长困境中,比如最近Facebook就为了商业利益,做了一些可能跨越底线的事情。但正如我刚才说的,如果有人具有非凡的洞察力,能够发现社会问题并进行创新,那么科技向善可能恰恰成为企业最重要的商业竞争力。

(以上内容为【科技向善 · 大咖说】精简版,完整版本请期待《科技向善白皮书2020》)

前沿杂志
互联网前沿61

2022年,从引爆AI作画领域的DALL-E 2、Stable Diffusion等AI模型,到以ChatGPT为代表的接近人类水平的对话机器人,AIGC不断刷爆网络,其强大的内容生成能力给人们带来了巨大的震撼。

2023-05-12

全站精选