对话丁元竹|透视ChatGPT时代工作、教育与社会的未来

|业界动态 作者:腾讯研究院 2023-05-30
对话人:

丁元竹  十三届全国政协文化文史和学习委员会委员,中共中央党校(国家行政学院)教授 (以下简称 “D”

牛福莲  腾讯研究院高级研究员(以下简称 “T”

本文作者:

牛福莲  腾讯研究院高级研究员

 

前言

对于ChatGPT及各类前沿科技创新,作为社会学和人类学领域的研究学者丁元竹教授时刻保持着高度关注与好奇,并将相关思考和洞察融入到他的研究和教学之中。

“在给学生上课的时候,我会想,有了ChatGPT这种新型知识生产工具之后,学生们可能不再需要一篇篇去找文献,很多内容似乎也不太需要老师们在课堂上一点点的教。接踵而来的是,我们的教学方式是不是也要做相应改变?是不是可因此省出大量时间去更注重观点、思路等方面的创新,以及实地研究基础上的思考及提问?”

对于技术进步与未来社会的关系,在丁老师看来,科学技术水平越高并不等同于人类文明程度就越高。技术并没有好坏之分,有好坏之分的是人类的社会组织形态和如何使用技术。“历史上曾出现过这样的现象:技术被人们善意运用,却产生了危害人类生存的后果。比如原子能技术可以为人类带来清洁能源,也可能因发生泄漏危机人类生命安全。”

“相比当前人们对ChatGPT未来的风险讨论,少有人讨论的是:如果科学技术不发展,人类会面临怎样的种种弊端。”丁老师认为,纵观历史,每一次产业革命发生和人类福祉改善,背后都有技术创新推动。眼下,问题或许不是机器人是否取代人类,而是人类如何做好与机器人合作、协同的准备。任何一次技术变革固然会替代某个领域中的工作,但一定又会在另外一个领域创造出大量新的工作岗位。并同时在教育领域创造出大量专业和学科。“现有的教育模式基本是在工业革命进程中形成的,规模化和标准化是其基本特征;信息技术创新带来的产业变革将造就什么样的教育模式,还有待于观察,但我们要未雨绸缪。”

除了关心AI对人类社会发展的影响,丁老师也在讨论中提出了另外一个重要的议题:科学家和技术工作者的人文情怀问题。“面对人工智能迅速和意想不到的发展,科学家和技术人员必须考量人类的基本价值要求,坚守造福人类的人工智能系统底线,以避免自我放纵带来的灾难。”

 

下面是对话全文。

 

AI与人类文明:在技术进步中探索和谐共存

 

T:关于人类和AI的关系,从技术诞生之初争议似乎就没有停止过。也有不少业内大佬呼吁暂停开发更强大的AI系统,提出它可能会对“社会和人类构成潜在风险”。您作为一名社会学者,从历史发展的角度,怎么看待AI与社会、人类的关系?如何看待技术创新与文明之间的关系?

D:长期以来,人们存在着一种误解,认为科学技术等同于人类文明,即科学技术水平越高,人类文明程度就越高。一般说来,科学技术没有好坏之分,有好坏之分的是人类的社会组织形态和如何使用技术,原子能技术可以为人类带来清洁能源,也可能因发生泄漏危机人类生命安全;原子弹既可以对那些试图用核武器威协人类的战争狂人形成制约,也可能会因个别战争狂人的丧心病狂导致人类毁灭或终结人类文明。历史上曾出现过这样的现象:技术被人们善意运用,却产生了危害人类生存的后果。科学技术进入到一种文明,谁是最大赢家,需要长期观察。恩格斯曾经说过,我们对自然界的每一个胜利,自然界都报复了我们。当前,面对ChatGPT,人们讨论它未来风险较多,很少有人讨论如果科学技术不发展,人类会面临怎样的种种弊端。

 

对当前关于ChatGPT风险的各种讨论、争论不必过于在意,更不可如临大敌。与机器文明比较,例如硅基人类文明,人类文明更多表现在自己更具有创造力。如即兴创作、随机应变、经验评判,等等,这些都是人工智能不可比拟的,人工智能可以帮助人类提高自己的洞察力、分析能力和直觉能力。机器人需要从人类那里学习更有人性和更具同理心的习惯和行为,这些习惯和行为需要人类去训练。在这个问题上,弗朗西斯·培根(Francis Bacon)考虑得比较清楚:必须将新的发明和财富赋予人类生活。人类与机器人有效结合、协同行动、重构业务,和工作流程是人工智能时代的文明发展的重要内容。眼下,问题不是机器人是否取代人类,而是人类如何做好与机器人合作、协同的准备。

 

AI与未来就业:挑战、机遇与教育改革

 

TChatGPT的出现,让我们看到AI等数字技术对大家工作生活的影响越来越大。当前大家讨论较多的话题之一就是它对工作就业的替代及影响。您如何看待未来很多工作可能被ChatGPT抢走的风险?我们是否应有一些应对的方法,来减少其对劳动者的潜在负面影响?

D:到目前为止,讨论人工智能对人类就业影响的多是技术专家、工程师。有人说,机器人可能会带来大规模人类失业,会大规模排挤人类劳动力,这在一定程度上造成了社会恐慌,尤其是个别自媒体,针对家长关注的教育问题发表了大量观点,但深入分析对教育影响的视频很少。

 

面对人工智能迅速发展,人类需要深入研究由于机器人出现可能在哪些领域带来越来越多的新就业岗位,和在哪些领域失去就业岗位,哲学需要深入研究,不能以偏概全。毫无疑问,人工智能会替代人类大量体力和部分脑力劳动,人类也由此有更多时间乐享其成,享受生活,提升生活品质。技术发明依赖于天赋,技术应用则依赖于使用者的价值选择。要坚信,市场、政府、社会以及它们的合理组合是有能力解决人类发展中的种种难题的。

人工智能不可能造成人类大规模失业,因为机器人本身需要人类设计、制造、维护和管理,等等。机器人技术的广泛应用必定会提高生产效率,改善产品质量,降低生产成本,大大提高经济效益,创造更多就业机会。在这个意义上,人工智能发展和应用对人类的影响是复杂的,某些方面可能导致某些人失业,另外一些领域会创造新的就业机会。眼下需要做的是,关注机器人技术发展趋势,积极应对机器人技术带来的机遇和挑战,推动人类社会健康发展。

大语言模型训练需要增加人类具有的共情能力等内容,这已经涉及到教育体制的改革。具有同理心、共情的人工智能机器人训练需要大量培训懂得共情知识的专业人员参与。ChatGPT不仅是大语言模型,也应当成为具有独立性和感情的机器人模型,对它的训练需要大量的培训人员、专业人员,例如心理学、社会工作,以及人文社会科学人才。这里,已经回答了人们经常谈论的一个问题:技术上的任何一次变革都不可能造成人类大规模失业,新技术会替代某个领域中的工作,但在另外一个领域又会创造出大量新的工作岗位。在教育领域也将创造出大量专业和学科。纵观历史,因出现新技术而引发的争论,一方面是人们不习惯;另一方面,它触及到了人们现有的利益格局。

TChatGPT让我们看到,人工智能生成内容(AIGC)类的人工智能技术将对知识的定义、知识的生产方式以及技术人员的地位产生巨大影响。您是一名社会学者,同时也是一名教育工作者,您认为我们该如何应对ChatGPT可能对当前教育制度和知识生产方式造成的挑战?

D:习近平总书记指出,“当前,新一轮科技革命和产业变革突飞猛进,学科交叉融合不断发展,科学研究范式发生深刻变革,科学技术和经济社会发展加速渗透融合,基础研究转化周期明显缩短,国际科技竞争向基础前沿前移。应对国际科技竞争、实现高水平自立自强,推动构建新发展格局、实现高质量发展,迫切需要我们加强基础研究,从源头和底层解决关键技术问题。”在这段论述中,习近平总书记提出了“科学研究范式发生深刻变革”,他为哲学、人文社会科学理论在未来的发展指明了方向。

 

一是不久的将来,随着沉浸式技术的发展和成熟,在虚拟世界里将为人类提供与物理现实大致相同的生活,也可能产生虚拟现实超越物理现实的效果,这取决于虚拟技术的发展情况,包括隐形眼镜、视网膜植入或脑部器件植入等,这些技术的创新是可以预见的。哲学、人文社会科学要基于智慧生态的发展考虑适合技术革命的学科建设、方法创新。

二是学术研究会发生革命性变革,学者凭借虚拟现实头显、人工智能算法与算力对整个社会和人类行为进行合理模拟,新的哲学和人文社会科学将迭代和颠覆传统的研究范式,知识生产方式将发生革命性变革。

 

技术迭代与财富分配:赢者通吃现象与共同富裕目标

 

T:“ChatGPT之父”Sam Altman曾在社交媒体上表示,一个全新的摩尔定律可能很快就会出现,全球人工智能运算量每隔18个月或翻一番。并预计这场新的AI革命可能将创造惊人的财富。未来ChatGPT在生产领域应用会不会产生新的财富分配方式?AI是否会拉大全社会的贫富差距?

D:网络环境下,社会财富会出现赢者通吃现象,同时会促进共享经济迅速发展。纵观颠覆性技术的发展历史,一个领域的主导者从来无法在下一个时代的平台上继续称雄。信息技术进步服从摩尔定律,尽管是一个经验定律,通常实体产业不具备这样的特点。IBM依靠硬件获得了财富,新的赢家微软则以软件和操作系统开发出奇制胜,之后,谷歌发展出了搜索引擎,再后来,脸书以社交媒体迭代,ChatGPT是不是新的颠覆者,我们仍然需要拭目以待。

中国式现代化是全体人民共同富裕的现代化。对技术迭代或颠覆式发展造成赢者通吃这一问题需要加以关注,当前研究共同富裕,不仅要研究收入分配制度,更要研究技术本身的发展特点和规律,要关注网络效应。如前所述,互联网技术本身有颠覆式发展特点,那些在眼下看上去不起眼的小公司突然会在一个风口上被吹起来。而个别大型公司因为某些原因瞬间倒塌或者慢慢消失,造成财富在社会中的重新洗牌。在这个意义上,研究信息时代的财富问题,要跳出或超越传统的一次、二次、三次分配思考框架,基于现代技术发展特点和发展规律,尤其是互联网技术发展对人与人之间关系、社会结构深刻影响的特点和规律,探索财富在人和人之间,在社会网络之间和社会成员之间分配。

 

AI时代下的人文情怀与社会责任

 

T:关于ChatGPT的发展,您认为还有哪些值得讨论的有价值问题?

D:当前,要重视科学家和技术工作者的人文情怀问题。2016年,AlphaGo大战之后,AlphaGo退出了竞技,科技工作者们把自己的关注点转移到人类关切的一系列问题上,诸如医疗保健、气候变化、能源效率、语音生成和识别、计算机视觉,等等。ChatGPT的迅速发展,推动了语音生成和计算机视觉。通过各类媒介,人们已经注意到埃隆·里夫·马斯克(Elon Reeve Musk)对人工智能不受制约开发的关切,也有媒体说,OpenAI公司首席执行官山姆·奥特曼(Sam Altman)对ChatGPT未来的应用也表达了不安。从单体巨型计算机到智能进化这一进化历程的发展说明,面对技术进步,人类对机器可能产生的风险从来没有放弃担心和忧虑。

 

当前,ChatGPT这一强大工具的出现给科学家和技术人员提出了新的更高要求,从事科学技术的社会成员必须增强人文情怀,关注人类命运、人类福祉。在代码编辑、模态设计中考虑社会公平正义理念等要素,这些需要提上智慧社会建设的议事议程。科学家和技术人员必须考量人类的基本价值要求,坚守造福人类的人工智能系统底线,尽早考虑超级智能机器可能给人类带来的风险,确保人类永续发展,人类福祉不断提高,创造更强大的人类文明,在农业文明和工业文明基础上发展新的人类文明。科学家和技术人员必须承担起防止反人类群体和个人利用超级智能控制各类杀伤性武器,预防各种犯罪预谋。面对人工智能迅速和意想不到的发展,人类需要一场新文化运动重塑自己的理想和价值,提升自己的自主性、能动性,避免自我放纵带来的灾难。

 

欢迎关注“AI&Society腾研对话”栏目。本栏目致力于探讨ChatGPT 对人类和社会生活产生的种种影响。在这个平台上,我们将与各领域的专业人士进行深入访谈,从各个角度审视这一颠覆性技术带来的潜在改变。我们也希望引发更广泛的公共讨论,在加深对这一关键技术理解的同时,激发公众对 AI 技术合理应用与伦理界限的关注和探讨。

讨论话题涵盖但不限于:ChatGPT带来的技术创新与颠覆,AI在教育改革中的应用与发展、AI对工作与就业、伦理道德产生的影响,以及AI对信息安全带来的挑战、面对AI如何建立既符合AI发展又保护公众利益的政策与监管框架等等。

 

前沿杂志
互联网前沿61

2022年,从引爆AI作画领域的DALL-E 2、Stable Diffusion等AI模型,到以ChatGPT为代表的接近人类水平的对话机器人,AIGC不断刷爆网络,其强大的内容生成能力给人们带来了巨大的震撼。

2023-05-12

全站精选