“哲人席”第四十三期:中国社会科学院哲学所研究员段伟文演讲:算法生活的哲学分析与伦理构建

发布者:何熠发布时间:2018-09-27浏览次数:1086

2018年9月26日上午,中国社会科学院哲学所研究员段伟文教授作客“哲人席”,为我们带来了一场精彩的学术报告:“算法生活的哲学分析与伦理构建”。讲座由哲学与科学系主任夏保华教授主持,哲科系教师刘敏、张学义、黄婷、武小西等,南京高校部分青年教师及哲科系部分研究生出席了此次讲座。

当下,随着各种信用评分、内容推荐和量化自我等数据智能的普遍应用,通过智能算法干预和调节人的行为的算法生活成为一种新的生活形式。段伟文教授希望通过这次报告,揭示出基于算法的行为与生活调制背后的算法权力,反思其对人的自主性的限制、选择能力的剥夺以及未来可能性的操控,并在此基础上,透过以主体的能动性与算法权力的缠斗(agonism)这一算法生活时代的伦理政治策略,重建以凸显主体能动性为主旨的数据伦理,进而引入争胜性设计、均衡性调制等相应的伦理商谈与调适机制。

在报告中,段教授首先对目前“世界的数据化与解析社会”的时代背景进行了简要的阐述。“data”一词最早出现于杜威的《确定性的寻求》一书中,傅统先将“data”译为“素材”,而“数据”的译法是很晚之后才提出来的。那么“数据”其实就是关于世界描述的素材,所以从描述世界和刻画事实的角度来讲,“世界即数据”。当记录与存储技术的成本不断降低,数据的收集变得更加的方便,那么在这种情况下,数据成为世界某种事实的素材,数据在语境化、去语境化和再语境化的过程中便可理解为“数据即世界”。由此,“数据”也带来了诸多伦理的问题。从19世纪中叶以来,世界陷入一种控制的危机之中,由此统计学(亦称作“政治算术”)便成为应对人口管理、经济预测等各种问题的最重要的手段,这一阶段我们称其为“控制革命1.0”。20世纪60年代之后,个人计算机和互联网的逐渐兴起,赛博空间的理念形成,控制技术为人们所逆转,然而随后谷歌通过用户搜索数据的逆向使用掌握了大多数用户的“关心内容”,由此形成了对人们的“兴趣控制”,即“控制革命2.0”。个人的数据在与我们所接触的世界发生直接的关系,那么,我们的世界也就是一种所谓的“关联的世界”,具体表现为“政治算术与统计数据”、“生物数据与个人数据”、“行为数据的自动测量”和“基于传感器的组织与社会”。这种被“量化”的生活亦导致我们“解析生活的来临”。

报告的第二部分,段老师对“算法生活”与“算法权力”进行了论述。“算法”是为了解决特定的问题或做出某种选择或决定而通过机器执行的具有特定的认知与决策功能的一系列计算程序,其基础是计算能力和数据。算法在各个领域中的大规模应用使其影响日益普遍,正在对人们生活产生极大的影响力,例如保险费率的计算、机场的航班起降计划等。然而算法的应用也不尽是正面的效果,若是对算法的滥用便极易形成“数学杀伤性武器”。在社会生活与人的行为的普遍数据化的背景下,基于数据和算法的“事实”而进行的分析与决策,实质上会导致复杂性社会的反馈闭环,从而会塑造出以数据和算法指导生活的“计算人”。例如Cataphora 公司开发的员工评估模型、MIT 的社会物理学研究等。此处“算法权力”的主要表现为:评价、关注、分类、关联、过滤、预测、阻止。由此也引出了“算法生命的观念与实践”。第三部分,段老师对“算法生活时代的知识本体”进行了阐释。一方面,数据画像等对人的行为的刻画实质上是基于对过去的归纳、溯因和行为主义式的猜测;另一方面,所谓的智能算法对人的行为与生活的调制预设了对未来的提前干预。由此,主体及其“数据孪生”被纳入算法评价和算法决策框定的自我兑现的循环之中,成为哈金(Ian Hacking)所称的互动类(interactive kinds)。为了避免主体沦为智能算法所调制的“数据僵尸”(data zombie),可从算法生活中主体的能动性(agency)出发,揭示基于算法的行为与生活调制背后的算法权力,反思其对人的自主性的限制、选择能力的剥夺以及未来可能性的操控。最后,段老师对“算法生活时代的伦理构建”提出了自己的想法。首先,我们应对人工智能的拟主体性进行分析,划分出“人工智能体的拟主体性”和“数据智能中算法的拟主体性”。在此基础上,“以主体能动性为核心的智能体行动者网络分析”、“基于主体能动性的争胜性伦理设计与实践”以及“寻求能动性与数据权利的动态均衡机制”是段老师提出的三点解决方案。

现场提问环节中,段伟文教授同与会师生就算法权力和伦理构建问题进行了深入而热烈地交流。大家通过这次讲座受益良多,我们期待段老师下一次再来东南大学讲学。

  

(王一舟)