English Version
20236
本期话题
算法设计的伦理反思

以机器学习为代表的算法作为新一代人工智能的底层技术逻辑或核心驱动力已经引起了广泛关注。然而算法在实践应用中也被揭示出可能出现侵犯公众隐私、信息控制、算法偏见、歧视甚至危害公共安全等负面问题。有鉴于此,如何确保算法“向善”而不违背人类社会基本的伦理价值或道德原则,成为需要认真思考的重要问题。算法会产生怎样的伦理后果,一方面受到算法应用方式的影响,另一方面则可能源于算法自身的设计特征。正因如此,越来越多研究开始主张内嵌伦理或道德的算法设计,这也成为许多国家和国际机构发布的人工智能治理规范中的重要构成。然而,“伦理算法”或“道德算法”的构想固然吸引人,其能否实现则面临着许多挑战,例如人类伦理道德原则本身的内在张力,由此凸显出对算法设计的伦理问题进行审慎反思的重要性。

本专题的三篇论文从不同角度对这一问题进行回应。第一篇闫瑞峰的论文对算法设计所涉及的功利论、契约论、义务论与德性论四种伦理立场及其引发的治理争论进行了细致梳理,这为我们思考算法设计中的伦理争议提供了一个整体性框架。第二篇李大山的论文聚焦于自动驾驶中的道德两难问题,作者通过区分“一阶道德算法”与“高阶道德算法”,提出并论证了“自动驾驶无需高阶道德算法”这一命题,这对当前许多人呼吁的“道德算法”是一个很有意思的回应。第三篇张海柱的论文转向公共治理场景中的算法应用,作者通过对算法内在政治性的分析提出了“算法公共性”命题,并将算法公共性的实现诉诸于算法的参与式设计,从而在社会政治层面上对算法设计伦理问题进行了初步讨论。三篇论文角度各有侧重,观点立场也不尽相同,但均为我们反思算法设计中的伦理复杂性提供了有益借鉴。


本期目录
  • 算法设计伦理治理的立场、争论与对策
    <p>摘&nbsp;&nbsp; 要:算法伦理问题直接产生于算法设计实践,而算法设计的伦理问题源自不同算法设计者的伦理立场,是现实世界与技术界互动交融的结果。根据算法设计主体的差异化价值取向,可将相关伦理立场分为功利论、契约论、义务论、德性论等四大类型。算法设计的四种伦理立场在治理中极易导致四种特性鲜明的伦理倾向,即功利论下技治主义的弱正义性、契约论下规则主义的强形式公正性、义务论下规范主义的弱目的性以及德性论下自律主义的不可控性。算法设计的伦理治理应以构建负责人的多元主体参与的治理网络为指引,在实践中要遵守算法向善的基本价值立场,坚持公共善的核心伦理导向和负责人的可持续发展观,实现算法设计道德化的全流程覆盖并完善相关伦理治理体系。<br/>关键词:算法设计&nbsp; 伦理&nbsp; 立场&nbsp; 治理<br/><br/></p>
    作者: 闫瑞峰        
    卷期: 2023年第45卷第6期
    页码: 1-9
  • 自动驾驶无需高阶道德算法
    <p>摘 要:引入伦理学中的道德两难思想实验后,自动驾驶应植入何种道德算法引起了不少讨论。区分一阶道德算法与高阶道德算法将发现这些讨论建立在一个有待澄清的前提上。植入道德算法的目的是令自动驾驶成为驾驶专家,因而识别交通法规等一阶道德算法是必要的,关乎安全、效率与舒适;但功利主义等高阶道德算法会反噬驾驶专家,既不必要也不可行,况且“自动驾驶两难”在哲学上的思想深度没有超出“电车两难”。<br/>关键词:自动驾驶&nbsp; 道德两难&nbsp; 道德算法&nbsp; 高阶&nbsp; 驾驶专家<br/><br/></p>
    作者: 李大山        
    卷期: 2023年第45卷第6期
    页码: 10-17
  • 算法治理中的算法公共性及其实现
    <p>摘 要:随着公共事务治理场景中算法工具的广泛应用,算法治理逐渐成为公共管理或治理的新形态。算法治理以公共利益或公共价值的实现为根本目标。而基于技术政治视角的分析揭示了算法的政治性,它不仅可以被应用于实现特定政治意图,其本身的技术特性也会与特定政治价值相关联并产生社会政治影响。因此算法自身的公共性应当成为算法治理的重要基础。算法公共性包括算法的公益性、公开性与公平性三个方面,它们在现实治理实践中面临着异化风险。算法公共性的实现需要一种参与式设计的新理念,它强调通过算法设计过程中多元主体的广泛参与来实现社会整体价值的嵌入与算法技术发展方向的调整,从而使算法的技术属性更好地契合公共性价值。<br/>关键词:算法治理&nbsp; 算法公共性&nbsp; 技术政治&nbsp; 参与式设计<br/><br/></p>
    作者: 张海柱        
    卷期: 2023年第45卷第6期
    页码: 18-27
  • 吉布森的直接感知理论的缺陷及其修正
    <p>摘 要:吉布森的直接感知理论自提出以来,既受到许多赞许也遭到不少批判,批判主要集中于它的两个主张:个体可通过环境对视网膜的刺激而无需大脑对信息加工就能做出最直接的行为反应;个体通过可供性可直接从环境中拾取信息。由于感知理论无法摆脱心理预设,拾取概念也预设了环境中信息的不变性和直接性,忽视了环境和感知之间的协调作用以及语境对感知的意义决定功能。社会融合理论、理论-理论和建构主义视觉统计学习理论分别从个体需要考虑的限定因素和刺激引起感知判断的充分性等方面对其进行了修正,但这些修正并没有彻底解决该理论面临的困境。语境同一论用语境同一性修正感知理论,认为感知是主体的视觉和环境在语境中交互耦合的结果,并因此产生有意义的行动。<br/>关键词:吉布斯&nbsp; 直接感知&nbsp; 可供性&nbsp; 视觉刺激&nbsp; 语境同一性<br/><br/></p>
    作者: 魏屹东   刘华霞      
    卷期: 2023年第45卷第6期
    页码: 28-36
  • 休谟难题的融贯论解决方案
    <p>摘 要:归纳推理的基石“将来和过去相似”,可以从贝叶斯决策论找到一个理论的基础:尽管不同的主体对同一个事件的评估(即主观概率赋值)很可能是不同的,但是,为了避免陷入必输无疑的荷兰赌困境,就同一个主体而言,他/她在进行概率赋值时应当保持融贯,即有必要假定将来和过去是相似的。这个方案强调的是形式的分析,因此可能被批评缺乏对经验事实的关注。所以,我们提出了一个形式和内容并重的休谟难题的解决方案,并且进一步提出了一种新的归纳推理研究方法:基于证据的贝叶斯主义进路。<br/>关键词:休谟难题&nbsp; 融贯&nbsp; 证据<br/><br/></p>
    作者: 梁贤华        
    卷期: 2023年第45卷第6期
    页码: 37-44
加载更多
关于我们
© 2021 中国科学院大学版权所有 地址:北京市石景山区玉泉路19号(甲) 邮编:100049