以机器学习为代表的算法作为新一代人工智能的底层技术逻辑或核心驱动力已经引起了广泛关注。然而算法在实践应用中也被揭示出可能出现侵犯公众隐私、信息控制、算法偏见、歧视甚至危害公共安全等负面问题。有鉴于此，如何确保算法“向善”而不违背人类社会基本的伦理价值或道德原则，成为需要认真思考的重要问题。算法会产生怎样的伦理后果，一方面受到算法应用方式的影响，另一方面则可能源于算法自身的设计特征。正因如此，越来越多研究开始主张内嵌伦理或道德的算法设计，这也成为许多国家和国际机构发布的人工智能治理规范中的重要构成。然而，“伦理算法”或“道德算法”的构想固然吸引人，其能否实现则面临着许多挑战，例如人类伦理道德原则本身的内在张力，由此凸显出对算法设计的伦理问题进行审慎反思的重要性。
本专题的三篇论文从不同角度对这一问题进行回应。第一篇闫瑞峰的论文对算法设计所涉及的功利论、契约论、义务论与德性论四种伦理立场及其引发的治理争论进行了细致梳理，这为我们思考算法设计中的伦理争议提供了一个整体性框架。第二篇李大山的论文聚焦于自动驾驶中的道德两难问题，作者通过区分“一阶道德算法”与“高阶道德算法”，提出并论证了“自动驾驶无需高阶道德算法”这一命题，这对当前许多人呼吁的“道德算法”是一个很有意思的回应。第三篇张海柱的论文转向公共治理场景中的算法应用，作者通过对算法内在政治性的分析提出了“算法公共性”命题，并将算法公共性的实现诉诸于算法的参与式设计，从而在社会政治层面上对算法设计伦理问题进行了初步讨论。三篇论文角度各有侧重，观点立场也不尽相同，但均为我们反思算法设计中的伦理复杂性提供了有益借鉴。
摘 要：算法伦理问题直接产生于算法设计实践，而算法设计的伦理问题源自不同算法设计者的伦理立场，是现实世界与技术界互动交融的结果。根据算法设计主体的差异化价值取向，可将相关伦理立场分为功利论、契约论、义务论、德性论等四大类型。算法设计的四种伦理立场在治理中极易导致四种特性鲜明的伦理倾向，即功利论下技治主义的弱正义性、契约论下规则主义的强形式公正性、义务论下规范主义的弱目的性以及德性论下自律主义的不可控性。算法设计的伦理治理应以构建负责人的多元主体参与的治理网络为指引，在实践中要遵守算法向善的基本价值立场，坚持公共善的核心伦理导向和负责人的可持续发展观，实现算法设计道德化的全流程覆盖并完善相关伦理治理体系。
关键词：算法设计 伦理 立场 治理
摘 要：引入伦理学中的道德两难思想实验后，自动驾驶应植入何种道德算法引起了不少讨论。区分一阶道德算法与高阶道德算法将发现这些讨论建立在一个有待澄清的前提上。植入道德算法的目的是令自动驾驶成为驾驶专家，因而识别交通法规等一阶道德算法是必要的，关乎安全、效率与舒适；但功利主义等高阶道德算法会反噬驾驶专家，既不必要也不可行，况且“自动驾驶两难”在哲学上的思想深度没有超出“电车两难”。
关键词：自动驾驶 道德两难 道德算法 高阶 驾驶专家
摘 要：随着公共事务治理场景中算法工具的广泛应用，算法治理逐渐成为公共管理或治理的新形态。算法治理以公共利益或公共价值的实现为根本目标。而基于技术政治视角的分析揭示了算法的政治性，它不仅可以被应用于实现特定政治意图，其本身的技术特性也会与特定政治价值相关联并产生社会政治影响。因此算法自身的公共性应当成为算法治理的重要基础。算法公共性包括算法的公益性、公开性与公平性三个方面，它们在现实治理实践中面临着异化风险。算法公共性的实现需要一种参与式设计的新理念，它强调通过算法设计过程中多元主体的广泛参与来实现社会整体价值的嵌入与算法技术发展方向的调整，从而使算法的技术属性更好地契合公共性价值。
关键词：算法治理 算法公共性 技术政治 参与式设计
