多模态认知计算、生成式大模型等技术的突破驱动人工智能走进我们的生活，加速了智能系统在医疗、教育等各领域的应用，智能系统越来越多的参与人类生活和决策，从智能棋手到智能手术机器人。越来越多智能机器人相伴的生产生活中，你是否担心过智能机器人反叛人类？你的智能机器人又有多大程度是可靠的？尽管在当前技术条件下，智能机器人还没有到想象中产生自由意志、实现强人工智能的程度，抛开这些带有未来主义色彩的构想，人工智能的应用场景逐步涉及人类健康与隐私等安全领域。如何让人工智能恪守伦理秩序，从而更好地服务人类？技术社会化的深入引发了一系列技术伦理问题的讨论。
近日，bat365官网登录入口李学龙教授团队在《中国科学：信息科学》中发表《人工智能伦理计算》一文，全文34页探讨了伦理可能的度量方式，尝试建立AI伦理的定量计算框架，指出伦理计算将是促进技术伦理实践的关键交叉领域和构建伦理规范的重要基础工具，旨在引发更多关于人工智能伦理的思考。人工智能伦理计算是人工智能和伦理学等学科的交叉领域，通过定量描述、度量或模拟技术对伦理原则进行数学符号化或算法化，并在此基础上约束智能算法的伦理表现。
高漪澜, 张睿, 李学龙, 人工智能伦理计算, 中国科学: 信息科学, 2023, doi: 10.0000/SSI-2023-0076．
全文下载:
https://www.sciengine.com/SSI/doi/10.0000/SSI-2023-0076
伦理问题的讨论由来已久，阿西莫夫的科幻小说中曾提出了著名的机器人三定律用以限制人工智能行为，但随着技术社会化的深入，我们的伦理忧虑显然已不再处于科幻小说或电影的虚构场景。手术机器人是否值得信任？辅助决策系统的决策是否公正？生成模型的成果是否侵犯了版权？这些技术伦理问题都是当下与你我切身相关，迫切需要更具体且可操作的人工智能技术伦理治理方案。
AI应用场景决策要素对比
作为人工智能发展的重要议题，人工智能伦理治理引起了各界的广泛关注。联合国教科文组织于2021年12月发布了《人工智能伦理问题建议书》用于规范人工智能技术的发展，同时各个国家也积极参与到人工智能治理的讨论中来。研究表明，全球各国已经在技术透明度、公平公正、不伤害、隐私等方面形成了初步共识。
主要的人工智能伦理原则
2023年10月08日，科技部、教育部、工业和信息化部等十个部门联合发布了《科技伦理审查办法（试行）》，重点关注了智能领域相关技术在实际应用中产生的技术伦理审查问题，这是我国迈出科技伦理治理实践的关键一步，为人工智能领域健康发展提供了方向指引。
然而，我们需要清醒地意识到，人工智能伦理治理在进步的同时，依然面临着诸多问题。如何确保智能系统以善意、公平的方式做出决策？如何衡量一个系统的伦理表现或者如何评价其决策结果？如何建立统一、明确的伦理规范？导致种种问题的深层原因，在于伦理本身的抽象性。关注伦理的定性分析，缺少定量计算，导致相关规范难以付诸实践，这也成为人工智能伦理治理的阿克琉斯之踵。
随着智能深入到人类社会的各个领域，伦理治理已经成为人工智能健康、可持续发展的必答题。伦理计算的理论与技术研究，能够推动解决抽象伦理定量分析的难题，这或许将成为约束人工智能遵循人类伦理的一把锁，同时也是打通AI应用落地的一把钥匙。
人工智能是大势所趋，相关的立法和规范也会逐步出现，这些规则由谁来制定？是熟悉领域的科研人员，还是并不足够了解具体技术的群体？这个问题很难回答，但至少，人工智能伦理的数值度量可以为规则指定提供一个参考指标体系。
伦理计算的核心在于通过量化计算将抽象伦理具体化，强调将伦理原则融入计算技术的实践中，例如公平、透明性、隐私保护和可信等。这不仅有助于人工智能的可控发展，鼓励研究人员更深入地理解技术伦理并在构建算法系统时更主动地考虑伦理问题，同时也将为制定伦理治理的原则、法律法规等提供至关重要要的技术参考指标。
然而，伦理计算也面临着诸多挑战。在自主搜救、无人巡检等开放性的临地安防场景中，智能系统需要动态感知和适应环境变化的能力，以减少潜在的伦理风险。同时，伦理决策通常牵涉到情感和认知等因素，需要借助多模态认知计算和因果推理等技术来应对伦理推理的复杂性，也需要更多关于人类伦理决策方式的认识。这些挑战需要跨学科深入合作，以确保伦理计算技术能够有效处理不断演化的伦理问题。
总之，人工智能伦理计算将作为推动伦理治理发展的重要工具，通过促进伦理治理理论与实践的迭代发展，伦理计算将更安全地释放人工智能的潜力，并有望在协助制定法规等方面发挥作用，确保人工智能以符合伦理和道德原则的方式发展，最终造福人类社会。
通讯作者简介
李学龙 bat365官网登录入口校学术委员会副主任、光电与智能研究院（iOPEN）教授，主要研究方向为临地安防、图像处理、成像。
E-mail: li@nwpu.edu.cn
参考阅读：
李学龙，多模态认知计算（Multi-modal cognitive computing）, 中国科学：信息科学，53 (1), 1-32, 2023, doi: 10.1360/SSI-2022-0226.
全文下载:
https://www.sciengine.com/SSI/doi/10.1360/SSI-2022-0226
李学龙，临地安防（Vicinagearth security）, 中国计算机学会通讯，18 (11), 44-52, 2022.
全文下载:
https://dl.ccf.org.cn/article/articleDetail.html?type=xhtx_thesis&_ack=1&id=6219452051015680
（文字：张睿；摄影：高漪澜；审核：马西平）
