给人工智能一颗“良芯（良心）”——人工智能伦理研究的四个维度

《教学与研究》

给人工智能一颗“良芯（良心）”——人工智能伦理研究的四个维度

李伦1，孙保学2

1 大连理工大学人文与社会科学学部； 2 湖南师范大学人工智能道德决策研究所暨公共管理学院。

出版日期:2018-08-16 发布日期:2018-08-13
作者简介:李伦，大连理工大学人文与社会科学学部教授（辽宁大连 116024）；孙保学，湖南师范大学人工智能道德决策研究所暨公共管理学院讲师（湖南长沙 410081）。
基金资助:
本文系国家社科基金青年项目“人工智能的道德决策研究”（项目号：17CZX019）和国家社科基金重大项目“大数据环境下信息价值开发的伦理约束机制研究”（项目号：17ZDA023）的阶段性成果。

Enduing Artificial Intelligence “Moral Chips (Conscience)”——Four Dimensions of Ethical Research of Artificial Intelligence

1. Faculty of Humanties and Social Sciences, Daliam University of Technology, Dalian, Liaoning 116024;

2. Institute for Artificial Intelligence Moral DecisionMaking, Hunan Normal University, Changsha, Hunan 410081

Online:2018-08-16 Published:2018-08-13

摘要/Abstract

摘要： 人工智能的发展应当以人类价值为基础，以人类福祉为目标，这就要求必须给人工智能一颗“良芯（良心）”。这意味着人工智能伦理研究应围绕“机芯”和“人心”两个维度来展开。“机芯”研究主要是指人工智能道德算法研究，旨在使人工智能拥有“良芯”，使之成为道德的人工智能或道德的机器。“人心”是指人工智能研发者和应用者应当具有“良心”，使人工智能的设计合乎道德，避免恶意设计，并确保人工智能的善用，使之造福人类社会，即“人心”研究涵盖人工智能设计伦理和社会伦理研究。“机芯”和“人心”研究存在诸多基础性问题，需要在道德哲学层面做出回应。因此，人工智能伦理研究包括人工智能道德哲学、人工智能道德算法、人工智能设计伦理和人工智能社会伦理四个维度。

关键词: 人工智能伦理 , 道德哲学 , 道德算法 , 设计伦理 , 社会伦理

Abstract: The development of artificial intelligence(AI) should be based on human value and aim at human wellbeing, which requires moral chips for AI and conscience for human being. This means that the ethical research of AI should be carried out around the two dimensions: “moral chip of AI” and “conscience of human being”. The research of “moral chip of AI” refers to the research of AI algorithm, aiming at making AI have a “moral chip” and make it a moral AI or moral machine. “Conscience of human being” means AI developers and users should have “conscience” to make AI design moral, avoid malicious designs, and ensure the good utilizing of AI so as to bring benefits to human society. That is to say, the research of “conscience of human being” covers the design ethics and social ethics of AI. There are many basic problems raised by “moral chip of AI” and “conscience of human being”, which need to be responded from the perspective of moral philosophy. In this way, the research of AI ethics includes four dimensions: AI moral philosophy, AI moral algorithm, AI design ethics and AI social ethics.

Key words: artificial intelligence ethics , moral philosophy , moral algorithm , design ethics , social ethics

李伦1，孙保学2. 给人工智能一颗“良芯（良心）”——人工智能伦理研究的四个维度[J]. 《教学与研究》, DOI: .