人工智能背后的伦理规范 王 丹 张家年

党的十九大报告强调要“推动互联网、大数据、人工智能和实体经济深度融合”。随着互联网技术的深入发展、大数据的出现和计算能力的不断提高，人工智能被广泛地应用在教育、医疗、诊断、金融贸易、机器人控制、法律、科学发现等各个行业。人工智能拥有自主意识，甚至控制人类活动，这就涉及到人工智能的伦理道德问题。当前，人工智能已经展现出巨大的变革力量，只有建立完善的人工智能伦理规范，处理好机器与人的新关系，我们才能更多地获得人工智能红利，让技术造福人类。如何更好地解决人工智能的伦理道德问题，需要我们认真思考与提前布局。

对人工智能伦理道德问题的思考可以从行为方式、结果导向和品质精神三个方面来进行。第一，行为方式道德性。特定环境中智能体能够遵循已有的规则和任务要求而作出可解释性的行为选择，我们就称其具有行为方式道德性。依据规则作出反应并取得结果是人工智能的强项，但是道德层面关注的重点不是一个行动是否会产生一个有效的结果，而是关注这个行为是否是正确的做法。随着深度学习算法的自我迭代人工智能的行为变得越来越不透明，使得人工智能行为在出现偏差后，导致纠错困难，行为选择原因变得不可解释、问题解决变得不可控。依据现有法律责任规则，未来可能产生权责混淆、责任鸿沟等各种现象，导致对行为方式道德性的质疑。第二，结果导向道德性。一个智能体能够通过权衡各种决策，最终选择出最具道德性的结果，我们称其具有结果导向道德性。人类作出有关道德的决策会结合规则、基于结果论的关联、信任、情感等道德的准则，作出的决定不一定是最完美但会是具有人性光辉的。人工智能决策的制定依据算法模型和数据输入，其结果不一定蕴含人性的考量，从而影响决策和预测的准确性，导致对结果导向道德性的质疑。第三，品质精神道德性。一个智能体在进行思考时能够依据某种道德品质，如勇敢、正义、公平、公正等，在思考的过程中进行有意义的解读和有温度的体验，我们称其具有品质精神道德性。人工智能品质精神道德性是人类算法赋予的，算法在决策制定的过程中采用数据为多数学习的数据，自然无法兼容少数群体的利益，从而使其在预测性判断、风险评估、信用评估等方面有可能存在歧视决策。

针对上述三类问题，我们应从人工智能内部和外部两个方面来建立合理的伦理约束机制，改善人工智能在行为方式道德性、结果导向道德性和品质精神道德性上的缺陷。

一是进行合乎道德伦理的算法设计，将国家的法律规范和人的道德情感规则嵌入人工智能系统设计。通过符合伦理的系统设计方法制定符合法律规范和道德情感的规则，将制定的规范和价值通过“自上而下”和“自下而上”的方式植入人工智能系统，并通过使用者、设计者和组织者对嵌入人工智能系统的规范和价值进行评估，判断嵌入价值与社会价值的一致性和相符性标准。当然，这个工作也不是一蹴而就的，而是要依据数据更新不断迭代，不断减小嵌入价值与社会价值的差距，最终达到两者平衡。

二是建立人工智能群体伦理决策框架，加强内部算法监管，规范人工智能研发过程。考虑到人工智能专注于单一的结构化的领域，对于跨领域复杂环境的伦理决策涉及较少，建立一个跨领域的人工智能群体伦理决策框架，对伦理道德进行多维度考量、协同式综合运算得出最优解决方式。建立人工智能行业标准，规范人工智能的研发过程，降低算法在自我学习和迭代的过程中的不确定性，保证算法及其决策的透明性。

三是设立人工智能事前监督和事后评估制度，制定产业研发人员伦理工作标准，强化专业责任意识。对于具有危险性的人工智能产品，设计时要聘请领域专家对算法进行审核，投入使用后要评估应用过程中存在的问题，以研究解决的对策，优化人工智能性能。人工智能是人类智慧的产物，参与和设计人员的道德底线会影响算法的公平与工作，因此制定人工智能研发人员必须遵守的伦理工作标准，解决好人工智能的安全责任问题。

四是建立健全对隐私权的法律规范体系，切实保护人工智能使用者的隐私。要通过设立隐私保护数据库，在人工智能数据运用的过程中，系统自行判断对隐私数据的存取是否必要、是否合法。要使用区块链技术保障数据的真实性、可靠性与不可修改性，提高算法预测的准确性。

（作者单位：王丹，淮北师范大学信息学院；张家年，淮北师范大学教育学院）

新闻推荐

工行淮北分行举办年度客户答谢会

1月8日下午，工行淮北分行举办“工迎新春”年度客户答谢会，邀请了该行100余名私人银行客户及星级客户参加。现场，主办方为客...

淮北新闻，弘扬社会正气。除了新闻，我们还传播幸福和美好！因为热爱所以付出，光阴流水，不变的是淮北这个家。