欧盟正式发布人工智能道德准则草案

　　近日，欧盟委员会（EC）任命的人工智能高级专家小组（AI HLEG）发布了AI开发和使用的道德草案—可信赖AI的道德准则草案（Draft Ethics Guidelines for Trustworthy AI），内容长达 37 页，提出可信赖AI应具备两大要素，以及AI不可为的基本原则。

　　可信赖 AI 的两大要素

　　AI HLEG 表示，AI无疑是这个时代最具变革性的力量之一，必将改变社会结构，我们必须确保最大化AI的优势，同时降低风险，因此需要以人为本的人工智能方法，AI的开发和使用不应被视为一种手段，应视为增加人类福祉的目标。“可信赖的AI”（Trustworthy AI）将成为人类的北极星。

　　欧盟AI道德准则草案指出，可信赖的AI有两个组成要素：一、应尊重基本权利，适用法规、核心原则和价值观，以确保“道德目的”（ethical purpose），二、兼具技术鲁棒性（robust）和可靠性，因为即使有良好的意图，缺乏技术掌握也会造成无意的伤害。另外，AI技术必须足够稳健及强大，以对抗攻击，以及如果AI出现问题，应该要有“应急计划”（fall-back plan），例如在AI系统失败了，必须要求交还由人类接手。

　　另外，可信赖AI的不可为，包括不应以任何方式伤害人类；AI不应限制人的自由，换句话说，人们不应该被AI驱动的机器征服或强迫；AI应该公平使用，不得歧视或诬蔑；AI应透明地运作，也就是说，人类需要知道AI正在开发的目的，以及如何使用它；AI应该只为个人和整个社会的福祉而发展

　　草案也提出了框架，第一章阐述AI必须遵守的基本权利和价值观，以确保AI符合道德目的。第二章则是实现可信赖AI的指导方针，同时兼顾道德目的和技术稳健性，并列出可信赖AI的要求，包括技术和非技术方法。第三章则提供了具体但非穷举的可信赖 AI评估表。