人工智能的设计伦理主要关注什么问题应当如何解决

：全球范围内针对人工智能伦理准则的讨论已达成基本共识。在此基础上，本文进一步研究4个关键问题：人工智能伦理体系的运行机制问题、人工智能伦理准则的场景落地问题、人工智能伦理风险的预测判别问题，以及人工智能伦理对重大社会问题综合创新的支撑机制问题。这些问题超越了人工智能伦理准则的范围，却是一种完整、有效的人工智能伦理体系所必须解答的。本文的主要贡献是对这4个问题提出一套建议方案。

关键词：人工智能 伦理体系 伦理准则 风险预测 伦理性创新

Ethical system of artificial intelligence: infrastructure and key issues

CHEN Xiaoping

Abstract: On the basis of consensus on ethical guidelines or principles so far reached in the world, four key issues on ethical system of AI will be studied further in this paper: operating mechanisms of AI ethics system, the grounding of AI ethical guidelines in real-world scenarios, prediction and identification of ethical risks of AI technology, and comprehensive innovation mechanisms of handling major social problems supported by the AI ethics system These issues go beyond the realm of AI ethical guidelines, while they must be solved in order to develop a complete and effective operating system of AI ethics A preliminary plan for solving these issues is proposed as the main contribution of this paper

随着人工智能第三次浪潮带来的重要进展，人工智能伦理挑战已成为当前国内外普遍关注的一个焦点，一些组织和机构开展了相关议题的研讨，发布了一批人工智能伦理准则的建议。中国人工智能学会对人工智能伦理问题高度重视，于2018年年中开始组建人工智能伦理专委会。在2019全球人工智能技术大会上，5月26日举行了“全球视野下的人工智能伦理”论坛，在国际上首次提出了人工智能伦理体系规划问题，这意味着人工智能伦理建设开始进入第三阶段，而人工智能伦理体系的关键问题研究提上了议事日程。正如中国人工智能学会理事长李德毅院士在论坛致辞中指出的那样，本次论坛具有里程碑意义。

1 人工智能伦理建设：从伦理准则到伦理体系

人工智能伦理建设已经历了两个阶段。第一阶段是人工智能伦理必要性的讨论，从专业角度说，耶鲁大学Wendell Wallach等美国学者起了带头作用，在国际上引起了普遍重视；从更广泛的背景看，尤瓦尔·赫拉利的《人类简史》发挥了重要的推动作用。第二阶段是人工智能伦理准则的讨论，欧盟走在前面，中国和其他一些国家也积极参与其中。

在第二阶段，欧盟人工智能伦理高级专家组提出了人工智能伦理的7条准则[1]，包括：确保人的能动性和监督性、保证技术稳健性和安全性、加强隐私和数据管理、保证透明度、维持人工智能系统使用的多样性、非歧视性和公平性、增强社会福祉、加强问责制。我国清华大学人工智能与安全项目组提出了6条准则[2]：福祉原则、安全原则、共享原则、和平原则、法治原则、合作原则。据不完全统计[3-15]，迄今已有40多个机构或组织提出了各自的人工智能伦理准则建议。总体上看，所有这些准则建议是基本一致的。

似乎 科技 和大数据的发展总是一把双刃剑，它在给我们的生产、生活提供便利的同时，也总是“刺痛”我们。

关于此，以前我们总会说“方便和安全是成反比的，非此即彼”或者“ 你门都 不开，我怎么进来给你服务呢”

现在我们更想聊一些新的想法。腾讯研究院经过多年的研究实践，提出了一个有意思的理论，叫做“ 科技 向善”。我认为这个理论以及背后的应用思路，可以作为互联网企业关于数据“合理利用”的一般行为原则，加以借鉴应用。

在我看来 科技 向善的提出，否定了之前“为了便捷打通一切数据”或者“为了安全封闭一切数据”的思路。一方面，它“有度、有节”的最大程度来防护数据安全和隐私保护，另外一方面又“有理、有利”的开发利用数据，在以数据保护原则为共识的前提下，让数据应用造福于我的的 社会 。

一句话， 科技 向善的本质在于“人是技术的尺度，关键是谁来用”。

前几天(2019年1月11日)腾讯研究院在北京举办了主题为“Relaunch 刷新”的第二届 科技 向善年度论坛。不少嘉宾在对数字经济、数字 社会 、数字治理的认识上，提出了一些有前瞻意义的观点，我觉得有必要来做一番探讨。

数据应用思想的两次进阶：从“不作恶”到“ 科技 向善”

在第二届 科技 向善论坛上，腾讯公司高级副总裁郭凯天在题为《共建数字 社会 的信任基石》的演讲，谈到了互联网发展20年来的数据应用遭遇的挑战和机遇。

其实我们由郭凯天的分享，纵观产业互联网发展史，关于数据应用和保护的话题已经争论了十几年，全球各大企业、机构、学者贡献了很多有价值的研究成果。

在这其中我认为有两个重要的理念，可以 做为 节点。

第一个节点自然就是谷歌在1999年提出的“不作恶(Do not be evil)”经营理念，谷歌“不作恶”的理念影响了几代互联网企业，后来成为各国主流互联网企业的共识。谷歌坚信，作为一个为世界做好事的公司，从长远来看，我们会得到更好的回馈—即使我们放弃一些短期收益。秉承“不作恶”的理念，谷歌近20年的发展取得了口碑效应和商业效益的双赢，在“全球最受尊敬公司”的榜单上，谷歌经常位列榜首。

第二个节点我认为就是腾讯研究院提出的“ 科技 向善”理念，“ 科技 向善”其实包含了“不作恶”，并且在“不作恶”的基础上有所发展，即保护和发展相统一。发展建立在保护的基础上，而保护是为了更好的发展。正如郭凯天所言，巨大变革来临前，面临各种矛盾和冲突，要想办法克服、解决，要集结各方的智慧，请全 社会 努力解决的一种状态，最终在 科技 向善的共识下，我们能够找到最好的方法，使互联网帮助每个人生活更幸福、更快乐。

这两个节点，我们姑且称之为10到20的进阶。一中一西，中美两家头部互联网企业，各自为全球互联网的可持续 健康 发展，贡献了可供全球普遍应用于实践中来的理论指导。

借鉴意义重大： 科技 向善是行业的共鸣曲

“数据能不能用”的争论，我认为可以结束了，我们应该把讨论的重点放在“如何用好数据，让它发挥价值的同时，减少作恶的可能”。

正如腾讯研究院院长司晓所言(大意)，透过过往 科技 发展史来看，每一次技术变革，都会引发全新的人与信息交互方式、甚至工作生活方式的变革。在这个巨变过程中，总是会出现一些问题。但我们总是在解决问题中前进，当下我们应该保持谨慎乐观的态度和 科技 向善的理念，去应对挑战并且解决问题。

司晓的观点其实就是解决“发展和矛盾”问题的一般原则，即我们不能因为近年频繁的数据安全问题而因噎废食，放弃了对数据的应用，走向封闭;我们也不能因为单纯的看到数据应用带来的前景，而无节制的对数据进行滥用，带来数据危机。

科技 向善的理念虽然是腾讯研究院提出的，但绝对不是腾讯一家的独奏曲，而是行业的共鸣曲。腾讯创始人之一张志东先生也提出号召，鼓励 科技 同行与政府、学术界、公众一起携手，直面数字 社会 出现的一些新的复杂命题，寻求共识与解决方案。

相信参加过这次论坛的朋友也感受很深刻，这个活动腾讯起到搭台和抛砖引玉的价值，发言的嘉宾来自于各企业、机构、高校。比如北京大学 社会 学教授邱泽奇、《经济学人·商论》执行总编辑吴晨、中国青少年研究中心少年儿童研究所所长孙宏艳、VIPKID创始人陈媛等等。

这些嘉宾的发言有很多干货，也有很多可供行业其他企业借鉴的观点，我以为应该系统性的进行总结，形成统一的几点决论，完善腾讯“ 科技 向善”的理念。进而通过媒体报道、研究报告发布、多媒体制作展播等手段，普惠的给我们的产业提供借鉴和指导。

当然透过当天活动来看，我们的行业相关企业、机构，这几年也在不断通过实际的行动、计划，践行 科技 向善理念。比如京东应用AI技术打击机器注册的黑产、腾讯微信推出的洗稿合议机制、腾讯未成年守护计划、美团青山计划、拼多多 科技 扶贫战略、掌阅护眼阅读模式等等，这些案例都值得大力推广。

前瞻：数据应用伦理的未来三大趋势

其实数据应用伦理是一个老生常谈的话题，我过去也写过很多分析文章，今天我们不再总结过往和分析现在，而是通过 科技 发展的规律，来前瞻数据伦理的未来趋势，主要来说是两个方面。

第一：合规大于效率

2018年，滴滴因为平台机制的缺陷，对用户信息保护机制的漏洞，以及管理的疏忽，出现了两起严重的 社会 事件，引发了广泛的争议。后来滴滴进行了系列的整改，把安全放在了最核心的高度，在安全为准则的前提下，开展产品的落地，以及业务的创新。

滴滴的整改其实也释放出一个信号，互联网经过蛮荒发展过后，由之前的“效率大于规范”进阶到“规范大于效率”，任何涉及信息服务的平台和产品，都应该在用户数据的保护基础之上，进行开发利用。

同时当效率和合规冲突时，我们应该选择后者，放弃前者。这也就不难理解，马化腾之前演讲中为什么提到“数据保护应该优先于数据打通”。

第二：打破零和博弈

百度创始人李彦宏曾经提到过：中国人更加开放或者对隐私问题没有那么敏感，如果说用隐私来交换便捷性或者效率，很多情况下他们是愿意这么做的。

这其实就是一种典型的“零和博弈”论，持有这种观点的人不在少数，他们认为“方便和安全是成反比的，无法达成共识”。事实上，随着 科技 的发展，问题在频发的同时，我们的解决方案也在不断进步，用俗话来说就是“魔高一尺道高一丈”。

打破零和博弈，不仅仅是一种理论设想。有太多的案例可以佐证，就以当下全民都在用的微信支付和支付宝为例，几乎算当前全球最便捷的支付方式，拥有多种支付途径和入口。但我们每个人都感同身受，这两个产品非常便捷也非常安全，极少发生信息泄露和账户被盗事件。而保障我们安全的机制，就在于通过人工智能计算，形成一套风控机制，寻求到了数据开发和保护之间最大的公约数。

类似的案例还有京东金融，京东金融依托京东庞大的用户和交易量数据以及关联外部合作伙伴数据资源，通过多维度建模形成的安全魔方产品，对于消费者在生活中遇到的支付安全隐患如申请欺诈、信用欺诈、账户盗用、洗钱、羊毛党、虚假交易等行为可以实现有效防范。与此同时，凭借扎实的技术和创新能力，提供了PC及移动端适用的APP支付、二维码支付、NFC近场支付、人脸识别支付等多种支付方式。

第三：用户成为参与者

在大多数行业人士的认知中，数据信息的应用和保护，主要是管理机构和企业要做的工作，与用户无关。

但在今天，随着移动互联网和社交网络的高效发展，用户的自我意识已经全面觉醒，他们更想扮演“受众进阶成参与者”的角色。的确，广大的用户作为服务的使用者，往往能第一时间发现产品的缺陷和数据的漏洞，进而提出改进意见。

当然这并不是说直接给予用户参与决策的权限，而是我们的相关企业和机构，对信息治理工作，应该是从用户中来，到用户中去。将用户的意见(分散无系统)集中起来，经过研究化为集中的系统的意见，最终出台的机制和规则又将回到用户中去、服务于用户。并且在用户的实践和应用中，考验这些意见、理论、机制是否合理、正确。然后一次次循环，理论一次次完善，产品一次次更新迭代，必然使得我们的治理机制更正确、科学。

应该保持什么关系——专业关系抑或是朋友关系？

案例：服务对象外出旅游，从外地带回礼品，特地来到社工点送给社工，还一再强调，是他的一片心意，不收下就是看不起他。作为社工的我是否该手下礼品呢？如果收，是否要还礼呢？如果不收，我该如何拒绝服务对象呢？

就这个问题我认为是表面上看似复杂其实可以简单化的。只要 理清 脉络，界定好关系即可。我们要设身处地的将自己放在真实情境中去考虑问题，我们需要考虑多种因素的影响和明确行为的双向互动， 理清 影响行为后果的因素到底有哪些。

第一是考虑所处的服务阶段，如接案阶段、建立关系阶段、评估阶段抑或是结案阶段等。

1接案阶段：社会工作讲究实证主义，倡导人在情境中，我们可以设身处地的假想一下，在接案阶段案主有没有可能会给社工送礼品，从现实出发我们会给一个不熟悉的人送礼品吗？，当然不会，况且社工机构或社工不同于行政部门或行政人员即便是社工还没有做什么工作去帮助人家或打动人家，案主又怎么会送礼品给社工呢？

2建立关系阶段：在建立关系阶段处在社会工作服务的关键期，是社会工作者同案主关系极不稳定的时期，案主即便是给社工送一些礼品更多的也是试探性或礼让性的表达，比如：初次探访案主家庭情况，案主请社工吃水果或给案主倒了一杯水，在中国我们不能轻易的界定为“伦理两难”，我们在讲求专业性的同时更要走下神坛，走进民间，如果你不接受案主的礼让那会显得案主招待不周，或你不懂礼貌，社会工作就是入乡随俗，随机应变，即便是西方的社会工作来到中国的山头也要唱中国的歌。同样我们到西方国家去也要用媳妇那个人呢的思维同当地人交流，否则一切谈话都是徒劳。所以此时的社工完全可以接受也可以不接受，一般来讲案主都不会太强求，如果非要接受可以向案主说明机构的要求和纪律，总之在这个阶段是可以平稳地度过所谓的“伦理两难”。

3评估阶段以及接案阶段：在此阶段，甚至以后，社会工作者同案主已经建立了牢固的专业关系，甚至是专业关系和朋友关系并存的双向活动关系，即在工作中的专业关系，在生活中的朋友关系，此时的社工完全能够理清同案主的界限，可以灵活处理这类伦理两难问题，案例中提到礼品仅代表案主个人的一片心意，所以此时双方是在私领域中的互动，也从侧面说明社工同案主的关系，以及社工的确给予了案主很大帮助，从功利角度来讲，是案主自身的回馈，从专业角度来讲，也算是实现了“助人自助”。

 

第二是考虑案主的经济条件。我们都知道一个连温饱问题、生存问题都解决不了的人如何去谈及发展与享受。案例中提到礼品是案主旅游时带回来的，既然能够外出旅游，说明案主的经济条件并不是太差，或是差到连饭都吃不起的地步，因为即便是在经济快速发展的农村，很多人也没有时间精力或经济条件去完成一次不大不小的旅游。另外，外出旅游带回来的小礼品大多应该是地方特产或纪念品，价格也不是太贵，更多的是纪念意义，也可以理解为象征价值。在这种情况下，在专业关系稳固，多元化关系并行的阶段社工完全可以接受。不过社工在接受的同时一定要强调这种行为是在私领域中进行的，明确行为关系的界限。如果案主家庭条件特别优越，所馈赠的礼物十分贵重，那作为社工无论从哪个关系的角度考虑都不能随意接受，那如何做到既不接受贵重礼物的馈赠又不至于打击或伤害到案主呢？我认为可以从以下几个方面考虑：

一是向案主讲明机构的规章守则，以及接案时签订的服务协议，再次提醒案主双方的正式关系，委婉拒绝；

二是如果案主执意馈赠贵重礼品，可以馈赠替代，即选择案主的小物件或其他物品作为礼物；

三是馈赠转移，劝说案主致力于公益事业，回报社会，救济更多需要帮助的人，达到转移案主馈赠目标，实现委婉拒绝案主贵重馈赠。  

还有一个问题是接受案主礼物后还要不要回赠礼物？

对于这个问题，我个人认为是应该回赠的，社工帮助案主是责任所在，是出于道义，而案主馈赠社工礼物是在私领域，不能说社工帮助案主了就应该接受案主礼物，当然毫不客气的说，也不排除案主不送礼不安心的矛盾心理，在中国是很常见的，如到医院看病，不给医生送红包感觉不放心好像进了手术室就成为永远的诀别一样。在中国是人情社会，讲究礼尚往来，社工也应从私领域的个人角度回赠案主礼物，也以此来向案主阐明专业关系同朋友关系抑或是其他关系的界限。

  我们都知道，社会工作是从西方引进来的舶来品，在我国不仅发展时间短暂而且经历曲折，中国的沃土有与众不同，中国是特色的、而又积淀传统的，需要境遇化和本土化，其中本土化并不影响发挥它的专业化，正如“橘生淮南则为橘，橘生淮北则为枳”。之所以“橘生淮北则为枳”是因为水土不服，气候、土壤的不适应，没有实现橘子的“本土化”，正如社会工作，即便是从西方引进到中国，在中国生根发芽，只要实现了本土化就不会影响到其专业化的发挥。我们总是讲人在情境中，我们思考问题也应该将问题放在现实的情境中去思考而不是放在理想的沙盘里去讨论，同样理论应在它所适应的范围内讲解，在超出它所适应的范围只能是探索或检验。西方的理论受西方文化的影响，来到中国“水土不服”也在情理之中，我们不能用南方栽种水稻的方法去北方种麦子，不过我们到可以从种水稻中汲取经验，移植到小麦种植中去。就好像用中国传统文化思维去解释发生在西方国家的事例不太合适一样。

我并不认为社会工作是很难发展的，相反我认为社会工作在中国尤其是在未来的中国发展前景是可观的，目前、我们对知识和理论展开深入的探究和思考也没有什么过错，只是有些问题我们没必要“钻牛角尖式”的纠结，就好像一群村口大树下的老太太边择着菜边拉着家长里短，每天都喋喋不休的争论仿佛也没有什么结果，日子还是照常过。有些问题甚至是没有必要不停地讨论下去的，有这些功夫和精力还不如多做些实事，像本土化和专业化两个概念看似简单，当然也没有想象中那么复杂，但却总是听到有人无数次的在探讨着。对此我很是不解，我认为人不是机器，教科书也不是圣人言，即便是老师也不能做到不掺杂任何个人感情的做一件事，没必要在提供服务的时候非要精确到“飞秒”甚至更小。在社区打扫卫生，做一些看似无聊的活虽然简单，但生活不就如此吗，不是每个人非得干出惊天动地的伟业。在平凡的世界里能把最普通、最平凡的事做好就已经很了不起了。

  2019年3月19日星期二

写于山东青年政治学院

周文

以上就是关于人工智能的设计伦理主要关注什么问题应当如何解决全部的内容，包括:人工智能的设计伦理主要关注什么问题应当如何解决、科技伦理观的两次进阶：从“不作恶”到“科技向善”、关于社会工作专业伦理困境问题的思考等相关内容解答，如果想了解更多相关内容，可以关注我们，你们的支持是我们更新的动力！