近年来，一些科技大厂率先启动科技向善干系项目，这些项目旨在用科技办理社会问题，推动社会进步。同时，政府层面也开始积极相应可持续发展计策，以欧盟、美国和中国为代表的国家在数据安全、隐私保护、企业行为倡导、政府支持等方面均有提案或法规颁布。
版权图库图片，转载利用可能引发版权轇轕
在呼吁科技向善的大背景下，如何确保 AI 技能的发展始终遵照“以人为本”的原则，如何始终保持人类的主体地位，成为各行各业在整合 AI 技能的同时努力实现的目标。《AI 向善：以人为中央的人工智能》一书，正是对这一问题的深刻反思和积极探索。本文摘取此书的片段，带领我们管窥“以人为中央的人工智能”这一科技办理方案。
什么是“以人为中央的人工智能”？
“以人为中央的人工智能”（Human-Centered AI，简称 HCAI）为设计师供应了全新的思维办法，即构想一种支持人类实现自我效能、创造力、任务感和社交关系的新策略。该策略更加强调 HCAI 将减少人们对人工智能存在威胁的恐怖，并增加用户和社会在商业、教诲、医疗康健、环境保护和社区安全方面的利益。
HCAI 定义有很多，但如下两个关键方面值得把稳。
1
过程
HCAI 建立在用户体验的根本上，如对用户的不雅观察、利益干系者的参与、可用性测试、迭代改进和持续评估人类在利用人工智能和机器学习的系统中的表现等。
2
产品
HCAI 系统旨在成为放大、增强、赋权和提升人类表现的超级工具。它强调人的掌握，同时通过人工智能和机器学习的办法实现高度自动化，例如数码相机和导航系统，它们可被人类操控的同时又具备许多自动化功能。
HCAI 的目标是提高人类的自我效能、创造力、任务感和社交关系，同时降落恶意行为、数据偏差和软件毛病的影响。
HCAI 的两大目标
史蒂夫·乔布斯（Steve Jobs）曾将打算机描述为“我们头脑中的自行车”，这明确地表明，打算机设计的最佳目标是增强人类的能力，同时确保人类保持掌握权。当前的打算机在我们头脑中可能更像是一台哈雷·戴维森摩托车，但有人认为，在未来，打算机将成为我们头脑中由司机驾驶的豪华轿车，自动带领我们到达目的地。
利用 HCAI 框架可以帮助我们理解骑自行车和驾驶车辆之间的不同。人工掌握的自行车可能是一种愉快而康健的磨炼办法，但隐喻中的带有司机的自动豪华轿车意味着舒适和安全。
然而，如果在驾驶员对减速或停车的要求没有相应的情形，搭客如何传达他们想去的目的地并对性能产生影响呢？人类的需求是繁芜且不断变革的；有时人们更喜好享受驾驶的乐趣，磨炼自己的驾驶技巧；有时，他们可能会喜好安歇、阅读或与他人谈论。
基于交通运输的隐喻，我们可以把打算机想象成大型的商用飞机，它可以将搭客舒适、快速、安全地带到目的地，而无须让搭客学习如何翱翔。受 HCAI 框架右上角象限的启示，在有专业监控性能的空中交通牵制员和飞机认证机构的情形下，飞机只需对其指令做出相应。
版权图库图片，转载利用可能引发版权轇轕
读者可能会思考，在自动化的功能以及翱翔员、空中交通牵制员的监督下，民航飞机是如何担保安全的。
答案是两者都是必需的。自动化功能可以让一架从华盛顿特区飞往法国巴黎的飞机进行例行翱翔，同时翱翔员能够更密切地监控飞机系统。然而，在数百种潜在问题中，如飞机动怒、搭客心脏病产生发火、鸟类打击导致的发动机停滞等，这些情形都须要闇练的专业职员迅速做出困难的应对。
虽然所有的隐喻都有其局限性，但它们在传达思想上有其代价，并可以打开思想的大门，欢迎新的可能性。HCAI 研究有两个设计目标：
1
科学目标
英属哥伦比亚大学教授戴维·普尔（David Poole）和艾伦·马克沃斯（Alan Mackworth）写道，科学目标是研究“智能行动的打算代理”。他们想“理解使智能行为在自然或人工系统中成为可能的事理……通过设计、构建和实验打算系统来完成常日被认为须要智能才能完成的任务”。科学目标常日基于对人类感知、认知和运动技能的研究，以便工程师可以建立起能够像人类一样或比人类更好地实行任务的系统，例如下棋程序或识别癌症肿瘤的设备。
2
创新目标
开拓增强人类能力的打算机，使人们能够自主完成事情。创新目标来自建立广泛利用的产品和做事的研究。普尔和马克沃斯写道，创新“旨在用于运用领域”。成功的案例包括基于舆图的导航系统、自然措辞翻译和搜索查询。
这两个目标对付思考未来技能的设计隐喻都有代价。然而，其寻衅在于理解每个目标在何时达成最佳状态以及如何组合这些目标。有些功能可能最适宜自动处理，例如数码相机的对焦和光圈设置，而其他功能可能最适宜交给人类掌握，例如构图和选择何时进行拍摄——拍照师称之为“决定性时候”。
这两个目标勾引我们对 HCAI 研究进行了四对设计隐喻的描述。所有这些隐喻都是有代价的，但出于不同的缘故原由：高度的打算机自主性许可无人监督的活动，而高度的人工掌握许可儿类进行干预。
个中一对隐喻是智能代理和超级工具，前者表示机器或系统具备独立行动能力，后者表示在利用机器时的人工掌握。第二对隐喻是队友和远程机器人，前者表示将人工智能的动作当作人类的动作，后者表示人类操作。
第三对隐喻是确定的自主性和掌握中央，前者通过其设计而担保安全，后者通过人工掌握来监控和干预。第四对隐喻是社交机器人和有源设备，前者被设计成像人类一样行动，后者被设计成诸如洗碗机或烘干机式的设备。
这几对设计隐喻通过提出针对不同环境需求的办理方案来改进 HCAI 框架，个中一些支持更多的自动化，另一些则支持更多的人工掌握。
一个关键的思想是组合设计，对付可靠实行的任务采取自动化方法，对付用户想要管理的任务采取人工掌握的方法。组合设计使得我们能够更加细致地决策哪些功能可以由打算机可靠地实行以及哪些功能是人类想要或须要掌握的。
在推举系统、问答系统和游戏系统中，用户可能会忽略不完美的回应，乃至可能会喜好有时的惊喜。然而，在医疗保健、交通或金融系统等涉及重大后果或生命攸关的运用中，精确的回应变得至关主要，可预测的行为在建立信赖方面也是至关主要的。
《AI向善》
本书紧张先容了以人为中央的人工智能（HCAI）的理念和方法，旨在为人工智能系统的设计开辟新可能。书中展示了 HCAI 在包括教诲、医疗、娱乐、交通等领域中的运用，强调了如何将人工智能与人类代价相结合，以实现更好的人类发展。本书为构建可靠、安全和值得相信的运用供应了一个全面的指南。
本书深入阐发 HCAI 设计理念，从构建 HCAI 框架到设计隐喻再到管理架构，供应了宝贵的思考和行动指南，让 AI 技能真正做事于人类，提升生活品质，实现人与技能的和谐共生。
第六届
互联网辟谣精良作品"大众投票
开始啦！
！
！
快点击文末左下角“阅读原文”
给“科普中国精良作品”投上一票吧！
↓↓↓
感谢您对科普中国的每一次支持！
！
！
策划制作
来源丨图书《AI向善 以人为中央的人工智能》，中国科学技能出版社
作者丨本·施耐德曼（Ben Shneiderman）
译者丨张缦绮
策划丨何通
责编丨何通
审校丨徐来、林林