人工智能有能力对人类社会造成巨大的伤害，但同时也能给我们带来巨大的益处。那么，人工智能是否会发展到不仅比我们更聪明，而且还能意识到它们比我们更聪明，进而觉得我们是多余的程度？它们会不会像著名的计算机科学家马文・明斯基（Marvin Minsky）推测的那样，决定我们人类是否值得被当作宠物饲养？在我们想象这些未来的方向时，重要的是要记住，我们生活在一个人类社会。我们正在出于各种社会目的而建造机器。我们是否会与机器变得毫无瓜葛；人工智能如何取代我们的工作；人工智能是否会与人类进入共生状态 —— 我们创造了某种形式的高阶社会，在那里我们不仅与人工智能和平共处，而且释放出我们今天几乎无法想象的潜力 —— 所有这些想法都遵从于一个基本前提：我们，人类，在这场进化中拥有主动权。我们首先需要考虑人工智能监控的影响。如果管理者有工具帮助他们更好地了解团队中的个人行为，那就意味着他们距离侵犯个人隐私只有一步之遥。人工智能可以改变人们的行为，但围绕这种人工智能的使用方式，还有一个更微妙的问题，那就是谁来决定什么是团队的 “可接受” 行为？什么构成了个人团队参与者的 “知情同意”，从而使他们真正了解他们正在面临什么？就如许多人在平衡个人财务和制订月度财务计划时都很困难，你如何向这些人解释其中的数据治理、计算社会科学和人类动力学原理？这给我们带来了一个问题：在人类和人工智能社会的发展中，我们如何利用对技术的控制权来保证一个积极而非消极的未来。我们可以设计系统，将规则嵌入人工智能，以确保它与我们自己的价值观和愿景保持一致。我们甚至可以创建用于监控的人工智能来观察干预人工智能的行为，从而提高人工智能系统部署的安全性。这些规则可能是什么样子的？我们如何才能将人类所有的复杂性，所有的非理性和理性思维，所有的科学和诗歌，提炼成一套人工智能可以识别的编程指令？