目前可能发生以下三种情形。

“拉升！拉升！”当飞机认为飞行高度太低，有安全顾虑时，向飞行员大声呼叫。

“滴！滴！”汽车在发出信号，要引起驾驶员注意，同时收紧安全带，调整座椅靠背，并假装剎车。汽车使用摄像机监控驾驶员，当发觉驾驶员没有注意路况时，它就开始刹车。

“哔！哔！”凌晨三点，洗碗机发出提示信号，示意碗盘已经洗好。此时的信号除了把你叫醒之外别无用处。

未来则可能发生的三种情形。

“不要，”冰箱说：“不能再吃鸡蛋了，除非你的血脂下降，体重下降。体重计告诉我你还要再减掉五磅。诊所一直提出警告说你的血脂过高。你知道，这些都是为了你好。”

“我刚刚检查过你的智能手机上的日志，”你的车子说，而这时你正下班后坐上车子，“你现在有空闲，所以我们不走高速公路，已经设定好去走你非常喜欢的那条景色怡人的盘山路——我知道你会陶醉的，并且，我选了你喜欢的音乐一路相随。”

“嗨，”某天清早当你准备出门的时候，你的房子说：“为何急着出门？我已经倒了垃圾，你也不说声谢谢?我们能否谈谈那个新的控制器，挺不错的，我已经给你看过照片吧？它能让我的工作更有效率。而且，琼斯家都已经安装了。”

有些机器顽固，有些情绪化；有些细腻或者粗犷。我们通常会将人的特性投射到机器上，而这些属性虽然只是一种比喻，用到机器上却也相当合适。不过，无论是自动化或半自动化的新一代智能机器，它们自己做判断，自己做决定，无须人们对它们的行为授权。因此，这些特性已不再是比喻了——它们已经成为真实的特性描述。

本章的开头提到的三种情况已经成为现实。飞机的警告系统的确会呼喊“拉升！”（通常是女声）。至少有一家汽车制造商已声称使用摄像机监控驾驶者。如果朝前的汽车雷达系统感测到潜在的撞车风险，而驾驶者似乎没有在观察路面状况，警报就会响起——不是人声（至少现在还没有），而是使用嗡嗡声或振动。如果驾驶者仍未反应，该系统就会自动剎车，并为可能发生的撞车做好准备。我已经好几次在三更半夜被洗碗机叫醒，急于告诉我碗已经洗好了。

目前关于设计自动化系统已经有相当多的知识。人机交互的研究却没有那么深入，尽管这也是几十年来一个备受关注的题目。但是这方面的研究 ^[1] 比较着重于工业和军事装备，在那些领域，人们工作的一部分就是使用机器。那么，对于没有受到特别训练的普通用户，那些仅仅偶尔使用某些特殊机器的用户呢？对这方面，我们了解得不多，但这正是我所关切的事：没有受过训练的普通用户，如同你和我，如何使用家用电器、娱乐系统和驾驶汽车？普通用户如何学习使用新一代的智能设备？嗨！得一步一步来，经由尝试与错误，还得历经无休止的挫折。设计者似乎相信这些设备很有智慧，运作那么完美，所以使用者无须经过训练。只要告诉它们做什么，就放手让它们去做。是的，这些设备通常都会附上使用说明书，常常又大又厚重，但是这些说明书既不明确也不易懂，大都没解释清楚这些设备是如何运作的。相反，它们给出一些奇怪的、神秘的机械操作术语，经常出现无意义的行销字眼，把一些词串联在一起，像“智慧住宅感应器”（SmartHomeSensor），好像通过命名来解释一切。

学术界称这种方式为“自动魔术”（automagical），即自动化加上魔术。制造商希望我们相信并信赖魔术。即便设备运作良好时，如果我们不清楚它如何或为何运作，都可能会有某种程度的不适。当设备运作有问题时，我们不知道如何反应，这才是问题的真正开始。我们正处于两个世界之间的恐怖状态：一方面，我们距离那种充满着完美工作的自动化智能机器人的科幻电影世界还很远；另一方面，我们在快速远离那个用手工操作、没有自动化、靠人操作机器来完成工作的世界。

“我们正在让你的生活更加方便，”很多厂商对我这么说：“所有这些美好的东西，更健康、更安全和更舒适。”是的，如果这些智能自动化设备都完美运转，我们会真的很快乐。如果它们确实完全可靠，那我们就无须了解其运作:自动变换就可以。如果使用自己了解的人工机器手工操作来完成任务，我们也很快乐。然而，当我们既不了解自动化的设备，又不能如期工作，机器也不能按照我们的期望来完成工作，被夹在这两个世界之间时，如此一来，我们的生活就不会更方便，当然也谈不上享受。