周末随笔：《克拉拉与太阳》，与图灵的人文主义对话

　　（本篇文章共1856字，阅读时间约3分钟）

　　人工智能可以代替逝去的人吗？

　　在技术层面上，计算机科学家们的答案是一致肯定的。近几年来，ML语言模型的高速发展，加上大量唾手可得的社交网络数据，已经在逐渐将这一想法变为现实。从电影特效到聊天机器人，这几年来已经出现过不少AI复原逝者的音容笑貌的例子。就在去年，微软为一个能模仿逝者的聊天AI申请了专利，或许昭示着这种技术的普及已经近在咫尺。然而，在道德层面上，事情却显然没这么简单。2013年，美剧《黑镜》就构想过这种AI应用的道德难题与可能后果。如果说《黑镜》通过展现最坏的后果而达到警醒的效果或目的，在去年出版的科幻小说《克拉拉与太阳》里，日裔英国作家、诺贝尔文学奖得主石黑一雄则侧面地思考了这个问题的根源。

　　《克拉拉与太阳》中的故事发生在一个模糊但并不遥远的将来，故事的主人公克拉拉是一个专门为陪伴儿童所打造的人工智能机器人（Artificial Friend,简称AF）。故事的开头，克拉拉站在商店的橱窗里观察着外面的世界，日复一日地期待着某个孩子来把她带走，商店经理则善意地提醒她不要过度相信人类的承诺。诚然，即是克拉拉拥有超越其他AF的情商与观察能力，作为一个由硬件、程序与太阳能所驱动的人工智能机器人，试图理解人类的矛盾与复杂性成为了她在故事中（或生活中）最大的挑战。在被小姑娘乔西和她的母亲带回家后，克拉拉逐渐接触到谎言、秘密、和人类更深层的挣扎，并因此开始思考自己与人类之间的根本差别。

　　以笔者个人阅读来观察，抛开克拉拉作为AF的第一人称叙事有时太过刻意地机械，有时又显然超越了人工智能的感知能力外，小说视角的限制与童话的风格，也使得故事背景中的环境危机、阶级冲突、科技伦理等问题无法被深入挖掘，还另外使得这本书最出彩的部分藏匿于表面之下，特别是石黑一雄对人工智能哲学的深层次思考，以及与计算机之父艾伦·图灵的一段隐藏对话。

　　“人心。你相信有这样东西吗？某种让我们每个人成为独特个体的东西？”当乔西的父亲发现克拉拉惊人的观察能力让她能够完美模仿乔西的一举一动之后，他这么问道。“我们就先假定这样东西存在吧。那么，难道你不认为，要想真正地学习乔西，你要学习的就不仅仅是她的举手投足，还有深藏在她内里的那些东西吗？难道你不要学习她的那颗心吗？那可是一件难事啊，难道不是吗？一件就算是凭着你那神奇的能力也无法企及的事情。因为仅仅表演是不够的，无论那表演是多么精湛。”

　　乔西父亲所说的“表演”指的或许不仅是克拉拉对乔西的完美扮演。1950年，图灵在论文《计算机器与智能》（“Computing Machinery and Intelligence”）中提出了如今被称为“图灵测试”的思维实验，试图以此回答“计算机能够思考吗”这个问题。这个测试基于当时普遍的派对活动“模仿游戏”（Imitation Game）。在原版中，一个提问者同时向在不同房间里的一男一女提问，并试图从他们的回答中猜测他们的性别。而在图灵的版本里，被提问者之一被人工智能所取代，而提问者需要从回答中判断哪个回答来自机器。图灵认为，如果人工智能能够成功模仿并骗过人类，这证明计算机能够思考。

　　这篇论文被视为现代人工智能技术的起点，但论文中图灵花了大笔墨预测他的理论在后来的几十年间将要面临的重重质疑，包括“机器没有灵魂”，“机器不会犯错误”，“机器没有自我意识”等等，而这其中最具有价值的反对观点应是“洛夫雷斯夫人的反对”，即认为机器只能履行人类输入的指令，并不能真正地学习或理解，也无法创造新事物。乔西的父亲在上文中所表述的观点与此十分接近。就像现今的大多数机器学习模型，克拉拉所能学习到的言行举止只限于她得到的数据输入，而乔西的父亲认为“人心”是无穷无尽的，不可能被完整转化为学习数据。因此，克拉拉的“表演”会永远止步于模仿，而无法真正取代存在。另一边，书中科学家卡帕尔蒂先生持和图灵类似的看法，认为人类没有什么人工智能无法取代的特别之处，因为他“找啊找，可就是找不到那样特别的东西。”

　　石黑一雄有意通过克拉拉这个人工智能之口来给出他对这个哲学问题的看法。克拉拉认为“卡帕尔蒂先生找错了地方，”这个“特别的东西……不是在乔西的心里面，而是在那些爱她的人心里面。”换句话说，人与机器之间的差异并非本质主义的，真正定义人的存在的是人与人之间的情感联结，是它确立了我们每个人的独特性与不可替代性。作家给出答案看似简单，甚至显得有些避重就轻，但却通过人文主义的眼光揭露了许多科技伦理问题的根本。不是所有科技能够挑战的问题都该被挑战。而通过独立思考这个问题学会了判断是非的克拉拉，或许恰恰成为了图灵在论文中所期盼的“超临界”（super-critical），即真正的“人工智能”。