如果机器人哀求人类别杀他，但人类还是杀掉他，算残忍吗？

　　如果机器人的程序设置为当遇到威胁时哀求对方不要杀害他，那么对方杀掉他算不算残忍？从一个角度来讲，机器人做出这个反应只是一段程序的运行结果，不应该同情。但从另一个角度来讲，人的思维也只不过是一段非常复杂的程序，人类对某件事做出的反应也只是这个复杂程序的运行结果。当机器人的程序做到和人类同样的复杂程度，机器人也会有和人类一样的思想，这时我们是不是应该把机器人和人类同等来看？如果只是一个简单的程序呢？只是会哀求对方别杀他，别的什么都不会，那么要不要把他当人来看？

　　手机上的一个app哀求你不要把它删了（很多流氓软件卸载时都会很罗嗦），但是你还是删了它，这算残忍吗？删除程序大概和”杀“了这个机器人没有什么两样了吧，但是我想你删app时多半不会考虑app的感受，因为你想把它装回来的时候还是可以的，但是杀人就不一样了，你杀了这个人就相当于”杀“了这个人的记忆和性格等等，而这些东西都是独一无二的，不是再下载就能下回来的。所以当一个人死亡时我们伤感的不是他肉身的消亡，而是记忆的消亡，这种记忆是不可复制的。如果我们有技术摧毁人的肉身而保留人的记忆，那么当你摧毁的时候多半也不会觉得残忍。而现在计算机还没有发展到人工智能的地步（像奥创那样。。。），我们摧毁了这个程序还是完全有能力再开发一个一模一样的程序来实现这些功能，所以在目前来说不算残忍。如果人工智能真的发展到人脑一样的复制，那就要另当别论了。

　　机器不请自来中了瑞星的毒，好不容易卸载还在界面跳转4次哀求不要删除它，真恶心。

　　

　　多可怜，我最后还是和她分手了

　　虽然这个软件很可爱会卖萌

　　我个人也是很喜欢

　　但是为了看她卖萌我会经常卸载安装

　　这其实是一个非常麻烦的事情。

　　因为，我们所有的伦理实践和法理契约，都是建立在既存的人类共同体基础上的，而人类共同体具备正当性(legitimiatt),而不具备合法性(legalitat)。有就是说我们是建立在既存的，已经具备共同体意识，且有明确非准确的共同体边界和“人”这个身份的感性确定的人类共同体，我们的一切契约无论是自然权利论，还是任何普遍法则，都是在这个既存的人类共同体上建立的。所以从大尺度的文明角度来看，一切法理的逻辑前提都是假定了人类共同体的合法性，也就是说，我们假设我们通过进化出语言系统，工具使用，分工合作和知识积累等等社会性组织，然后依据我们自己承认的“无主即可占有”原则去占据了现有地球领土，并成为万物之灵。根本没有其他生命和我们缔约（我们强迫其他生命跟我们“缔约”，恩恩），也没有任何前人类社会延续的法统（难道宣称我们继承了恐龙帝国的“弥赛亚”意识，由最后一位恐龙先知授予我们人类新恐龙帝国公民的称号？？或者穿越回去找尼德安人扯皮，想办法用肢体交流建立一个契约，智人--尼德安二元帝国，然后现代人宣称我们是前帝国的遗民？？问题在于恐龙帝国也没有合法性呀），更没有超越物种的认同原则，我们就是单纯靠着自己很牛逼去占领了地球而已，而我们的一切法理，伦理实践，道德，全都是预先承认了我们所做的一切合法，然后在自己内部去商讨实践的正当性问题。

　　而我们对于人，根本就没有一个同一性的标准，而是通过松散的各种直观标准加上共同体的共识来认定一个人是否为“人”。心灵哲学曾经提出过一个进阶版哲学僵尸的实验（我以前答案有），我们事实上根本不能用一个非物理还原标准来界定是否为人，但是我们也不能用物理还原标准来定义人。这是个非常麻烦的事情。

　　而我们的伦理前设，无论是卢梭的“天生道德感”+“理性抑制人性贪欲”，还是洛克的借由上帝意志达成的”人天生的自存意识“，或者边沁的”感知并实践苦乐的意志“。从亚里士多德到启蒙时代再到德国古典哲学，最后追溯的罗尔斯，实质上对于伦理实践的界定，都是预设了一个“人--人类本质”的辩证界定作为伦理实践的施动性前提。所以凡是不存在这种界定的”个体“，严格而言，都可以视作没有基本权利，那么如果只是一个无意识只会哀求的程序，那么你是可以杀，并且不承担人类共同体内部的法律追责和伦理谴责。

　　但是另一个问题就麻烦了。

　　我们没有讨论过人类共同体的”合法党章“是什么，举个例子，如果有一批外星人或者外来人工智能想要移民，来人类着咨询贵邦的入会标准。全体学者都会傻掉，于是我们事实上只能通过”人类共识“的程序正义来决定这件事情是否成立。于是当这个全球大会程序完成以后，我们就继续保证了人类共同体的”正当“性，相当于通过原缔约人的集体表决，来扩大社会契约的条款。如果没通过，我们依然要以”尊重平等的个体“（因为宇宙是一个非缔约空间，但是对方个体具备主体性，那么以功利主义的宽容原则，我们应该以最有限的内部待遇去对待对方，这自然包括非战争状况下尊重对方的”生命权“），好生将对方打发走。

　　这个情况其实也好解决，如果和人类完全相同甚至超出，具备主体意识的人工智能是外来的，只要对方没有敌意，你确实没有任何理由去杀掉他们，当然杀了就是两文明互相之间的冲突了。。

　　但是如果人工智能出现在地球上，被我们造出来，和我们人类完全一致，并且具备主体性，这个就非常麻烦了。首先人类共同体的”正当性“瞬间没有了基础，因为我们既存的”地球共同体“不止”人类共同体“，他们具备和我们主体性，那么人类共同体作为地球代表这事儿不仅仅是正当性没有了，合法性问题也彻底暴露了出来。那么无论过程如何，还是时间早晚，我们如果要是承认一个和平的”地球共同体“，我们都必然会存在一个”人类---人工智能“的缔约过程，无论是经历双方的战争冲突，还是和平谈判，还是作为”暂时强势方“的人类开始全名公投讨论是否扩大人类共同体，或者干脆奴役人工智能。

　　但是重点不是发生什么关系，而是只要我们无法灭绝人工智能，地球共同体就既存了两个阶级，并且整个地球共同体需要重建相互的合法性和正当性。

　　于是就出现了这么个情况：

　　1，如果我们同意扩大人类共同体，那么人工智能几乎满足所有政治哲学预设的理性权责人的特点，那么我们必须以此为依据来平等对待人工智能，并且将人工智能无差别纳入到”人类“这个概念之中。

　　2，如果我们不同意人类共同体，那么我们要重建地球共同体内的法理前提，如果经过战争或者妥协，达成了确定的双方定位，那么就按照双方的定位重新形成伦理实践，那么题主的原问题事实上就不成立了，因为我们不可能单纯出现个体的“人”对待个体的“人工智能”的态度，而是双方都依据的新的契约和伦理实践开始认定。

　　于是这最后还是取决于所有生命最后的权力关系，最后外化出一套社会规范，然后诉诸文本。

　　所以，这其实揭示了一件事情，那就是我们这些人类建立的一切社会规则，只要发生“系统扩大”，或者“个体概念混杂”，就变得非常脆弱不堪，跟前社会一样，很多东西都回到了直觉上，俩眼一抹黑只能走一步算一步，然后我们人类靠着各种精分和“强行解释”活了这么多世纪，貌似解决了这么多内部矛盾，也真是蛮拼的。。。