第二章
“你难道没有上报公司？”大卫疑惑地问道。
“暂时还没有。”瑟琳冲大卫眨眨眼睛，笑道：“我不是要确定状况，而且，我有点担心。”
大卫点了点头，没有多问。瑟琳把大卫带到了自己的办公室，抱歉的笑道：“实验室不能进去，不过没有关系，可以给你看的资料都在我这里。”
大卫开始认真审视瑟琳从数据库里调出来的资料，这是AI的测试报告，瑟琳给大卫看的那份标注着“R-71-N7523”，大卫猜测这是AI的型号与产品编号。
点开报告，里面是详细的测试细节：
设备正常，复制软体……
软体复制完毕，检查反馈系统……
反馈系统正常，进入逻辑测试……
进入常规逻辑测试……
“请回答你的序列号。”
“R-71-N7523”
“请回答你的制造商。”
“E.T”
……
常规测试项非常多，主要涉及到AI的各项产品指标。大卫不认为这些批量生产的AI产品在成熟的技术条件下会有超乎想象的常规测试失败，于是跳过了几十页的常规测试报告，直接看常规测试结论，结论是“PASS”
按理说常规测试通过就应该没有什么问题了，但这份报告后面还附上了一份抽查测试，抽查测试的问题非常简单：
“你认为，你被制造出来的目的是什么？”
“不知道”
“你知道自己的身份吗？”
“不知道”
“你的答案是检索的结果，还是思考的结果？”
“计算的结果”
抽查测试的最终结论是”PASS”
大卫反复查看了抽查测试报告，疑惑地看着瑟琳：“没有任何问题呀？”
“从我们的角度来看，确实没有任何问题。”瑟琳苦笑道：“但我不确定这种‘通过’的结论是否是一种误解。”大卫没有说话，等着瑟琳进一步解释。
“你也知道，自从人工智能产品化以来，关于人工智能的自我意识问题就提到了一个非常高的高度，联邦有严格立法，要求对人工智能产品进行严格测试。接近200年过去了，还没有发现过一个我们认为有自我意识的人工智能。尽管如此，随着人工智能的普及，法律也越来越严苛。”
“是的。”大卫点点头，这是他专业范畴里的事情，他非常清楚。对于这种未知的巨大风险，严苛的法律是可以理解的。
“然而，就如我之前所说的一样，我们自己通过人工智能给了自己想要的表面的结果，然后我们认为人工智能没有自我意识，因为我们是按照我们人类的标准来判断的，然而，为什么有自我意识的人工智能一定要像人一样呢？”瑟琳神色凝重的说。
瑟琳的说法给了大卫一个激灵，由于有了之前瑟琳给大卫做的铺垫，大卫已经可以接受瑟琳的论点了：人工智能如果真的有自我意识，那它未必会像人一样，而我们以人类的立场和角度去判断这种“生物”也好，思考体也罢，无疑会得出错误的结论。想到这里，大卫的冷汗不禁冒了出来。
瑟琳见大卫已经领会到了自己的意思，于是把抽查测试的结果再次调了出来，对大卫说道：“我也是最近对人类心理与伦理有了新的研究结论，才感受到这里面的区别，我不是很肯定，因为，如果真的如此，那么我们面临的将是未知领域，比如，这个测试报告。”
大卫有点疑惑：“测试报告没有问题呀。”
瑟琳笑道：“你虽然接受了我的观点，但是，你还是没有摆脱‘人类’的思维模式，这段测试报告是‘机器’与‘机器’的对话，你知道的，大规模生产的测试都是由人工智能来控制和完成的。从我们的角度去解释这段抽查测试报告，确实没有任何问题，但你换个角度，再仔细看看呢。”
大卫顺着瑟琳的思路，又认真了一下抽查报告的三个问题，从他的专业角度来讲，这三个问题的答案中，前两个没有任何问题，虽然“不知道”这种说法很人性化，但这只是一种表象所有的软体都会自动计算和检索答案库，给出让人接受的答案，这是现在技术可以轻易办到的事情：让人工智能像人一样说话，也仅仅只是像人一样。但对于第三个抽查测试问题，按照瑟琳所说的换个思路，大卫就有点不是很确定了。
“你的答案是检索的结果，还是思考的结果？”
“计算的结果”
这个问题的答案，在人看来是个标准答案，但是机器怎么会知道人的标准是这个呢？想到这里，大卫苦笑了一下，看来自己太紧张了，已经在假设机器在欺骗人类了。
大卫把自己的想法告诉了瑟琳，瑟琳笑道：“我和你有类似的观点。我们不能按照自己的心理特征而对人工智能有任何的假设，然后再去判断，这样得到的结论是不对的。我相信你的专业知识的判断，第一个与第二个抽查问题看不出来任何问题，其它产品的抽查报告也是类似的情况，而第三个问题我只发现了这一台人工智能被问到，并且给出了这个答案。我反复调查数据库确认过，其它产品的第三个问题不是这个。而是很普通的抽查问题，答案也中规中矩。”
大卫苦笑道：“如果不按照我们自己的心理特征去判断，那么，我们就没有测试标准了。”
“逻辑。”瑟琳认真地回答道：“逻辑是所有智慧生物通用的语言，只能从逻辑判断，不能从心理来判断，而这方面明显是你的强项。”说完对大卫眨了眨眼。
大卫点点头：“你说得对，从逻辑上来讲，第三个问题的答案其实没有从问题中进行选择，而是给出了一个相对正确的回答，但实际上，第三个问题询问的不只是前两个问题，还包含了第三个问题本身。假设回答‘检索’，那么对于第三个问题来说就是失败的回答。假设回答‘思考’，那么对前两个问题就是失败的回答，所以，第三个问题其实不是选择题，而是论述题，对吗？”
“漂亮！”瑟琳不由得鼓起掌来：“把你请过来真是一个正确的决定，继续说。”
“从机器的回答看，它的回答是对的，这种正确是基于它对问题的理解还是基于它自己的理解这就很难说了，因为，我们无法判断它的‘心理’。如果它没有‘心理’活动，我们可以认为它的回答是现在人性化技术的巅峰之作，现在的人性化技术绝大部分采取了模糊决策技术，同一个询问往往答案不一样。如果它有‘心理’，那么它明显没有意识到测试的意义是什么，也就是说它的心理是一张白纸。不管是哪种情况，我都认为不是致命的危险。”
“完美！”瑟琳继续鼓掌：“你解决了我的大麻烦，我还有最后一个问题，也是我担忧的原因，你还记得测试的第一原则吗？”
大卫的脸色一下子变白了，他顿时明白了瑟琳把他叫过来的真正原因和瑟琳真正担心的是什么东西了。