拥有像人类一样对是非对错的判断力

什么算是真正的智能呢？如果只会执行人类的命令，哪怕执行得再好那也不算。机器人要拥有真正的智能，他们首先得拥有像人类一样对是非对错的判断力（moral decision），这就是Tufts大学、Brown大学以及Rensselaer理工学院想做的事，他们为此成立了一个项目来进行研究。

这个项目想通过创建一个计算框架，来模拟人类的道德推演过程，以让机器人能够自主判断如果遇到突然降临的任务该怎么办。这个典型的应用场景是在军事中，比如一个机器人被委派了紧急的运输任务，它要向附近的一所医院输送药物，却恰好在半路遇到了一名骨折的伤兵求助，那么这时机器人是否应该停下来实施救助呢？他如何去评估是停下来帮助伤兵更合理，还是及时将药物送到医院去拯救其他人却把伤兵弃之不理更合理？

所以，当一个意料之外的事件发生时，让机器人去根据具体情况具体分析应当采取的措施，是有价值所在的。但是因为可能出现的场景无法用限定的规则去定义和描述，所以这项研究也将面临不小的挑战。