先来看下面这一段视频：
一辆自动驾驶的特斯拉在行驶中，突然有人跌倒在马路牙子上，在刹不住车的情况下，特斯拉选择撞向旁边的汽车，而不是直接撞向行人。
Tesla在刹那之间的决策行为挽救了一个生命，同时也是根据预设的伦理判断做出了可能的最佳选择。每辆具备自动驾驶功能的汽车都需要经过这样的测试，但是现实条件可能让汽车也无法穷尽所有可能的训练过程，这就需要对汽车进行伦理上的自主选择，设定生命具有最高的权重和优先级，而财物的损失是其次的。
在未来可能出现的大面积人工智能应用中，这种类似的场景可能会频繁的出现，人工智能的价值观对齐就显得尤为重要。这时候，朴素的普世价值观是能够让AI进行学习的，而机器永远无法像人一样理解的基于社会等级、权势这些方面则不能也不应该用来进行这种训练。例如我们不能训练AI去判断不同人的“价值”，然后根据价值量来决定撞谁和不撞谁，只有在生命权相等的情况下，社会才又可能实现更大的公平和正义。
