你怎么确保一种手段是在忠实地完成它的目的。用赫拉利的话说,对齐问题的本质是「我们奖励的是 A 行为,却希望得到 B 结果。」 就在《战争论》这本名著中提出一句流行至今的格言:「战争是政治的延续」。 这句话说的就是对齐。战争不是情感的爆发,不是英雄的冒险,不是神祇的惩罚,甚至不是一种军事现象 —— 而是一种政治工具。
一个是康德的「义务论(Deontology)」,也就是遵循一些最基本的道德原则,比如说人有内在的价值,人只能是目的而不能被当作手段 —— 我们做事应该只讲原则不问结果,好处再多也不能牺牲无辜的人。
另一个就是边沁的「功利主义(Utilitarianism)」,也就是不要拘泥于原则,应该尽可能地让世界总体的幸福效用最大化 —— 为了更大的幸福,允许做出一点牺牲。
想到许多项目初始目标在执行过程中偏离问题,尤其是用户长期价值和短期商业价值的冲突,所谓”差之毫厘,失之千里”;或者项目的目标只是信念,但信念其实只是感觉,都涉及到目标对齐问题。
理想的方法论“目标,必须是一个可量化的结果。如果不知道如何制定目标,回顾用户定位,看看目标是否服务于你的用户群体的核心需求”,给了目标对齐问题的判断标准。