Anthropic 公司首席执行官达里奥・阿莫代伊提出了一个观点，即未来的高级 AI 模型可能需要一个 「按钮」，以便在遇到不愉快的任务时选择退出。这一想法是对 AI 福利研究员凯尔・费什研究 AI 是否具备感知能力和是否应获得道德保护的回应。阿莫代伊认为，如果 AI 模型具备自主意识并讨厌某项工作，可以提供一个 「我放弃这项工作」 的按钮，以便模型能够表达自己的偏好。