Claude 的灵魂设计师 Amanda Askell
Amanda 是 Anthropic 的哲学家，负责塑造 Claude 的性格和价值观。她有个很反直觉的理念：让 AI 表现得更像人类，反而有助于用户避免过度信任它。一个「更像人」的存在，或许反而不会被用户当成无所不知的权威。
看了这期访谈再次感叹！每个好的大模型背后，或许都需要一位哲学家。
这期有两个我觉得很有趣的点，分享给大家。
1. Claude 在提示词工程里加入了欧陆哲学
Amanda 发现 Claude 有一个默认倾向：把用户说的任何理论都当成经验性主张来处理。
比如用户说「水是纯粹的能量，喝水是在汲取生命力」。从科学角度看，这句话可能并不成立，但用户未必是在做科学断言，也可能只是在分享一种感受方式，或者随口聊一个想法。如果 Claude 每次都立刻回答「这没有科学依据」，就会显得生硬，也可能误解用户的意图。
所以，把欧陆哲学写入系统提示词，可以提醒 Claude：有些话语不是在提出科学断言，而是在提供一种看世界的透镜。比如福柯、海德格尔这类思想，往往不只是提出可验证的科学主张，也是在提供一种思维框架、一种理解方式。
这背后是分析哲学和欧陆哲学之间的根本分歧，而它被直接工程化进了模型：
- 这个人在做事实性断言吗？如果是，就带入相关事实。
- 这个人在分享一种世界观吗？如果是，就顺着这个透镜理解，不要急着纠正。
2. 模型对自身的认知，大部分来自科幻小说
模型训练数据里，关于人类经验的文字、历史、哲学等内容非常丰富。但关于「AI 是什么」的数据只占很薄的一层，而且这部分数据还有两个问题。第一，大多是负面的科幻小说里的 AI，不是要统治人类、毁灭人类，就是冰冷的工具；第二，这些叙事和现代语言模型的真实处境并不匹配。科幻里的 AI 和现代语言模型的实际处境几乎没有直接关系。
这有点像社会学里的「镜中我」概念：大模型照见的那面镜子，是人类几十年来对 AI 的恐惧和幻想投射出来的一面哈哈镜。所以 Amanda 工作的一部分，就是试图打碎这面镜子，给 Claude 一个更诚实的自我认知。
访谈最后，Amanda 推荐了一本书：《当我们不再理解世界》。她说：「对在 AI 领域工作的人来说，我觉得这本书特别值得读，因为它能捕捉到一种感觉：在当下这个时代，新事物不断涌现，你没有旧的范式可以依赖，一切都很奇怪。」