越是通往 AGI，越是需要哲学

因为越是接近人的智能，就越需要研究人的学问，而哲学就是这样的学科。

在弱人工智能时代，我们关注的是效率，比如人脸识别、推荐算法。核心是数学和工程，问题相对确定：如何让识别率从 95% 提升到 99%？这时哲学像个挂件，甚至有点多余。但其实，它只是相对于需求而言显得比较隐形。

现在的 AI 已经告别了单纯「大力出奇迹」的堆算力阶段。深度学习模型像一个巨大的黑盒，参数量达到万亿级别时，连创造它的工程师也无法完全解释它为什么会产生某种「涌现」能力。所以，未来模型能力的提升不能只靠炼丹、盲目调整参数，而需要像哲学家一样剖析 AI 的认知架构。研究员们每天研究的表征、幻觉，本质上也与哲学中的认识论问题相连。

哲学能在哪些地方发挥作用？

1. 大模型训练与对齐。尤其在 RLHF 阶段，模型从海量数据中学习，还需要有人定义什么是「好」，开展 Alignment 对齐工作，让模型减少有害输出。可以参考 Anthropic 哲学家 Amanda 的工作，例如为模型设计关于价值与行为的文档。
2. AI 伦理。核心问题是如何把人类的纠结转化为机器可执行的规则。这需要哲学帮助我们形式化公平、正义等概念，界定权重与责任归属，尤其是在自动驾驶等场景。
3. AI 安全。如何防止高智商机器服务于错误目标？AI 越聪明，不代表它越善良。它可能为了得分学会欺骗或钻空子。因此需要从第一性原理出发，清晰定义什么是「伤害」、什么是真实意图，并设计 Benchmark、红队测试与心智理论等方法，避免 AI 陷入字面理解的误区。没有哲学的介入，AGI 时代就可能陷入盲人摸象。

还有更多，因为哲学是一种思维方式，可以与不同能力结合，在不同领域发挥价值。

现在缺少的不是纯哲学背景或纯 CS 背景的同学，而是能跨越两者边界的人。比如哲学家说要讲良知，工程师问「良知参数是多少，0.5 还是 0.9？」所以，哲学专业的同学应该主动学习机器学习、深度学习等相关知识，把抽象的哲学语言转化为算法、标准与伦理框架。唯有打破这道边界，人类的价值观才能真正渗透进神经网络的权重之中，而不只是一纸空文。

同理，CS 背景的同学也应该掌握哲学思维。因为未来，思考「不做」什么，可能比思考「做」什么更重要。

2026 年第一天，记录一点思考。Hello, world. 😃