图源:pixnio
撰文|刘少山
在《人类简史》中,尤瓦尔·赫拉利用小麦解释农业革命。人类驯化了小麦,小麦也重新塑造了人类。为了让小麦生长,我们开垦土地、修建灌溉系统、定居下来,把大量时间投入播种和收割。几千年后,小麦成为世界上分布最广的作物之一。小麦的扩散来自人类持续的选择、种植和传播,这套选择机制已经足以改变两个物种的命运。[1]
不知不觉中,人工智能与人类正在形成一种相似的关系。我们建设数据中心,制造芯片,供给电力,生产训练数据,修正模型输出,再把AI接入千行百业。越受人们欢迎的人工智能系统,往往会获得更多数据、算力和资本,随后进入更多场景。人的采用行为本身,正在帮助它不断扩展,像赫拉利文字中的小麦一样。
不过,小麦的大规模繁衍始终依赖人类。它无法修理拖拉机,无法建设电网,也无法重新组织农业生产。AI的发展方向则可能触及另一条边界:一个被人类创造和培育的系统,有没有可能逐步脱离人类,获得维持自身存在所需要的能力?
01
02
03
参考文献:
[1] Harari, Y. N. Sapiens: A Brief History of Humankind. Harper, 2015.
[2] von Neumann, J. Theory of Self-Reproducing Automata. A. W. Burks, ed. University of Illinois Press, 1966.
[3] Moses, M. S., and Chirikjian, G. S. Robotic Self-Replication. Annual Review of Control, Robotics, and Autonomous Systems 3 (2020): 1–24. DOI: 10.1146/annurev-control-071819-010010.
[4] Kinniment, M., et al. Language Model Pilot Report. ARC Evals (now METR), 2023.
[5] Phuong, M., et al. Evaluating Frontier Models for Dangerous Capabilities. arXiv:2403.13793, 2024.
[6] Black, S., et al. RepliBench: Evaluating the Autonomous Replication Capabilities of Language Model Agents. arXiv:2504.18565, 2025.
[7] Pedreschi, D., et al. Human-AI Coevolution. Artificial Intelligence 339 (2025): 104244. DOI: 10.1016/j.artint.2024.104244.
[8] Rainey, P. B., and Hochberg, M. E. Could Humans and AI Become a New Evolutionary Individual? Proceedings of the National Academy of Sciences 122, no. 37 (2025): e2509122122. DOI: 10.1073/pnas.2509122122.
[9] Müller, V., Steels, L., and Szathmáry, E. Evolvable AI: Threats of a New Major Transition in Evolution. Proceedings of the National Academy of Sciences 123, no. 17 (2026): e2527700123. DOI: 10.1073/pnas.2527700123.
2026年10月25日周日下午14:00-17:00,《知识分子》《赛先生》将在北京中关村举行“AI对数学家到底意味着什么”论坛。北京大学北京国际数学研究中心袁新意教授、孙鑫教授,南开大学陈省身数学研究所郭少明教授、中国人民大学高瓴人工智能学院魏哲巍教授、中国科学院数学与系统科学研究院何伟鲲研究员等学者将现场分享讨论,《知识分子》总编辑、大湾区大学教授夏志宏将主持并参与讨论。还有一位大家可能都会期待的神秘嘉宾,也将参与我们的论坛。欢迎点击下方“阅读原文”报名。