机器为何难以应对未知：探索人类与人工智能学习的泛化差距

人工智能为何难以应对全新情境？为了弥合AI与人类学习能力的差距，来自比勒费尔德大学、阿姆斯特丹大学等国际顶尖机构的 Filip Ilievski, Barbara Hammer, Benjamin Paassen 等二十余位专家，通过跨学科合作，共同提出了一个统一框架，系统阐述了人机在“泛化”能力上的核心差异，旨在促进有效的AI对齐。
研究的核心在于剖析了泛化这一概念在人类与机器中的根本不同。研究团队指出，人类的泛化依赖于高度的抽象和概念学习，使我们能灵活地将知识应用于全新问题。相比之下，人工智能的泛化是一个涵盖多种技术路径的总称，包括机器学习模型超越训练数据范围的域外泛化（out-of-domain generalization）、符号系统中基于逻辑规则的推理，以及结合神经网络与逻辑的神经符号AI。为了系统地梳理这些差异，研究者们提出了一个跨学科的共享框架，从三个维度进行分析：泛化的概念、实现方法以及评估标准。该框架清晰地映射出两个领域的不同路径和侧重点。研究结论认为，只有深入理解并协调这些差异，才可能实现真正的AI对齐（AI alignment，即使AI系统按人类偏好行事），并构建出高效、可靠的人机协作团队。这项工作为设计能更好理解和支持人类价值观与决策逻辑的下一代AI系统奠定了重要的理论基础。研究发表在 Nature Machine Intelligence 上。
阅读更多：
Ilievski, Filip, et al. “Aligning Generalization between Humans and Machines.” Nature Machine Intelligence, Sept. 2025, pp. 1–12. www.nature.com, https://doi.org/10.1038/s42256-025-01109-4