这个实验结果对 AI 能力的来源提出了有趣的问题。
实验内容
36 氪报道,OpenAI CEO Sam Altman 分享了一项实验:仅使用 20 世纪的数据训练 AI 模型,结果模型仍然能够编写 Python 代码。尽管 Python 诞生于 1991 年,但模型在没有 21 世纪数据的情况下仍能学会编程。
技术启示
这一结果表明,AI 的推理和泛化能力可能不依赖于大规模的海量数据。即使数据来源受到限制,模型仍然可以通过逻辑推理和模式识别来掌握新技能。
行业讨论
这与当前关于 scaling law 是否仍然有效的讨论密切相关。如果少量高质量数据就能训练出强大的模型,那么对算力竞赛的反思可能会加速。
来源: 36 氪 + 量子位
链接: https://36kr.com/p/3789105218362369