英伟达发布年度最危险论文:让AI亲手造出更狠的”考官”淘汰自己

英伟达年度最危险论文

英伟达发表了一篇被业界称为”年度最危险论文”的研究成果——打破 20 年来的学术封印,让 AI 可以 亲手设计出更强大的评估机制,用来淘汰和超越自己。

核心突破

传统 AI 训练依赖于人类设计的评估基准和训练方法。这篇论文的核心思想是:让 AI 参与到评估标准的设计过程中,通过自我博弈的方式不断寻找更难的测试来挑战自己。

这就像是让考生不但要答题,还要自己出更难的新考卷——然后在这张新考卷上继续作答。

无休止的自我进化

研究团队认为,一旦这种”自我进化”的机制被启动,AI 的能力增长将进入指数级加速阶段。论文作者甚至给出预测:到 2028 年,ASI(超级人工智能)的降临可能不再是科幻。

学界争议

这篇论文引发了巨大争议。支持者认为这是突破算力瓶颈的必要探索;反对者则警告,缺乏人类监督的 AI 自我进化存在不可控风险。


来源:AITNT News

发表评论