AI 自我进化从科幻走进现实
从 ChatGPT 掀起生成式 AI 浪潮到现在，不过短短两三年，AI 能力的进化速度已经让「AI 自我进化」这件事从科幻走进了现实。上个月，Anthropic 在一份公开报告中预测，AI 未来将进入 「递归自我提升」（Recursive Self-Improvement, RSI） 阶段，并呼吁人类共同为 AI 的发展设计出一个减速或暂停机制。
所谓递归自我提升，指的是 AI 系统能够自主改进自身能力，然后利用改进后的能力进一步优化自身，形成一种自我加速的进化循环。Anthropic 的报告指出，一旦 AI 达到这一阶段，其发展速度将远超人类的控制能力，可能带来不可预测的风险。
报告同时提出，行业需要在技术发展的同时建立相应的治理框架，包括但不限于：可追溯的 AI 决策记录、限制性的自我改进权限、以及多方参与的监督机制。Anthropic 呼吁全球 AI 研究机构和管理部门共同参与这一讨论。
来源：AITNT News