Harness Engineering for Self-Improvement
原文：Harness Engineering for Self-Improvement，作者 Lilian Weng。 递归式自我改进（recursive self-improvement, RSI） 的概念可以追溯到 I. J. Good (1965)。他把“超智能机器”定义为一个能够在所有智力活动上超越人类，并能设计出更好机器来改进自身的系统。Yudkowsky (2008) 用“递归式自我改进”这个说法描述一个特定反馈环：AI 使用当前智能来改进产生其智能的认知机器。 ...