马斯克等千名科技人员签署公开信：呼吁暂停巨型AI实验

未来生命研究所（Future of Life Institute）29日公布一封题为“暂停巨型AI实验”的公开信，呼吁所有AI实验室立即暂停训练比GPT-4更强大的AI系统至少6个月。公开信中提出，广泛的研究表明，具有与人类竞争智能的人工智能系统可能对社会和人类构成深远的风险。高级AI可能代表地球生命史上的深刻变化，应以相应的关怀和资源进行规划和管理。不幸的是，这种级别的规划和管理并没有发生，只有当我们确信它们的影响是积极的并且风险是可控的时候，才应该开发强大的人工智能系统。这种信心必须有充分的理由，并随着系统潜在影响的规模而增加。

截至发稿，这封信已有一千多名科技人员签名，除了马斯克、谷歌副总裁兼工程研究员辛顿和Robust.AI首席执行官兼创始人马库斯之外，还包括苹果公司联合创始人史蒂夫·沃兹尼亚克（Steve Wozniak）、Stability AI首席执行官埃马德·莫斯塔克（Emad Mostaque）等人。