摘要： 我们如何确保人工智能系统比人类聪明得多并遵循人类意图？ 目前，我们还没有一个解决方案来引导或控制潜在的超级人工智能，并防止其失控。我们当前调整人工智能的技术，例如根据人类反馈进行强化学习，依赖于人类监督人工智能的能力。但人类无法可靠地监督比我们聪明得多的人工智能系统，乙[乙] 其他假设在未来也可能被 阅读全文