

OpenAI前首席科学家Ilya Sutskever在2024年12月13日于温哥华举行的NeurIPS会议上预测,人工智能的推理能力将大大降低技术的可预测性。
2014年,Sutskever与Oriol Vinyals和Quoc Le共同撰写了一篇重要的论文,他们的工作为许多现代人工智能的进步奠定了基础,并因此获得了“时间的考验”奖。
他解释说,虽然将数据扩展到“预训练”人工智能系统已经取得了重大进展,包括ChatGPT的开发,但这种方法现在正在接近极限。
“我们所知道的预训练毫无疑问会结束,”Sutskever说,他强调尽管计算能力不断增强,但由于互联网的限制,新数据的可用性是有限的。
为了克服这一挑战,他提出人工智能可以自己生成新数据,或者在选择最佳答案之前评估多个答案,以提高准确性。
Sutskever还分享了他对人工智能未来的看法,预测“超级智能机器”“显然”即将出现。他认为,这些机器将拥有与人类类似的更深层次的理解和推理能力。
然而,他警告说,“它推理得越多,就越难以预测。”他解释说,通过数百万种选择进行推理可能会使任何结果都不明显,他引用了DeepMind的AlphaGo,后者在2016年与李世石的比赛中以令人费解的第37步让专家们感到惊讶。
Sutskever还将未来的人工智能系统与先进的国际象棋引擎进行了比较,指出“真正优秀的人工智能系统对于最优秀的人类国际象棋选手来说是不可预测的。”他的结论是,人工智能的未来形式将“完全不同”,而且由于其推理能力的增强,将更加不可预测。
在回顾最近发生的事情时,Sutskever提到了今年早些时候他与人共同创立了Safe Superintelligence Inc.,此前他对自己在Sam Altman短暂被OpenA解雇一事中所扮演的角色感到后悔