---

  新智元报道  

7月26日下战书，人工智能教父Geoffrey Hinton与上海人工智能实行室主任、首席科学家周伯文教授开展了一场浓缩高密度智慧的尖峰对话，将Hinton的上海之行推向新高潮。

77岁的Geoffrey Hinton第一次飞越重洋踏上了中国，当他步入会场时，全场起立鼓掌，不雅观 众们高举手机长达数分钟，直播画面中一度无法看到台上的嘉宾。

在17分钟的对话中，两位科学家谈及AI多模态大年夜 模子前沿、「主不雅观 体验」和「意识」、如何 练习「仁慈 」的超级智能、AI与科学发现，以及给年青 科学家的发起。

这场与上海人工智能实行室主任周伯文的对话是Hinton此次中国行程里的唯一一局面向AI和科学前沿研究 者的公开对话活动。

在对话前，周伯文代表上海人工智能实行室做了《无尽的前沿：AGI与科学的交叉口》主题演讲，介绍了「通专融会 AGI」路径，并且发布了全球领先的科学多模态大年夜 模子Intern-S1，它具有多学科、多模态、深思考能力，多模态综合能力逾越当期最优开源模子，多学科超Grok4等前沿闭源模子。

他以为AGI应该具备专业深度与泛化广度，并在「通专融会 」技能门路的基础上提出「SAGE」框架：基础模子层、融会 层以及评估嘉奖层三层并行、闭环反哺，使模子在科学发现中由「对象 」升维为「引擎」。

扩大年夜 阅读：

万能高手&科学明星，上海AI实行室开源发布『书生』科学多模态大年夜 模子Intern-S1 | WAIC 2025

周伯文：Jeff，您能亲临现场对我们全体 人来说都是莫大年夜 的荣幸。我想讨教一个您本周早些时间提到过，但本日上午没有时间在台上评论辩论 的标题——关于多模态模子的主不雅观 体验。您以为可以证明纵然是当今的多模态和说话 模子也能发展出自己的主不雅观 体验。您能具体叙述一下吗？

Hinton：我以为关于它们是否具有意 识或主不雅观 体验的标题，严格来说不是一个科学标题，而是取决于您如何 定义「主不雅观 体验」或「意识」。我们大年夜 多数人对这些概念的明白模子都是完整 弊端 的。就像人们可以准确使用词语，却对词语如何 运作持有完整 弊端 的理论。

让我用一个一样平常词汇的例子来阐明。想想「水平」和「垂直」这两个词。大年夜 多数人都以为自己明白它们的含义，但实际上他们的明白是弊端 的。我来证明一下：假设我手里有许多小铝棒，它们朝向各个方向。我把它们抛向空中，它们翻腾 、碰撞，然后我忽然让时间静止。

这时空中有许多铝棒。标题是：在垂直方向1度规模 内的铝棒更多，照旧水平方向1度规模 内的铝棒更多？大概数量差不多？险些全体 人都说「差不多」，由于他们对词语运作方法 的明白是弊端 的。实际上，水平方向1度规模 内的铝棒数量是垂直方向的约114倍。这是由于「垂直」是非常 特殊的方向，而「水平」则很平凡。但人们不知道这一点。

这个例子看似与意识标题无关，但它阐明：我们对词语运作方法 的明白大年夜 概 是完整 弊端 的。同样，险些每小我 都对「主不雅观 体验」这类术语有着猛烈但完整 弊端 的理论。这不是真正的科学标题，而是源于我们对心理 状况 的弊端 模子。我们有这些用来形貌心理 状况 如何 运作的术语。并且有了弊端 的模子，我以为你会做出弊端 的预测。所以，我的不雅观 点是，当今的多模态聊天呆板人已经具有意识。

周伯文：所以，这听起来让在场的许多研究 者觉得 震惊，但让我告诉你，我适才 从另一位加拿大年夜 科学家那里听到的，就在这次聚会会议上，Richard Sutton就在你之前做了一个演讲，标题是《接待来到体验时代 》。我以为他的意思是，当我们现在已经耗尽人类数据时，模子可以从自己的体验中学习 许多。您从另一个角度阐明白，Agent或多模态LLM，不光从履历中学习 ，它们还可以发展出自己的主不雅观 体验。所以我以为理查德本日没有过多触及这种从主不雅观 体验中学习 潜伏风险。您想多说说这个吗？事实，大概说您的理论、您的假设，即到现在为止，Agent可以学习 主不雅观 体验，这是否会在未来带来任何潜伏风险？

Hinton：确实，现在的情况是，比方，大年夜 说话 模子从我们供给 给它们的文档中学习 。它们学会了预测一小我 会说的下一个词。但是，一旦你有像呆板人如许的在世界中的Agent，它们就可以从自己的履历中学习 ，而且我以为它们终极会学到比我们多得多。我以为它们会有履历，但履历不是事物。而且履历不像照片，履历是你和一个物体之间的关系。

周伯文：所以，几天前当我们在IDAIS评论辩论 前沿风险时，您提到了一种淘汰未来AI风险的大年夜 概 解决 方案，就是找到一种方法来练习AI的分离目的。比方，一个仁慈 的AI，一个智慧的AI。您有一个理论……

Hinton：我不是谁人意思。我的意思是，你会有既智慧又仁慈 的AI，但如何 练习它变得智慧和如何 练习它变得仁慈 是差异的标题。你可以有让它仁慈 的技能和让它智慧的技能。它将是同一个AI，但会有差异的技能。所以，国家可以分享让它仁慈 的技能，纵然它们不愿意分享让它智慧的技能。

周伯文：我真的很喜好谁人设法主意 。但是，我对我们能在这方面走多远有些疑问。你以为会有某种通用的AI练习来使AI变得仁慈 吗？这些方法可以应用 于任何AI模子、任何智能水平？

Hinton：那是我的希望。它大年夜 概 不是真的。但这是一种大年夜 概 性。我以为我们应该研究 这种大年夜 概 性。

周伯文：是的，确实云云。我提出这个标题并不是由于我不喜好这个设法主意 ，而是由于我想提高 人们的意识，让更多人能在您提到的方向上举行更多研究 。而且我想在这里做一个类比，来向您展现 为什么我有这个疑问。以物理学为例，当物体以低得多的速率运动时，牛顿定律是有用的。但是当这个物体运动到更高的速率，靠近光速时，牛顿定律就不再实用了，所以我们必需 求助于爱因斯坦来得到更好的解决 方案。顺便说一下，这有点好笑 ，由于我正在向一位诺贝尔物理学奖得主解说物理学101（大年夜 学物理入门课）。

Hinton：但这是一个弊端 。

周伯文：哦不，这不是弊端 。你绝对值得得到诺贝尔奖。

Hinton：他们真的很想在人工智能范畴颁布 诺贝尔奖，但他们没有这个奖项。所以他们拿了一个物理学的奖颁给人工智能（的科学家）。

周伯文：但我想用这个类比来阐明一个不雅观 点，我以为对于差异层次的智能系统，善意约束大年夜 概 必要变化 。我不知道这是否准确，但我确实希望在这个房间里或在网上的那些智慧的年青 人，他们可以想出办法来实现这一点。

Hinton：是的，很有大年夜 概 ，跟着 系统变得更加智能，让它变得仁慈 的技能也会发生变革。我们不知道。这就是我们现在必要对其举行大年夜 量研究 的缘故原由之一。

周伯文：许多人对杰夫印象深刻，作为一位成绩杰出 的人，你常常说，「我不知道」。我以为这非常 诚实和开明。我们都要向你学习 。

除了AI标题，我们现场尚有一半来自差异科学范畴的顶尖学者——量子物理、生物学等。本日我们齐聚一堂，恰是 由于相信AI与科学的交叉融会 将带来突破。您如何 对待用AI推动科学提高 ，大概反过来用科学增进 AI发展？

Hinton：我以为人工智能对科学的帮助 是显而易见的。显然，迄今为止最令人印象深刻的例子是蛋白质折叠，Demis Hassabis和John Jumper等人通过合理使用人工智能并支付 大年夜 量积极，证明白这一点。他们花了五年时间。他们都是非常 智慧的人。在预测蛋白质如何 折叠方面，我们（借助AI）可以做得更好。我以为这是一个早期的标记，表白 在现在的许多范畴，人工智能都将改进 科学。我听说了上海AI实行室的例子，在预测台风登陆地点和气候预报方面，人工智能可以做得更好一些。

周伯文：对，我们用AI模子做出来的结果，比基于PDE（偏微分方程系统）的传统物理模子体现更优。

周伯文：在您杰出的学术生涯中，您不光拓展了AI技能的疆界，更深刻影响了下一代科研工作者。我曾与许多比您更年青 的学者交换，他们都对您充满敬仰。在上海人工智能实行室，我们的研究 职员均匀年龄只有30岁——这清晰地表白 ，AI的未来属于年青 一代。

（看向在场年青 研究 者）您的智慧之光正照耀着这些年青 的面孔。不知您是否愿意分享：对于AGI的下一代发展，您有何看法？大概，您能否愿意给这些年青 人一些加速成长的发起，一些他们能带回家、能自豪告诉父母 的智慧规语 ——毕竟本日与您相遇是一段珍贵的履历，他们未来大年夜 概还会告诉自己的后代。

您最想传递给他们什么？

Hinton：我想最核心的发起是：若想做出真正原创的研究 ，就要寻找那些「全体 人都大年夜 概 做错」的范畴。通常当你以为「世人 皆错」时，颠末探索 终极会发现传统方法的合理性——但这恰恰阐明：你永久不应轻易放弃新思绪，除非自己真正明白它为何行不通。即便导师否定 你的方法，也要坚持 质疑。

坚持你所相信的，直到你自己明白为何它是错的。只是偶然，你会继续坚持你的信仰——而它终极被证明是准确的。庞大年夜 突破恰是 由此而来，它们从不属于轻易放弃之人。你必需 坚持己见，纵然他人并不认同。

有一个逻辑支撑这一不雅观 点：你要么拥有好的直觉，要么拥有坏的直觉。

若你的直觉是好的，那你显然应该坚持它；

若你的直觉是坏的，你做什么着实都可有可无——所以你依然应该坚持自己的直觉。

周伯文：我想我们可以就此畅谈一整天，但我知道您已疲惫。最后，请在场全体 人随我一同感谢杰夫为我们倾注 的时间。非常 感谢您！

（全场再次起立，掌声雷动。）