My Secret Rainbow

突发：Geoffrey Hinton从谷歌离职，警告AI风险

加入谷歌 10 年后，Geoffrey Hinton 离职了。

突然，而又令人不那么意外：图灵奖得主、深度学习之父 Geoffrey Hinton 从谷歌离职了。

数小时前，纽约时报的一篇采访文章爆出了这一消息。

纽约时报的报道截图。

而 Hinton 在 Twitter 上的内容也证实了他从谷歌离职的消息。

这一消息的爆出迅速引发了整个 AI 社区的讨论与关注。

离职：以便自由探讨 AI 风险

一直以来，Geoffrey Hinton 都是谷歌 AI 的「门面」，并在谷歌做出了许多重要的研究成果。

这次离职，是如此的突然。

首先，从纽约时报的采访中我们得知，Hinton 在四月份提出了辞职，并于周四直接与谷歌 CEO Sundar Pichai 进行了交谈。但采访中，Hinton 并没有透露交谈的细节。

其次，离职的原因 Hinton 表述的非常明确：辞去在谷歌的工作，以便畅所欲言地谈论人工智能的风险 。

so he can freely speak out about the risks of A.I. A part of him, he said, now regrets his life’s work.

在采访中，Hinton 甚至表示对自己毕生的工作感到后悔。

Hinton 认为 AI 的危害在哪里？主要有三点：

1. 自从微软必应接入 ChatGPT，挑战了谷歌核心搜索业务，带动谷歌加入一场无法停止的竞争中；

2. 因为 AI 生成技术的突破，互联网将充斥着虚假的照片、视频和文字，普通人将 「无法再辨别真伪」。

3. 他还担心人工智能技术会颠覆就业市场，未来甚至会对人类构成威胁，因为 AI 会从大量数据中学到意想不到的行为。

在纽约时报采访中，他表示：「大多数人认为这（AI 危害）还很遥远。我过去也认为这还很遥远，可能是 30 到 50 年甚至更长的时间。但显然，我现在不这么想了。」

在 GPT-4 刚出来时，Hinton 曾称赞 GPT-4 是「人类的蝴蝶」。

培养出 OpenAI 首席科学家

在整个 AI 领域，Geoffrey Hinton 可谓是教父级别的人物。

1978 年，Geoffrey Hinton 在爱丁堡获得人工智能博士学位。在卡内基梅隆大学任教五年后，他成为加拿大高等研究院的研究员，并进入多伦多大学计算机科学系任教，现为该系名誉教授。

Geoffrey Hinton 是英国皇家学会会士，也是美国国家工程学院和美国艺术与科学学院的外籍会员。他一生获得过诸多奖项，包括大卫・鲁梅尔哈特奖、 IJCAI 卓越研究奖、 基廉工程奖（有「加拿大诺贝尔奖」之称的国家最高科学奖）、 IEEE Frank Rosenblatt 奖、 NSERC Herzberg 金奖、 IEEE 詹姆斯・克拉克・麦克斯韦金奖、 NEC C&C 奖、本田奖和图灵奖。

很长时间以来，Hinton 都致力于神经网络、深度学习的发展，而很少谈及 AI 危险论调。

我们能明显感受到，ChatGPT 既让 Hinton 惊叹 AI 能力的提升，也让他感受到了 AI 潜在的威胁。

而训练出 ChatGPT 的 OpenAI 首席科学家 Ilya Sutskever 正是其学生。

2012 年，Geoffrey Hinton 在多伦多带领的研究小组实现了深度学习的重大突破，彻底改变了语音识别和目标分类。

他与学生 Alex Krizhevsk、Ilya Sutskever 合作设计的卷积神经网络「Alexnet」以远超第二名的成绩在 ImageNet 2012 挑战赛中夺冠，将 ImageNet 数据集上的视觉识别错误率降到了 15.3%，仅有此前的一半。

这成为了计算机视觉领域的里程碑事件。

后来，他们共同成立了公司 DNNResearch。

2013 年，DNNResearch 被谷歌收购。自此，Hinton 加入了谷歌。而在 2015 年，Ilya Sutskever 加入 OpenAI，成为联合创始人与首席科学家。

如今刚好过去 10 年，75 岁的 Hinton 离开谷歌，后续会为 AI 发展带来哪些新的思考？

我们拭目以待。

吴恩达 Twitter 截图。

参考链接

https://www.nytimes.com/2023/05/01/technology/ai-google-chatbot-engineer-quits-hinton.html

原文：https://mp.weixin.qq.com/s/huUDhsgVXpACaTRl-urJNw