当前观点：通讯Plus·深度｜突发离职！“AI教父”杰弗里·辛顿告别谷歌

人工智能行业迎来了一场大地震。

在业内有“人工智能教父”之称的计算机科学家杰弗里·辛顿（Geoffrey Hinton）近日在社交媒体上证实，已经于上周离开Google。在接受媒体采访时，他表示，“我对我毕生所研究的东西感到后悔了。”杰弗里形容称，AI聊天机器人所带来的某些危险“相当恐怖”。

(资料图)

当人工智能开创者摇身一变，成为“AI末日预言家”，人工智能产业的发展是否已经失速？

AI教父“叛逃”

辛顿是计算机科学家中的佼佼者，同时也是深度学习领域的先驱。

2013年，杰弗里和Google结缘。他因创办的DNNresearch公司遭收购而进入谷歌，彼时，辛顿团队当时通过分析数百万张照片打造出一款可区分动物、物体图片的神经网络系统，被视为当代AI的基础。他曾在多个顶级机构担任职务，包括加拿大多伦多大学的计算机科学教授、谷歌Brain团队的研究员等等。2018年，由于对神经网路研究的贡献，辛顿与法国计算机科学家杨立昆（Yann LeCun）、加拿大计算机科学家约书亚·本希奥（Yoshua Bengio）共同获得了2018年的图灵奖。

辛顿的离职引起了外界的猜测。一些人认为他离开是因为谷歌内部的问题或不满意的工作环境，但是辛顿本人在接受媒体采访时表示，他对自己在人工智能领域的研究感到后悔，并指出聊天机器人所带来的某些危险“相当恐怖”。

辛顿在接受采访时表示：“我对我毕生所研究的东西感到后悔了。我曾经试图让计算机能够理解世界，并通过学习来实现这一目标。但是我现在意识到，我们需要更好地掌握这些技术，并且需要更加谨慎地使用它们。人工智能系统正在变得越来越危险。尤其是随着微软已经通过聊天机器人增强了Bing搜索引擎，并挑战谷歌的核心业务，科技巨头陷入了一场可能无法停止的竞争。”

人工智能引发算法狂欢

即使距离最早发布已经过去近六个月，但ChatGPT所引发的话题热度仍然持续居高不下。

随着2022年底ChatGPT的火爆，人工智能的发展登上了新的台阶。不论是海外市场的ChatGPT、Bard、TruthGPT，还是国内的阿里通义千问、飞书My AI、知乎知海图 AI、京东言犀都冒出了头，科技互联网行业一时之间，好不热闹。在各类型AI工具层出不穷的背后，用户和互联网也被人工智能的能力所折服。从翻译、学术问答、代码纠错、日常对话，到新闻采编、诗词编写甚至是剧本改编，人工智能在完成各类型任务背后所展现的语言逻辑和思维的缜密性让不少人看到了人工智能背后的潜力。

但人工智能的车轮飞速向前，也引起了不少人的忧虑。

今年3月，马斯克联合上千名技术领袖和研究人员签署了一封公开信，呼吁暂停GPT模型新系统的开发，并认为AI技术将给“社会和人类带来深远的风险”。无独有偶，谷歌CEO桑达尔·皮查伊也在一次公开采访中谈论人工智能的伦理问题，并表示：“社会尚未为人工智能的快速发展做好准备。”他还警告称，人工智能的后果将影响“每家公司的每一种产品”。

3月14日，OpenAI在官网发布了推出GPT-4的公告。相比上一代版本，GPT-4的AI能力再度提升，在官方演示视频中，GPT-4几乎只花了1-2秒的时间，即可识别手绘网站图片，并根据要求实时生成了网页代码制作出了几乎与手绘版一样的网站。本周，三星表示将暂时限制员工通过公司电脑使用ChatGPT等生成式人工智能。背后的原因就在于，三星在一个月前曾发现其内部敏感数据意外被泄露给ChatGPT，此外还指出ChatGPT等AI工具所存在的安全隐患，例如用户很难“检索和删除”外部服务器上的数据，而这些被传输到AI工具上的数据可能会泄露给其他用户。

杰弗里·辛顿也提到，他目前最担心的是，互联网将充斥着虚假照片、视频和文字，普通人将“无法再知道什么是真的”。此外，AI技术最终会颠覆就业市场——事实上，就在他从谷歌离开时，IBM宣布将在未来通过AI取代7800个左右的岗位。“它省去了繁重的工作，但它带走的可能不止这些。”辛顿称。

AI发展需要有序环境

可以预见的是，禁用或暂停ChatGPT以解决安全问题的做法，三星并不会是唯一一家。

今年2月，JP摩根大通、美国银行、花旗、富国银行等华尔街巨头陆续表示将禁止或限制使用ChatGPT。全球第二大存储芯片巨头韩国SK海力士称“除必要时刻外”，几乎禁止公司内部网使用ChatGPT。日本软银集团此前向全体员工通报了禁止在ChatGPT中输入机密信息等注意事项，该集团还计划制定了哪些业务或用途可以使用交互式AI的规则。

ChatGPT等AI模型已经引起了多国对人工智能的集体反思。从最初在全球引发惊艳和狂欢，到如今其安全性引发业界广泛担忧。人工智能开始面临公共安全、隐私侵权、数字鸿沟、伦理失范等挑战和现实问题。最终，还是要回归“技术不作恶”的底线。

例如，美国参议院多数党领袖舒默近期发起一项针对人工智能的治理框架，并聘请了顶尖的人工智能专家进行咨询。该计划将侧重于建立人工智能系统的透明度，并要求独立专家在公开发布之前测试人工智能技术，并要求披露参与技术开发的人员、地点和方式。

可见，尽管人工智能的发展取得了前所未有的突破，但当行业的发展速度与相关政策法律法规无法匹配，相应的风险自然会被不断放大。人工智能产业的发展，也离不开有序的产业环境。

正如杰弗里·辛顿此前提到的：“如果AI系统被允许不仅可以生成自己的计算机代码，而且实际上可以自己运行该代码，这就会变得非常可怕。”