“我非常后悔！”AI之父离开谷歌，警告人类ChatGPT的巨大风险

原标题：“我非常后悔！”AI之父离开谷歌，警告人类ChatGPT的巨大风险

在人工智能发展突飞猛进的今天，有太多伦理上的问题需要去克服。

ZHENGJIEKEJI

正解科技出品

美国有个著名的系列电影——《终结者》。

说是在未来的世界，世界已经由机器“天网”来操控，并且机器希望把人类赶尽杀绝。

为了改变未来的历史，挽救人类的命运，主角一行人穿越时空，找到了“天网”之父，说服他，希望其销毁一切有关“天网”的资料，阻止“天网”诞生。

现在，电影里的剧情，可能正在成为现实。

01

之前，无相君介绍过ChatGPT诞生的故事，英国著名计算机科学家、获誉为“人工智能教父”的辛顿和他的两个学生用AI的力量，引起了各大科技巨头的争抢。

最终辛顿入职谷歌，他的学生IIya Sutskever后来从谷歌离职，创办了OpenAI并开发了现在如日中天的ChatGPT。

现在，AI之父后悔了！

最近，辛顿从谷歌离职，并接受了媒体的采访，坦言为自己研发人工智能（AI）技术感到后悔，并且透露自己辞任Google副总裁的主要原因，就是希望能够警告世人有关AI发展的潜在可怕风险。

“看看它（AI）5年前和现在的模样，那样的差异和成长，真的很吓人。”

“这些系统在某些方面，正在超越人类的智慧，因为它们分析的数据资料量很庞大。”

他提到，自己曾经以为AI要进化到比人类聪明，起码要花上30年至50年，但现在看来，这个情况马上就会出现。

目前，AI目前已经有能力生成犹如人类撰写的文章，以及像真度极高的图片和视频。

实际上，中国有很多大型科技公司、网络直播公司已经开始大规模的偷偷使用ChatGPT，并裁掉不少员工。

美国、欧洲也正在那么干。

这就引发了辛顿的忧虑——未来的互联网，将充斥大量由AI生成的虚假文章、图片和视频，而一般人将无法辨别这些信息的真伪。

此外，他越来越担心很多工作岗位将被AI取代，大量白领失业，出现社会危机。

辛顿指出，AI会通过分析庞大的数据集，学习到超乎人类预期的行为。

有人会利用AI系统自行编写程式运行，并且人类再难掌控此类AI系统。

假如放任这种发展趋势，人们很难阻止一些坏人利用AI做坏事，例如制造出可以自主决定目标的杀人机器。

所以辛顿呼吁，国际社会尽快就AI技术发展订立全球监管措施，避免他的假想最终成为真实的噩梦。

“如果人类放任AI发展失控，最终将威胁人类的存亡。”

02

我们回想一下，电影《终结者》中的机器“天网”是怎么诞生的？

一开始也是人类研究出来，为了服务人类，但最后“天网”有了学习能力，并产生了自我意识，最后开始消灭人类。

现实世界也许没有那么夸张，但已经初现端倪。

最近，世界经济论坛在其《就业前景报告》中预测，全球近四分之一的工作岗位将发生变化。

这份报告调查了全球45个不同经济体的803家公司，约有75%受访公司表示，预计会在5年内采用人工智能技术。

约50%的公司预计人工智能会创造就业机会，而25%的公司预计就业机会会减少。

到了2027年，全球会减少1400万份岗位职位。

而研究发现，科技进步正是导致失业的最大因素之一。

比如收银员、售票员和会计等，一旦信息数字化和自动化的推动，这些岗位就完全没有存在的必要了。

我们看现在很多超市，不都是用自动扫码机取代收银员的吗？

03

但是，呼吁归呼吁，人们很难在现实巨大的利益面前，去考虑道德，考虑未来。

对于超市老板而言，10台扫码机的成本不过1万。

但10个收银员的年薪，可能就要超过50万。

这种诱惑，很难让老板们拒绝。

诺贝尔经济奖得主史迪格里兹认为，在所谓“自由市场”的调节过程中，财富不是向下，而是向上流，造成富者愈富的财富再分配现象。

只要丛林法则没受到有效约束，社会制度（例如税制）没相应变革，AI创新的成果（所谓经济的饼做大了）同样会被少数精英阶层掠取，令财富更加集中到少数人手上。

赢家全取，输者全输。

当社会财富向上流，经济赤贫化，加上婴儿潮人口老化，要怎么办才能舒缓大众的困厄？

在人工智能发展突飞猛进的今天，有太多伦理上的问题需要去克服。

我们不该只是惊叹其发展之快速、应用之便利，也该小心它对于社会的冲击，毕竟它是威力强大无比的工具，一旦失控，绝对后患无穷。