智者三虑

智者三虑 5/31/2023

最近这半年，人工智能突然火了起来。随着各种功能强大的 AI 产品的不断出现，一时间各种新问题都冒了出来：老师用 AI 出题，学生用 AI 答题，学校在考虑怎么对付 AI ，有的地方干脆把 AI 和色情网站归为一类，封了。有人因为和 AI 聊天，抑郁了，更有甚者，还有人聊着聊着就不想活了，一猛子从楼上扎了下去。

对于 AI 近期突破性的进展，有些人乐观，有些人悲观，还有不少人不知所措，世界首富马斯克甚至找了一帮科学家，联名呼吁放缓对 AI 技术的开发，等想好了再干。不过这些都比不上 Geoffrey Hinton 🔗的影响，这位 AI 技术教父级的计算机科学家，最近离开了 Google ，并公开谈了他对于这个他为之工作了一辈子的领域的忧虑，说他有点儿后悔了。

首先，真假难辨。 AI 告诉你的不全是真的，但听上去特像真的，有理有利有节。过不了多久，什么是真的，什么是假的就真说不清楚了。西游记里有个真假美猴王的故事，孙悟空和那只六耳猕猴迷惑了所有人的眼睛，连观音菩萨都没办法，最后还是到如来那才算把那桩公案了了。现如今，要是满地都是真假美猴王，到哪找那么些如来去呀。

第二条，失业。这点很多人都有同感，但有意思的是， Geoffrey Hinton 用的例子是码农，这些当下的天之骄子们的工作很快就会被 AI 抢走了。听到这，心里不免有点暗自庆幸，干了一辈子码农，现在退休了，至少不用和 AI 争饭碗啦。

更可怕的是，机器人士兵。 AI 用于军事后，将对未来的战争方式带来巨大的改变，谁知道到时候谁还能有效地控制战争的何去何从呀。联想一下，就像我的一位读者在他的评论里说的，要是下届世界杯，每个队都有个 AI 梅西，那还看什么球啊。

按赫拉利（《人类简史》的作者）的说法，生化技术让我们长寿， AI 技术让我们幸福，各类新技术加一起让我们成为神人，不是像上帝那样的神人，是像阿童木，孙悟空那样神通广大的神人。而且所有这一切都将在本世纪发生，闭上眼睛想想吧。看来 Geoffrey Hinton 和赫拉利是相通的。还有一个共同点是：他们提出了问题和忧虑，但都没能提出个可行的解决办法。

孙悟空不可怕，有如来在呢，闹得不像话了，一座五指山就让你老实五百年。人学坏也不可怕，有上帝在呢，一瓢水就让你从诺亚方舟上从新来过。可 AI 要是闹起来，上哪找它的上帝去呀？

The Godfather of A.I. Has Some Regrets 🔗