菓趣

注册日期:2025-12-19
访问总量:95376次

menu网络日志正文menu

人工智能不可能有意识


发表时间:+-


其实这个问题可以解释得非常简单。麻烦仅仅在于为了政治目的和商业利益懂的人故意模糊了词汇的意思而导致理解的混乱甚至颠倒。

这就是“人工”(artificial)这个词被误解,曲解,甚至被有意颠倒了它的含义。这个词的本来意思是“模仿”, 人类很多技术都是靠模仿得来的。比如航天技术的起步当然就是飞机技术。而飞机这个词可以用“模仿鸟”来代替,就是说飞机是人工制造的鸟类型的机器。同样地,人工智能可以用“模仿人的智能的机器”来代替。这样就很容易理解为什么人工智能不可能有意识。

要深度地或者真正地理解这个词的内涵,读者只要懂得计算机到底是个什么玩意就丝毫不会误解这一点了。那么,有兴趣并且有能力的读者需要懂得计算机的基本原理和计算机的语言就万事大吉了。前者说的是计算机是如何被设计和制造出来的,后者说的是计算机到底如何在被操作和运转。知道了它是如何造出来的和如何被语言指令实施计算的, 那么就不会误解计算机是否有意识。就像几乎没有人会误解一架飞机会不会自行做出决定飞往某个地方,或者一架飞机会不会突然发火自己决定杀了所有的乘客一样荒唐。而人工智能或者“模仿人的智能的机器”说到底还是一台计算机, 只不过它从小学水平升级到了博士水平。它可以通过人类不具备的巨大“高速”来完成非常复杂的事情。但是除了高速以外,它没有任何其他人类具有的能力。它只是被人类造出来用于计算的机器。不管它多么复杂高速,它还是一台机器而已。

虽然另一个容易误解的是计算机的存储量也超过人的想象,但是这一点其实它也比不过人类。因为人类的记忆力和知识存贮量是无法用数字来衡量的(它是超越数字无穷的另一种更高级的无穷),而计算机的记忆是可以用有限的数量来描述的。只是人类的存储量不能在极短时间内展示出来,而计算机的存储量可以通过它的高速瞬间表达出来。比如图表在屏幕上的显示比打印快很多,几乎不需要肉眼和人类可以感知的速度展示出来。这是背后的电转递速度和光速在起作用。但是它仍然是物理现象,不是生物现象。而意识是一个生物现象,我们人类对之懂得的很少几乎为零。所以人类对生物现象也就无法驾驭它,就像人类(至少目前)丝毫看不到可能通过(无机原料比如尘土)制造我们自己一样。

这就是计算机(或者人工智能这个非常复杂的“计算机”机器)不可能有意识的根本原因。也就是与人类相同能力的机器人绝不可能被制造出来,因为那就等于我们人类造出了另一个“人类”。这种说法如果不是科幻小说,那么它就是百分之百的谎言甚至欺诈。 

作者:菓趣 回复 双不
留言时间:2026-07-09 13:35:50

“防止AI具有自我意识”? 这个“课题”是绝对的欺骗。目前所说的AI(我把它叫做“计算性智能”就是为了强调这一点,我如果真正地兼职相关事务,我会在教育科研部门尽力推广我这个用词,只在工商业部门可以继续使用“人工智能”)永远不可能有意识,因为它就是一部超级的计算机而已。这个超级计算功能的一部分叫做“代理智能”,就是说在自动程序(复杂的程序现在不需要逐句写作,因为它已经“学” -不同于人类的“学”- 会了写作程序)的运转下的一个AI产品仍然只是一部自动化了的机器。

它的“身体”就是一堆各类合金的组合体,怎么可能有意识呢。除非等到(是否可能不知道,已知的知识判断生物计算机也是不可能被生产出来)生物计算机出现,现有的计算机与原来的计算机毫无二致。只是计算能力得到了海量的提高而已,所以才有人提出下一个国家间竞争目标不是人工智能,而可能是庞大的电力贮备。因为计算机的硬件和软件都已经接近“物理”极限,没有多大空间继续开发了。只是这些硬件和软件的应用才有非常大的发展空间。大声呼喊“人工”智能和编造造计算机可以有意识的谎言,除了外行不知道瞎嚷嚷以外都是为了政治(骗取职位)和商业造作(骗取经费)。我们需要告诫科学家们:“严谨地从事教育与科学研究,不要被暂时的商业利益冲昏了头脑。” 你这里提出的这个现象可能需要引起足够的重视。特别是它可能妨碍各级学校(包括小学,中学,大学,研究生)的课程的设置,撰写,和规划; 这是美国国会2009年通过的一个巨额拨款法案的要求。

作者:菓趣 回复 随意生活
留言时间:2026-07-09 14:17:17

“1997年超级计算机“深蓝”击败国际象棋世界冠军卡斯帕罗夫,2016年AlphaGo战胜李世石,这是两个AI发展的里程碑。”:

你说的这件事是我的终点学术职位基金的主要捐款人谷歌(现在我都不知道它改了几次名字了)的杰作。也就是说我个人可能要为它做点事,现在看来是我可能要兼任某种行政职务。

它做到这一点就是靠提高硬件和改造软件。其中一个与数学紧密相关的是组合学(属于离散数学和计算机数学)的应用(所以就有了仿神经网络: 人工智能里的“人工”就是这个“仿”或者“模仿”的意思, 而宣传人工智能的人刻意抹去了这个“模仿”把它当成“真”在叙述)和张量分析的应用。后者就是相当于微积分但是在向量上实施微积分的理论与方法。所以,数学界要做的一件事就是要重新在各个大学设置“张量分析”这门课程)高年级微积分之后的向量微积分(与多维微积分相当靠近,我没专门学过但是教这门课我可以随时上讲台比如我教过一次高年级统计学和一边自学的博士课程;不过我今后的职位当然不需要我带任何课程,只需要我指导博士论文和兼职某种行政事务:而这个行政事务恰恰可能与人工智能相关-各位有见识的真实才学之观点可以为我的职务所借用)。这里最好再加一句改造软件其实就是来自传统算法的“逆算法”。而这个“逆算法”除了上面提到的2个数学学科的应用外,就是以统计学思路为主干的机器学习(加上神经网络就是深度学习)。这可能就是我的31年9个职位中有一个波士顿大学统计学教授3年职位的原因所在; 在这个职位之后我的职位是在约翰斯霍普金斯大学的应用数学(其实还是统计学)和数学两系的2年杰出教授。


浏览(1353)
thumb_up(2)
评论(33)
  • 当前共有33条评论
  • 麻辣隔壁

    如果马克思活到现在,他会怎样评价AI? 人工智能遵循辩证唯物主义吗?

    屏蔽 举报回复
  • 白草 回复 白草

    记得一个好玩的电影场景是,女孩被男友伤害了,女孩的机器人就把男孩杀了,因为它的目的就是保护女孩不受伤害。后来女孩与父母起冲突,购买机器人的父亲想夺回机器人的控制权,于是机器人的自我保护变成保护女孩的逻辑的一部分,杀死父亲也成了拯救女孩的合理选项。

    屏蔽 举报回复
  • 白草 回复 菓趣

    但是没有人的指令,AI不可能下达杀人的命令。


    科幻电影里早就有这种想象了。AI机器人被人设定为奴隶,不能做伤害主人的事。但什么是伤害主人的事,就可以由机器人自行判断了。而这个现实世界是有无穷大无穷多的可能性的。越来越智能的机器人的自我觉醒,大量机器人的联合,最后机器人类的决定是为了拯救人类,必须杀死所有人。重置一下地球生物圈。才能创造一个更适合人类的环境。至于哪一步错了,并不是一个逻辑问题,而是概率问题。高科技本质上就是把自然界里的小概率事件普遍化。

    屏蔽 举报回复
  • 菓趣 回复 双不

    不可能! 因为AI克服不了无穷这个障碍。这个障碍人类也暂时不能克服,至少还得等几十年。另外我的回评过后再写。

    屏蔽 举报回复
  • 双不 回复 双不

    可惜我对数学一窍不通,不然我要去训练ai做 存数学了。

    屏蔽 举报回复
  • 双不 回复 菓趣

    Ai现在离证明黎曼猜想还很远。但如果有数学家训练ai去做数学证明,假以时日ai就能够证明很多问题,甚至黎曼猜想。当然不会是现在。

    其实我把ai能否证明哥德巴赫猜想作为ai是否超过人类的标准。

    屏蔽 举报回复
  • 菓趣

    这篇文章已经第八次被杂志接受,审稿人(我猜得出他是谁)的意见是不修改也可以发表。但是建议做微小的修改使得文章增色。审稿人懂,但是copilot丝毫不懂。

    屏蔽 举报回复
  • 菓趣 回复 双不

    读了你的评论,我请Copilot帮我整理一下我整理过的整个黎曼猜想的总结一文。我是想看看它到底能够做多少。不出我的意外,它几乎什么都不会做。它只是引用了之前文献中的有些观点,它几乎不知道我在说什么。它倒是复述了我的主要观点,也难怪它因为我的文章还没有正式发表。谁也不会把没有正式发表的论文内容输入电脑的存储库,所以它不知道对我的论文的如何评价。

    有点扫兴的是它引用了几篇我认为没多大用途的已发表论文的观点。因为哪怕学术界也被怪圈笼罩着,它居然几乎丝毫不知道我这个即将震惊世界的新结果。因为没有人告诉它,它自己并不会从搜索中判断哪些东西有用哪些东西没用。对有用与否它当然只是从输入给它数据的人那里知道。所以,它几乎连我们所说的依样画葫芦也不会。因为黎曼猜想的数不清的虚假证明比唯一一个真实证明来说几乎是仓海一蜀,对此它当然没有任何判断能力。

    屏蔽 举报回复
  • 菓趣

    教会里当然可以说上帝存在。但是任何人把它当作学术问题来证明上帝存在,那么它就是入了魔。或者说精神病态!

    屏蔽 举报回复
  • 菓趣 回复 双不

    学会某个证明那不是你证明了,那是你学会了书本上的东西。你不能用已知的证明方法证明没有证明过的定理。你说的那个黎曼猜想”证明“当然是可能的,但是这个办法不能说是它证明的。按你的说法它不过是鹦鹉学舌巧妙地抄我的作业而已。那不能算是它证明的,而是它可以教学讲解我的证明。它的独立证明必须是不用我的证明从新独立地发现另一个证明方法。证明一个新的结果是一种发现,不是学会。学会可以发现是不可能的,因为它对付不了我们必须对付的无穷大。凡是有限的问题,倒是都可以用穷举法用计算机证明。只要计算机有足够的单元就行,这个恰恰是人类做不了的事情可以让计算机做。

    根本的一条就是你学了计算机原理就知道计算机的结构里只有有限个单元被它使用。有限个单元不可能装下无穷这个东西也可以叫做“数字”。人脑的智慧如何装下无穷这个玩意并且合理地对付它,这个问题超出了人类脑袋可以回答的范围。也就是我又重复,这样的问题你提出合理,但是你想得到答案就是自找苦吃。这个问题“没有答案”就是“最后最好的答案”。继续往下问属于不智的提问,就像有人想证明上帝存在。继续提问就不是提问,而是愚蠢了。试图解决不能解决的问题不是智慧,而是愚蠢。这里我说一句我说过某些读书人“最讨厌”的话,那就是企图建立完美的社会制度不是合理的追求而是愚蠢。说民主制度就是最好制度的人也是一样的愚蠢至极。因为上帝的存在与否与什么是最好的制度都是不可能回答的问题。这就是我说过的过分探求所谓真理的人也是愚蠢至极,因为这个世界没有绝对的真理(因为我确信但是无法证明也不需要任何人证明给我看,那就是上帝绝对不存在: 谁要信那是他的事情,我不反对他信上帝,但是他如果想对我证明上帝存在,我立马回答“打住, 你说你信我尊重,你企图说服我信那么你就是愚蠢至极。没有往下说的必要”, 有人继续往下说,我说对不起,“再见”我不得不起身离开)。


    屏蔽 举报回复