科技界领袖:警惕“杀手机器人”叛变

德国之声 08-23 16:36+-

40167253_303.jpg

  在机器人和人工智能技术发展迅速的背景下,业界领袖呼吁加强监管,以避免出现“不稳定效应”。他们警告,有关技术可能是一个“潘多拉的盒子”。

  人工智能(AI)和机器人技术产业的一百多名领导人物周一联名签署一封公开信,提醒公众,战争领域的"第三次革命"正在悄然发生。

  所谓"自主武器"(autonomous weapon)是联合国常规武器大会讨论的议题之一。原定于本周一举行的会议因故被推迟。

  公开信称:"科技企业开发的人工智能和机器人技术,有可能被改造用于制造自主武器,我们尤其感到有责任提出警告。"

  公开信的签署人包括SpaceX的CEO埃隆•马斯克(Elon Musk)以及谷歌DeepMind创始人之一、现负责DeepMind应用人工智能(applied AI)的穆斯塔法•苏莱曼(Mustafa Suleyman)。

  信中呼吁联合国加大努力,寻找防止自主武器军备竞赛的途径,以保护无辜平民不受到此类武器滥用的伤害,避免有关技术引发的"不稳定效应"。

  潘多拉的盒子

  这并不是业界领袖第一次就所谓"致命性自主武器系统"(Lethal Autonomous Weapon Systems)的灾难性后果提出警告。2015年,一千多名知名科学家就曾对这种"杀手机器人"提出警告。

  著名物理学家霍金(Stephen Hawking)将人工智能称为人类犯下的"最糟糕的错误",而马斯克则称之为目前可以想象的对人类生存的最大威胁。

  "它可能成为恐怖主义的武器、被独裁者和恐怖分子掌握在手中,加害无辜民众,它也可能被恶意操控,做出违反人们初衷的举动。"公开信写道:"现在我们还有时间采取行动,一旦潘多拉的盒子被打开,就很难再关上。"


  • 最新评论
  • songwukong

    纵观人类历史,凡新技术一定会用于军事,所以这些都是说了等于白说。回顾一下麦克阿瑟在二战结束(日本投降)时的演讲吧,可能更有意义一些(只不过以人类的智慧高度看来很难达到):“人类自始就在寻求和平,曾经试图以各种国际手法来预防或解决国际争端。至今可行的方法只适用个人,但是大至国际范畴的机制还没有成功过。军事联盟、强权均衡、国际联盟等机制逐一失败,仅余战争一途。我们只剩最后一次机会。如果我们不制定一个更强大且公正的系统,世界末日就在跟前了。要拯救肉体必须从精神着手,因为这个问题的根本是神学上的。。。”

1