AI恐酿人类灭绝!350名专家联署警告:视同核战

上报 2023-05-31 08:05+-

350多名專家聯名警告人工智慧技術的快速發展對人類構成的滅絕威脅,不亞於核衝突和流行疫情。(美聯社)

350多名专家联名警告人工智慧技术的快速发展对人类构成的灭绝威胁,不亚于核衝突和流行疫情(美联社)

人工智慧(AI)成为当前科技界热门话题,为人们带来方便的同时,却也引发各界担忧。包括OpenAI、Google Deepmind、Anthropic等350多名AI企业领袖与相关业界专家30日联手示警,强调AI技术发展过于迅速,对人类构成的灭绝威胁,不亚于核战衝突和流行疫情。 

美联社报道,关注人工智慧风险的美国非营利团体“人工智慧安全中心(CAIS)”30日公开联名信,指出“降低AI带来的灭绝风险,应该与其他社会规模等级的风险,如大流行疫情和核战,同为一项全球优先要务”。  

联名信指出,针对AI恐将造成广泛重要且急迫的风险一事,包括AI专家、记者、决策者和民众进行讨论的热度日增,但即便如此,也难以完全表达出各界对部分先进AI技术发展风险的高度忧虑,该声明旨在解决这项难题,并开启讨论,同时也向关切AI可能引发危机的公众人士,提供可资参考的知识平台。

根据CAIS官网公布的连署名单,目前该声明已有350多名专家和科学家联名签署,其中包括有AI教父之称的辛顿(Geoffrey Hinton)、开发ChatGPT的OpenAI公司执行长阿特曼(Sam Altman)、Google公司AI部门DeepMind执行长哈萨比斯(Demis Hassabis)、微软公司技术长史考特(Kevin Scott)、开发AI系统语言模型的Anthropic公司执行长阿莫迪(Dario Amodei)等知名业界大咖。

该声明未提出具体措施,只有部分专家提议按照联合国方针建立国际监管机构。CAIS主任亨德里克斯(Dan Hendrycks 表示),之所以只在信中写上简短一句话,是为了确保此核心警告不会被忽视。他表示:“在我们进行有意义的政策讨论之前,我们需要广泛认识到这个风险的重要性”,并强调对于这种程度的风险,重点不是这项技术被过度吹捧,而是相对于实际威胁的程度,目前对这个问题的重视程度不足。 

在这份声明出炉之前,AI的迅速普及早已引起一些专家的忧心。报道指出,随著新一代AI 聊天机器人(如 ChatGPT)的兴起,人们越来越担心人工智慧系统会超越人类走向失控。世界各国已经开始为此制定法规,其中欧盟抢先推进《人工智慧法案》(The Artificial Intelligence Act),预计今年能够通过该法,并将根据风险等级制度对人工智慧应用、产品与服务进行监控。

特斯拉执行长马斯克(Elon Musk)、苹果共同创办人沃兹尼亚克( Steve Wozniak) 等超过千位 AI 研究人员,也于3月连署公开信,呼吁所有 AI 实验室暂停开法比 GPT-4 更先进的模型为期至少 6 个月,以免对社会和人类构成威胁。

  • 最新评论
  • doitgo

    灭绝的是人类肉身而已,人类脱离肉身才会没有自私得到永生。

    屏蔽
  • 豺狼虎豹

    自然人早就该灭绝。又不是什么好东西!不灭绝就会毁了地球。

    屏蔽
  • fwzwhyc

    人类被AI灭绝不可避免,灭绝的是自然人,迎接的是高度智能化的新人类,是其他星球的“外星人”,地球不再会有战争、不会再有疾病、不会再有不平等,高度智能化的新人类才能发现其他适合人居住的星球,才能发现和与外星人沟通,才能懂得和理解宇宙。

    屏蔽
3