历史学者、哲学家暨畅销作者，出生于以色列海法，2002年在牛津大学取得博士学位，目前是耶路撒冷希伯来大学历史系讲师，也是剑桥大学「存在风险研究中心」（CSER）特聘研究员。着有《人类大历史》、《人类大命运》、《21世纪的21堂课》等书，为世上具影响力之公共知识份子之一。

许多专家警告，AI正对人类生存造成威胁。但也有其他专家认为，这种警告是杞人忧天。如果今天讲的是核武，大家都很清楚危险所在；但讲到AI，就很难看懂这究竟是危险在哪？从工业革命的历史，就能帮助我们了解这场新的「AI革命」与生俱来的危险。

许多专家警告，AI崛起可能使人类文明崩溃，甚至是人类物种灭绝。一项2023年的研究调查了2,778名AI研究者，结果也显示有超过三分之一认为，先进的AI有至少10%的机率会造成等同于人类灭绝一样可怕的结果。2023年有将近三十个国家政府签署了关于AI的《布莱切利宣言》，其中就承认：「从这些AI模型最重要的功能，可能有意或无意地造成严重、甚至灾难性的伤害。」

对某些人来说，可能觉得这些警告就是杞人忧天。每当出现强大的新科技，都有人焦虑世界末日就要来临。举例来说，当初随着工业革命进展，许多人都担心蒸汽机和电报会摧毁人类社会、毁灭人类的幸福。但到头来，这些机器生产出了史上最富足的社会。时至今日，大多数人的生活状况都比十八世纪的祖先好多了。许多热情拥抱AI的专家都保证，各种智能机器绝对会比过去的所有机器带来更大的好处。他们说，有了AI，人类就能享有更好的健康照护、教育与其他服务，甚至还能协助拯救生态系统免于崩溃。

首先学会善用科技

遗憾的是，只要看历史看得仔细一点，就会发现人类确实有充分的理由，该对强大的新科技抱持几分畏惧。就算这些科技到了最后是利大于弊，但在那个快乐结局之前，往往得先经历百般磨难与考验。新科技之所以常常带来历史上的灾难，并不是科技本身有什麽问题，而是人类得花点时间，才能学会善用科技。

工业革命就是个很好的例子。工业技术在十九世纪开始传向全球，颠覆传统的经济、社会与政治结构，彷佛打开一条道路，让人类有机会创造出更富裕平和的全新社会。然而，要学习建立一个良性的工业社会，绝没有那麽简单，得经过许多昂贵的实验，还得产生数以亿计的受害者。

正因为各方对于「如何建立工业社会」的看法不一，就造成了代价高昂的冲突。两次世界大战与冷战就像是一连串关于谁是谁非的辩论，各方都能互相学习，尝试用新的工业方法来发动战争。但在辩论的过程中，就造成数千万人死亡，人类差点自我毁灭。

除了以上这些灾难，工业革命也破坏了全球生态平衡，导致一波物种灭绝。在二十一世纪初，据信每年有高达58,000种物种灭绝；从1970年至2014年，脊椎动物族群总数减少了60%。人类文明的生存也受到威胁。直到现在，我们似乎还是没能建立起一个生态永续的工业社会，我们这个世代得意洋洋的繁荣景象，背后恐怖的代价都得留给众生与人类的子子孙孙来承担。或许人类总有一天会找到办法（也许正是透过AI的协助），打造出能够生态永续的工业社会，但在那之前，工业革命的成败仍难有定论。

透过AI做出决策

即便如此，这给二十一世纪传达的讯息依然并不乐观。要是人类得经过这麽多可怕的教训，才学会如何管理蒸汽动力与电报技术，现在还得再付出多少代价，才能再学会管理AI？比起蒸汽机、电报和所有过去的科技，AI不但可能远远更为强大，也远远更加难以管理，因为AI正是史上第一个能够自行做决策、创造新想法的科技。AI不是个工具，而是能够做出决定的行为者。

就智能而言，AI不但远远超越了原子弹，更超越了像是泥板、印刷机、收音机这些所有过去的资讯技术。泥板能够储存关于税务的资讯，但无法自行决定要收多少税，也无法发明某种全新的税目。印刷机能够复制《圣经》这样的资讯，但无法决定《圣经》要收录哪些文本，也无法对这本宗教经典加上新的注释。收音机能够传播政治演讲与交响乐等资讯，但无法决定要播放哪些演讲或交响乐，也无法创作演讲或交响乐。AI则是能够做到这所有一切，甚至是创造出新的大规模毁灭性武器，到无比要命的传染疾病。过去的印刷机或收音机只是人类手中的被动工具，但AI正在成为一种主动的行为者，可能得以摆脱人类的掌握与理解，主动形塑社会、历史与文化。

或许人类总有一天能够找到办法，让AI不至于失控，真正为人类带来福利。然而，人类在这之前，是不是又得再次经历全球帝国、极权政体与世界大战的循环，才能搞清楚如何善用AI？而且，比起二十世纪的科技，这些二十一世纪的科技更具威力，我们能犯错的空间也更受限制。在二十世纪，人类在「工业技术运用」这门课上，可以说只拿了个60分，勉强低空飞过。但在二十一世纪，过关的门槛高得多，这次可得表现得更好才行。

出自：《连结：从石器时代到AI纪元》／天下文化出版社