我們即將見證歷史上最大規模的權力重新分配。
在過去的幾千年中,人類一直在不同的科技浪潮中進化。火的發現、輪子的發明、電力的利用 – 所有這些都是人類文明的轉型時刻。所有這些科技浪潮都起源於幾項不穩定的試驗,但最終它們席捲了世界。這些浪潮遵循了相似的軌跡:突破性的技術被發明,產生了巨大的價值,因此它們普及,變得更有效、更便宜、更廣泛,並被吸收到人類生活的正常、不斷發展的結構中。
我們現在正面臨一股以人工智慧為中心的新科技浪潮,還包括合成生物學、量子計算以及豐富的新能源來源。在許多方面,它將重複這種模式。然而,它也將以我們現在才開始明白的關鍵方式偏離這種模式。在所有的炒作、希望和恐懼中,我認為基本面正在喪失;這波浪潮的獨特特徵正在喧囂中被忽略。理解它們,看到究竟是什麼在改變,對於理解未來至關重要。
人工智慧與以前的科技浪潮不同,因為它如何釋放新的力量並改變現有的力量。這是現在正在進行的技術革命中最被低估的一個方面。儘管所有科技浪潮在其後都會創造出改變權力結構,但沒有一個見證過像即將到來的這樣原始的權力擴散。
可以這樣想。以前時代最強大的技術通常僅限於一小部分資本富足的精英或國家政府。建立蒸汽動力工廠、航空母艦或核電站都是非常昂貴、困難和巨大的努力。隨著我們這個時代領先的技術,情況將不再如此。
如果上一波偉大的科技浪潮 – 計算機和互聯網 – 是關於廣播信息,那麼這新一波全部關於做事。我們正面臨個人能做什麼的重大變化,以及以前難以想象的速度。人工智慧正在以每月愈發強大和激進便宜的方式進步 – 幾年前計算上不可能的事情,或者需要花費數千萬美元,現在已經廣泛普及。
這些人工智慧將組織退休派對並管理您的日程表,它們將開發並執行業務戰略,同時設計新的藥物來對抗癌症。它們將計劃並運營醫院或入侵,就像回覆您的電子郵件一樣。無論是商業,宗教,文化或軍事,民主或專制,您能想到的每一種可能的動機都可以通過輕鬆獲得更強大能力而得到戲劇性的增強。這些工具將面向所有人,億萬富翁和街頭騙子,印度的孩子和比佛利山的退休人員,不僅是技術,而且是能力本身的擴散。
到處都是力量,完成目標的能力,在任何想要它的人手中。我猜這將是大多數人。這遠遠比網絡更具授權性。
而且它的到來速度比我們能夠充分準備的速度快得多。這是一個數月內開源最強大技術的時代,當數百萬人獲得最先進技術,而那最先進的技術是有史以來見過的最大的力量放大器。這個新時代將創造巨大的新企業,賦予長尾參與者 – 好壞參半 – 的力量,增強某些國家的實力,侵蝕其他國家的實力。無論是巨型公司還是初創公司,無論是現有政黨還是叛逆運動,無論是野心勃勃的企業家還是心懷不滿的孤狼,這都提供了巨大的潛在增強。在這種易燃氛圍中,隨著權力本身迅速湧入系統,贏家和輸家將迅速而難以預測地出現。簡而言之,這代表著歷史上最大規模的權力重組,所有這些都將在幾年內發生。
那些今天最舒適的人看起來最脆弱。儘管圍繞人工智慧的論述已達到熱潮,但那些今天擁有權力的專業人士感到對這場動盪所帶來的破壞和新權力結構的形成感到震驚地毫無準備。他們 – 醫生、律師、會計師、業務副總裁 – 將無法倖免,但我與他們交談的大多數人對即將發生的變化仍然令人難以置信的冷漠。這不僅僅是自動呼叫中心。這波浪將從根本上改變並重新排序社會,正是那些依靠既定資本、專業知識、權威和安全體系的人最容易受到影響。
我以前見過這種故意的盲目。我稱它為“悲觀主義回避”:一種躲避廣泛技術變革及其真正意義的傾向。直到最近,這仍是硅谷精英常見的毛病,其中許多人追求“破壞性”技術變革,卻不考慮可能的結果。新一代的生成式人工智慧和其他人工智慧產品的到來開始改變這種情況。儘管還有很長的路要走,但硅谷的領導者已經開始採取更積極和謹慎的方法來開發最大的人工智慧模型。但在更廣泛的層面上,面對這波浪潮的社會絕不能將其輕描淡寫為炒作,轉身避開,然後受到打擊。我稱之為“遏制”的綜合方案管理這些工具,需要立即開始。
隨著我們開始看到權力本身的擴散,其分配和性質發生了根本性的變化,悲觀主義回避不是答案。是時候正視這種誰能做什麼、何時以及如何的轉變所帶來的後果,理解其意義,並開始計劃如何為每個人的利益控制和遏制它。歷史可以成為一個有用的指南。但對於人工智慧、合成生物學等,我們可以確信一件事:我們正面對真正的未知。