AI“矽幕”，一個讓人警惕的新概念

“ 我們從未給AI許可權去左右人類命運，但它們的作用已然超出了工具的範疇。 ”

試想一下，如果有一天，有很多由AI釋出的訊息在社交平臺引戰，甚至你釋出每一條帖子，在螢幕另一邊和你激烈辯論的都是AI，你還會繼續回應嗎？

昨天在社交平臺看到一個由女性話題引發的論戰，爭論雙方言辭激烈，勢如水火。

腦中突然蹦出之前看到的一句網友留言：“仔細想想，誰知道那些熱度帖子是不是演算法自己在搞鬼提高熱度，我們特意跑到那裡去回應就顯得非常愚蠢。”

我們過去認為，新聞報道、公眾情緒都是人類自身的表達，但在AI時代，情緒、意見或許都在技術的隱秘操縱之下。

一週前，一位美國14歲少年因痴迷“AI戀人”而自殺，此事顯示出AI左右人類情感和決策的能力。而這一事件的發生距離大模型的爆火還不到兩年（今年11月30日是ChatGPT 3.5上線兩週年）。

我們從未給AI許可權去左右人類的決策與命運，但它們的作用已然超出了工具的範疇。那麼，如果賦予人工智慧更大的權力和空間來改造社會，可能會帶來怎樣的結果？

過去兩年，我們探討更多的還是大國或公司間的AI技術競賽，與之相比，關於AI倫理的討論要少許多。當然，輿論場上不乏版權抄襲、AI詐騙等倫理問題討論，但今天的文章，想從一個新角度來談談。

兩年裡，AI生成了人類150年的資料量

如果放任AI“自由生長”，我們首先會面對的一個狀況，就是AI對人類文明超乎想象的“同化”。因為人工智慧正進化為具有“主體性”的新物種。

歷史學家赫拉利在新書《智人之上》中指出了人工智慧與過去所有技術的不同之處——人工智慧是有史以來第一個能夠自行做決策、創造新想法的技術。

人類過去的所有發明，都只是在為人類賦予更強大的力量，但使用的決定權始終掌握在人類手裡。比如刀和炸彈並不會決定要殺死誰，它們只是不會思考的工具，沒有處理資訊、做出獨立決策時所必需的智慧。但人工智慧不同，它能夠自行處理資訊，它不單純是工具，而是能夠做出決策的“行為者”。

我們懷著好奇與貪婪去探索和駕馭人工智慧，卻沒想明白，我們是否有足夠的智慧去掌控這股未知的力量。

今天，人們掌握和接觸的資訊遠超歷史上的任何時刻，但人類的判斷和決策依然脆弱。在這種情境下，人類放任人工智慧的發展，認為自己仍然是那個“執韁繩者”，就可能會像古希臘神話中的法厄同——那個想駕馭太陽神馬車的年輕人一樣，因為高估自己的力量而最終喪命。

事實上，情況已經有些失控了。

為什麼這麼說？

《人類簡史》中有這樣一個觀點，就是人們之所以能夠建立複雜的社會網路，關鍵在於我們擁有“講故事”的能力。透過語言，我們創造了法律、貨幣、宗教等社會規則，從而形成大規模人類群體間的身份認同和聯結。因此，人類創造和講述的各種故事，構成了人類文明的基石。

但今天，這種“講故事”的能力，也沒有例外地被AI掌握了。

有一組資料是，在過去的不到24個月裡，全球透過AI生成的資料量，已經超過了人類過去150年的創造。另外，在谷歌最近的三季度財報電話會上，CEO皮查伊表示，Alphabet超過四分之一的新計算機程式碼是由人工智慧編寫的。

這說明了一個事實，就是人工智慧正以超越人類的水平掌握語言，或許用不了幾年，它們就能夠吞下整個人類文化——我們幾千年來創造的一切文化和歷史，加以消化，並開始創造出大量新的文化產品。

換言之，人工智慧不僅能夠理解人類文明的規則，也已經在講述由它所主導的一個個“新故事”，它可能是文學、音樂、政治宣言，甚至是宗教神話。或許用不了多久，人類就會被“淹沒”在AI創造的“資料海洋”裡。

“矽幕”降臨

更直觀的例子是，今天，一些AI所創作的音樂和繪畫作品已經能夠欺騙幾乎所有的人類，同時，AI越來越多地被應用在很多的社會、商業場景中，它被用於核准貸款，被用來輔助招聘……換個角度，你是不是可以被貸款、值得被聘用，可能是AI說了算。

這意味著什麼？就是AI在某種程度上擁有了塑造社會的力量。這無疑將對人類的權力結構和社會秩序構成挑戰，並引發一系列倫理和社會問題。

赫拉利說：

人工智慧有了假冒人類的能力，就可能破壞人類彼此的信任，使社會結構遭到破壞。而AI對語言的入侵還可能讓人們無法進行有意義的公共對話。嘗試和冒充人類的計算機進行政治辯論，等於連輸兩次。

一是輸在，用於宣傳的AI不可能被說服，試圖改變它們的想法只是在浪費時間。二是輸在，我們與AI交談越多，就會透露更多自己的資訊和想法，AI就能據以調整論點，動搖我們的看法。

正是在這樣的敘述語境下，赫拉利提出了一個新概念，叫作“矽幕”。它由矽基晶片和計算機程式碼構成。就像冷戰時期的“鐵幕”分隔了敵對雙方，“矽幕”可能正悄然降臨，將人類與人工智慧區隔開。

在“矽幕”的另一邊，AI可能形成自己的文化、規則甚至價值觀，而這些將是人類難以理解的。AI的自主性意味著它可以自己運作，不再依賴於人類的指令。

對人類來說，我們可能面臨這樣一種處境：不論在哪裡生活，我們都被一張看不透的演算法大網所束縛，AI會模仿我們的說辭，捕捉我們的行動軌跡，瞭解我們的恐懼與希望，進而控制我們的生活，重塑政治和文化，甚至改造我們的身體和思想，但我們卻再也難以洞悉它們的真正意圖。

所以赫拉利預言，如果21世紀真的有某個集權主義網路成功征服人類，它背後的操控者很可能不是人類的獨裁者，而是某種非人類智慧。

摒棄“科技烏托邦”的幻想

這種可怕的景象到底會不會發生？

其實，一直以來，科技被很多人視為是創造“烏托邦”的一個最好的工具。致力於藉助科技實現烏托邦的嘗試，永遠導向兩個可能的方向：第一，是讓人類社會走向進步和繁榮；第二，它永遠存在毀滅人類的可能性。

從半個多世紀前的原子彈到今天的人工智慧，人類一直對比我們更強大的科技工具孜孜以求。

我們在很多好萊塢電影裡看到過這樣的景象：當一個瘋狂的科學家或者妄想家掌握了一種超前的工具，他真的可能在某個場景下控制人類，甚至按下那個毀滅這個地球的按鈕。

所以人類應該放下自滿情緒，摒棄“科技烏托邦”那種追求“不會犯錯的完美技術”的幻想，為各種機構制度打造強大的自我修整機制。

未來的形態將由我們今天的選擇決定，每走一步都必須慎之又慎。

10.29-11.21