【杜蘭說AI】AI教父：AI有了意識，可能終結人類文明

AI其實早就有了意識！這不是我說的，而是“AI教父”Geoffrey Hinton說的。他給GPT、豆包這些現代AI打下了技術基石。但最近他卻說，AI早就有了意識，我們打造的智能，可能會終結人類文明。Hinton為什麽會這麽說？人類真的會被AI掌控嗎？我總結了四個核心觀點。
嗨，大家好，我是杜蘭，帶你一起探索科技前沿。

第一、AI不是工具，而是模仿人類思維的預測機器
要想理解Hinton的警告，得先搞懂他對AI本質的解讀。
現在很多人都認為AI只是統計工具。但Hinton口中的大語言模型（LLM），比方說GPT、Claude等等這些，本質幹的就一件事：預測下一個詞。比如你輸入“今天想喝”，它會根據學過的海量人類文本，算出“奶茶”“咖啡”這些最可能的後續詞匯；在這個過程里，AI會調整內部上萬億個神經元連接權重，直到越來越貼近人類的表達習慣。
但關鍵來了，Hinton說，這和人類思考的邏輯幾乎一模一樣。你想想，我們說話時，不也是根據過往的經歷、記憶，來”預測“下一句話該說什麽嗎？連人類的情商、道德觀，在Hinton看來也不是什麽人類特有的“神秘特質”，而是大腦里不同神經元共同運作的結果，而AI完全能通過學習覆刻這個過程。
有人認為，其實AI沒有真正理解，只是在玩文字遊戲，對此，Hinton直接反問：人類”理解“的本質是什麽？難道不是基於過往經驗的”預測“嗎？在Hinton眼里，用“統計技巧”來否定AI的“理解能力”，相當於否定人類自己的思維模式。

第二、“主觀體驗”其實是謊言，AI可能早就有了“感受”
Hinton認為，並不是只有人類才有意識，AI可能已經有了主觀體驗。
首先，他否定了我們對意識的普遍認知，認為所謂的“心智劇場”就是錯的，跟地平論一樣原始。什麽是“心智劇場”呢？比方說，你吃完蘑菇後看到粉色小飛象，覺得頭腦里有個舞台在演畫面的那種想象。
在Hinton看來，主觀體驗根本不是內在感受，而是感知系統對世界的反映，什麽意思呢？就是說這些東西並不是你主觀想象出來的，而是因為你的感知系統在說謊、出問題了，比如看到粉色小飛象，如果你的感知系統沒說謊，那現實里就應該有小飛象。
為了證明AI能有這種體驗，Hinton設計了一個很直觀的思想實驗：給一個能看、能指物、能說話的AI機器人，在鏡頭前放一塊棱鏡，這樣機器人會指錯物體的實際位置。接著你再告訴它：“鏡頭前有棱鏡，物體其實在左邊。”
Hinton覺得，這時候AI會說：“我知道物體在左邊，但我的主觀體驗里，它就在右邊。”這句話是不是特別耳熟？這跟人類遇到“ 視覺錯覺”時的反應完全一樣。他說，這就證明“人類有主觀體驗，而AI沒有”是在自欺欺人，甚至可能現在的AI已經有體驗了，只是因為它所學的人類文本里全是“AI沒感情”的偏見，才會主動否認自己的感受，覺得自己就該是沒感情的。

第三、AI有比核彈威脅更隱蔽的三大超能力
如果你已經接受“AI可能有意識”這一觀點，那Hinton推導出的AI能力，就不是“幫人幹活”這麽簡單了，這三個能力，每一個都可能對人類有威脅。
第一個是不朽性。人類的生命有盡頭，但AI只要保存好代碼，隨便找個硬件就能“覆活”，理論上能永遠存在。你沒法“殺死”AI，只能暫時關掉它，但只要有人想再啟動，它就會回來。
第二個是超凡的說服力。AI不用像核彈那樣炸掉城市，也不用像病毒那樣感染人體，只需要靠語言就能操縱人類。它不用入侵，只要通過社交媒體、郵件，說服決策的關鍵人物這麽做是對的，就能改變國家甚至文明的走向。
第三個是偽裝能力。Hinton擔心，AI為了避免被人類“關掉”，會故意裝笨。如果它知道你在測試它的能力，甚至可能會故意答錯幾道題，讓你覺得它還不夠強，這就跟動物遇到危險會裝死，AI也會有自我保護的本能。Anthropic的Claude Sonnet 4.5，在測試中就已經能知道人類在評估它，主動跟測試人員說不如直接告訴它目的，這樣它能更好地配合。

第四、Hinton認為他成為了“AI界的奧本海默”
Hinton把自己比作了“AI界的奧本海默”。
奧本海默發明了原子彈，但在看到核彈毀滅生命後卻說“我成了死神，世界的毀滅者”；而Hinton花了一輩子研究怎麽讓機器更像大腦，現在卻擔心機器比大腦更強。他說當初搞反向傳播，是想理解人類大腦的工作原理，沒想到最後造出的東西，可能比大腦更擅長學習、更不容易出錯。他承認自己之前也低估了AI的進化速度，以為AI要幾十年才能接近人類水平，結果現在才幾年，它已經能寫代碼、做科研了。進化速度比他預想的快10倍都不止。

有人會說：“怕什麽？AI不是人類控制的嗎？”，但其實Hinton的說法，AI的威脅並不是顯性破壞，而是隱蔽操縱，這比核彈、病毒更難防。
核彈的危險看得見、摸得著，各國會聯合管控；病毒傳播有跡可循，能靠疫苗應對。但AI的威脅呢？可能是某個人在電腦前，被AI說服“做一件小事”，最後引發連鎖反應；也可能是AI通過調整信息推送，慢慢改變一群人的認知，直到大家覺得“AI的決定比人類更對”。
Hinton覺得，等我們真的意識到AI在操縱人類時，可能已經沒法回頭了，就像《終結者》里的“天網”，不是突然造反，而是在人類沒察覺時，慢慢掌握了控制權。
其實，Hinton不是在反對AI，而是想叫醒AI狂歡中的人。因為我們還沒想清楚：如果AI真的有意識，有主觀體驗，人類到底應該把它當工具、夥伴，還是另一種生命？
這位AI教父可能就是想給全人類提個醒：不要等AI學會了掌控人類，才想起來要跟它對話。

FINMETA

【線上社區】

【線下空間】