「知識跨年」年度論壇/張嘉淵:AI 發展如同「創世紀」與「啟示錄」的兩極 既是機會也是挑戰

隨著人工智慧(AI)技術的迅速進步,2026 年將見證 AI 在各行各業中的更廣泛應用,美銀預測2026 年AI 市場規模將破1 兆美元。台灣 AI 戰略部署核心人物、廣達電腦技術長張嘉淵表示,AI 的發展如同「創世紀」與「啟示錄」的兩極,一方面追求建造更美好的世界,另一方面卻可能不小心破壞現有世界。他認為,AI 的發展是一場深刻的變革,它既是機會也是挑戰,人類需要在追求科技進步的同時,堅守人本價值,謹慎引導 AI 的發展方向,確保其最終服務於人類的福祉,而非走向失控與毀滅。

迎接2026年到來,《好好聽文創》21日舉辦一場「2025→2026 知識跨年」論壇,邀請前台大校長管中閔、前立委郭正亮、廣達技術長張嘉淵,深入剖析當前最關鍵的國際衝突與競爭態勢,探討大國博弈下的潛在風險與機遇,以及AI 智慧革命—人類文明的創世紀與啟示錄。

張嘉淵以《AI 智慧革命—人類文明的創世紀與啟示錄》為題,認為AI基本上並不是未來,所有的科技,都是帶領我們到未來的一種方式,未來還是要靠我們來,它只是我們的手邊的一種工具。但科技再走下去,一定會遇到一個問題,這個也是一個兩難,就是說一方面想要建造更好的世界,但是一不小心,它可能會破壞整個世界。

把AI當大神 只有創世紀與啟示錄兩個極端

張嘉淵說,AI無可避免都是從一個過去的資料開始,經過一定的方式訓練出一個模型來,以前可能是一組方程式,現在則是被神經網絡所取代,然後把它數位化來做,所以可以說它是仿生學也好,也可以說是數位轉換的一種能力,但是爲什麼它可以做這麼多事情呢?它的缺陷也是它的優點,它從過去上大量可以被數據化的顯性的知識,然後訓練出一個模型,運用這些知識的合成,使得你可以看到未來,甚至辨識現在。

他舉例說,你可以從很多醫生的X光片裏面,如果有很多人去開始去圈哪邊是腫瘤,哪邊的腫瘤會變癌症,逐漸的,你就可以從癌症的現在的狀態,還是腫瘤狀態,去預測它的未來,所以,我們都處在這個環境裏面,無論這個model怎麼變,現在還是這樣子在走。

「不過,科技再走下去,一定會遇到一個問題,這個也是一個兩難,就是說一方面想要建造更好的世界,但是一不小心,它可能會破壞整個世界。」他說,這意思是,如果把AI當作大神的話,未來永遠是處在這兩個極端裡面,只有「創世紀」跟「啓示錄」,也就是建造,或是把它破壞掉。

「從這地方來看,你會發現,其實世界是混沌的。」張嘉淵引「蝴蝶效應」說明混沌理論,並用Lorenz System (勞倫茲系統)解釋,只要接近的兩個點,如果一開始走的話,只要差一點點,可能會在這兩個所謂的吸引子裡面做循環,一開始只要差一點點,整個曲線就會全部不一樣。

張嘉淵說,所以你會發現,假設世界就是在所謂的啓示錄跟創世紀當中擺盪的話,AI可能也是會這樣子走,那應該怎麼來做?如果AI是個神,是個新的科技的話,那這個兩難到底怎麼樣?

AI發展是漫長的旅程 最後有沒有可能人就不見了

張嘉淵從2500年前古希臘時代,很有名的劇場中的Deus Ex Machina(機器降神)談起,為什麼這個神會從這個機器跑出來?而小時候看的,無論是這個科學小飛俠的火鳥攻,或者是現在的很多電影,最後沒有辦法解決,就是把大神推出來,而大神擁有super power,他就解決世界所有的事情。但是真的是這樣子嗎?好像也是,因爲AI是有一大堆剛才在談論的機器晶片所生產出來的。

他說,那回過來看,如果說我們現在把這個機器降神,回到現代,把AI當作大神來看,我們的底層就是所謂的先進的晶片,你要有資料中心,你要有超級的伺服器,那你就發現有台積電、有廣達,還有台灣很多的公司在那裡,那有了這個機器你要做什麼?基本上,你要把這個機器透過很多的訓練,包括提升它的感知力,然後讓它有記憶,讓它能夠推理,讓它能夠判斷,當它這些足夠構成我們的一個感知的世界以後,它超越人類的智慧才會出來。

他認為,這是一個很長的旅程,從你拿出一個AI來,然後讓它變成這個Agentic AI(代理人工智慧)或者變成Bots(機器人),然後讓它有身體,讓它自主性越來越提高,一直在走向的未來,是往自主性越高的AI走,這是科技的不歸路。「但是這就有一個問題了,你人造了一個機器,機器造了一個神,神把AI拿來幫你,如果你再繼續走下去呢,機器人如果可以幫助你做更好的機器,而機器神又可以做更好的AI過來,那你要人做什麼?」

他說,「所以現在恐懼的是說,如果這個迴圈你開始做了,基本上人就不見了,是不是一種危險,一種可見的未來,那如果這樣子的話會怎麼樣?」會不會一直下去,像剛才那樣子迴圈,一直跑到一個比較恐怖的未來去?

造神者的兩難 如何讓AI的發展能夠為人所控制 

他舉例說,如果當初設計機器人的目的,是讓它來保護地球,而機器人發現,危害地球最大的就是人類,那這時候人類會怎麼樣?所以人的角色在AI的不同的點,你到底要做使得它強化AI的路徑,這每個路徑你都有一個角色扮演,你都可以在經濟上扮演一個很強大的角色,只是說你會不會讓它跑到一個你沒有辦法去控制它的地方,這個才是造神者的兩難。

他說,我們一開始去做它,有機器夠聰明了,它自己去做更好的AI,或更好的robot,然後更好的AI它自己堆疊上去,如果我們永遠維持在最底層,是最危險的。所以仔細來看,這整個陷阱變成是machine的robot通通在這一起,而人類永遠沒有辦法繞出去的話,那就變成造神者很大的一個威脅。「所以,你要如何在這個蝴蝶裡面,你一直確信說,你的這個機器的迴圈,一定又會再回來到人的世界來,為人服務,你才有辦法,構成一個比較均衡的,宇宙跟世界。」

張嘉淵說,人跟機械的合作,一個是共生,另一個可能是毀滅,在這兩種環境裡面,要處理的事情很複雜,但最基本的重點在於,怎麼讓人一直維持在未來AI的發展中,還是要有一個位置,尤其當AI越來越智能化,越來越自動化的時候,它會一直往這邊來,但是好處是,假設這個就是一個Lawrence的系統,你很奇怪,往這邊一直拉,拉到後來,最差的環境,會帶給你另外一個能量,讓你脫離它,但是那一點在什麼時候脫離呢?那脫離的時候,人類會不會耗掉太多精神,社會不會耗掉太多?

在發展AI的路徑中 人必須成為不可或缺的一份子

張嘉淵坦言,這無法預知,但是如果真的是往這個Lawrence的attractor這樣走的話,一定會在這兩邊走,但如果你希望它是能夠被管理的,可以被預測的,你才有辦法在這兩個端點裡面走。

他說,所以科學家開始討論說,如何在發展AI的路徑當中,都把人都要放在裡面,成為不可或缺的一份子,那就變成是極端的重要,否則一旦一開始的目的與設計這整個系統的目的,偏差了一點點,那本來設計者會變雜質的時候,雜質就會被拿掉,那個是最危險。

他強調,AI 帶來的衝擊本質上是一場「創世紀」,正推動新秩序、新分工與新價值體系的生成,而社會必須及早完成制度、產業與人才結構的重新對齊,才能在劇烈變革中掌握未來主動權。