溫和的奇異點：智慧加速的時代

The Gentle Singularity by Sam Altman

我們已經跨越了事件視界，加速成長已然展開。人類即將打造出數位超級智慧，而這個發展其實並沒有原本以為的那麼玄妙。

機器人尚未堂而皇之地在街頭漫步，大部分人日常也未必一直和AI對話；人類仍受疾病折磨，輕鬆前往太空依舊遙不可及，宇宙的奧秘也還有許多未解之謎。

但儘管如此，我們最近已經開發出許多在特定領域超越人類智慧的系統，它們能顯著提升人們的產能。我們已經度過最困難、最不可思議的科學突破階段，像GPT-4或o3這類系統背後的科學洞見得來不易，將帶我們走向更遠大的未來。

AI將從許多方面貢獻世界，其中最明顯的是透過加速科學進步和提高生產力，大幅改善人類的生活品質。科學發展一向是整體進步的最大推手，想像一下未來我們能擁有多少更多的成果，這樣的願景極為令人振奮。

從更廣義的角度來說，ChatGPT已經超越史上任何一位人類所擁有的影響力，每天數億人依賴它進行愈來愈重要的工作。微小的新功能可能帶來巨大正面影響，但若有一點點偏差，被數億人同時使用，也可能造成嚴重後果。

2025年我們已見證了真正能進行認知工作的AI代理問世，寫程式從此徹底改變；2026年則可能出現能主動發現創新洞察的系統；2027年，具備現實世界執行任務能力的機器人或許就會到來。

未來，越來越多人能夠自行創作軟體與藝術作品。然而世界對這些作品的需求也會持續擴大。只要專業人士善用這些新工具，他們仍將遠勝初學者。整體而言，一個人到2030年的產出將遠勝於2020年，而這樣的轉變將十分明顯，多數人也會學會如何善用這種轉變獲利。

不過，儘管科技快速演進，在人類最重要的面向上，2030年代可能不會有劇烈的改變。人們仍會愛著家人、發揮創意、玩遊戲、享受湖泊游泳。

但另一方面，2030年代又將與歷史上任何時期截然不同。我們無法預測超越人類智慧後的極限究竟在哪，但我們即將一探究竟。

2030年代，「智慧」與「能源」—也就是創意及實踐創意的能力—將變得極為豐沛。這兩者長久以來一直限制人類發展；而當智慧與能源不再稀缺，並搭配良善的治理，我們理論上能實現幾乎任何願望。

如今，我們已經生活在驚人的數位智慧時代，儘管一開始很震撼，但很快就習以為常。人們迅速從驚訝AI能寫出動人的段落，轉為期盼它何時能創作動人的小說；或從驚嘆AI能診斷疾病拯救生命，到期待它何時能研發治療方法；又或從驚艷於AI能編寫小型程式，到期盼它何時能創立一家公司。這正是奇異點發展的模式：奇蹟逐漸成為日常，日常接著成為基本標配。

已有科學家表示，他們的生產力透過AI提高了兩到三倍。AI能加速AI研究，這或許才是最重大的進展之一。未來一年內完成過去十年的研究並非不可能，屆時科技的進步速度將截然不同。

從現在起，我們已有的工具將協助我們取得更多科學突破，進而打造出更好的AI系統。儘管這尚未是AI系統完全自主更新程式碼，但已經是遞迴式自我改進的雛形。

其他自我強化的循環也已啟動。AI所帶來的經濟價值已形成一個不斷擴大的基礎建設飛輪，能夠自動建造其他機器人的機器人，以及能自行擴展的資料中心，很快將成為現實。

或許第一百萬台人形機器人必須靠傳統方式打造，但接下來它們就能運營整條供應鏈，從挖掘提煉礦物，到駕駛卡車、營運工廠，生產更多的機器人與晶片廠、資料中心，屆時進步速度會明顯加快。

隨著資料中心逐步自動化，「智慧」的成本最終將逼近電力成本。許多人好奇一次ChatGPT的查詢到底耗能多少，答案是約0.34瓦特小時，相當於烤箱運作一秒鐘，或高效節能燈泡運作幾分鐘；用水量則是約0.000085加侖，大約十五分之一茶匙。

科技進步的速度將持續加快，而人類適應變化的能力也一向超乎想像。雖然未來將面臨嚴峻挑戰，例如許多職業整個消失，但另一方面，世界財富將迅速提升，使我們能認真討論甚至採納以往無法想像的新政策。我們或許不會一次就建立起全新的社會契約，但數十年後回頭看，這些漸進式的改變將累積成深遠的變革。

歷史經驗顯示，我們總能開發出新的事物與需求，並迅速掌握新的工具（例如工業革命之後職業的快速轉型即是一例）。人們的期望雖將不斷升高，但能力也將同步提升，每個人都將享有更好的生活品質。我們會不斷為彼此創造出更加精彩與美好的事物。從長遠來看，人類比起AI有個關鍵且特殊的優勢：我們天生在意其他人以及他們的想法與行動，而不會真正關心機器本身。

若一位千年前僅能自給自足的農夫看到現代人從事的許多職業，可能會覺得這些都是虛構的工作，只是人們吃飽喝足、擁有各種奢侈品後的娛樂方式。我希望千年後的人類看待未來的工作時，也會覺得這些工作同樣虛幻；但我相信，從事那些工作的人們仍將感到充滿意義且十分滿足。

未來科技創新所帶來的驚人成就將超乎想像。我們現在很難設想2035年之前究竟能發生什麼，也許某一年我們才剛攻克高能物理學的重大難題，隔年就已經踏上太空殖民之路；或者今年是材料科學的重大突破，明年則出現真正高頻寬的腦機介面。許多人會選擇照樣過著現在的生活，但也一定有人會決定透過腦機介面直接「接入」這種新世界。

這些未來發展或許目前難以想像，但置身其中時，可能會感覺既驚艷又容易適應。從相對的角度來看，奇點是一點一滴發生的，而人類與技術融合的過程也會緩慢而平順地進行。我們正沿著一條科技指數型成長的曲線往上攀升，向前望時曲線近乎垂直，回頭看卻顯得平緩，但其實這一直是一條平順的曲線。（想想2020年時，如果有人告訴你2025年將幾乎實現通用人工智慧（AGI），那聽起來會有多麼瘋狂，但過去五年的真實經驗又如何？）

儘管未來的挑戰嚴峻，但伴隨而來的機會同樣巨大。我們必須解決AI的安全性問題，包括技術面與社會面的挑戰，尤其在考量到經濟衝擊後，更必須讓超級智慧系統廣泛且公平地普及。前進的最佳策略或許是：

首先，解決「目標對齊問題」（alignment problem），確保AI系統長期以來都能真正符合人類的共同利益與需求（例如社群媒體演算法就是目標錯誤對齊的典型案例，這些演算法精準掌握你的短期喜好，卻操縱你大腦的機制，忽視了你的長期利益）。

其次，致力於讓超級智慧系統便宜、普及，避免集中在少數個人、企業或國家的手中。社會具有高度的韌性與創造力，適應變化的速度也很快。如果我們能凝聚眾人的智慧與決心，即便在這過程中會犯錯且發生問題，我們仍能快速調整，充分發揮科技的優勢，並將潛在的負面影響降到最低。在社會定下的大原則之下，給予使用者足夠的自由至關重要。全球越早開始討論這些原則與共同目標的具體定義，就越好。

我們（整個產業，而不只是OpenAI）正在為這個世界打造一個「大腦」。這個系統將高度客製化，且人人都能輕鬆上手，未來唯一的限制將是好點子的數量。過去，新創圈的技術人員經常嘲笑那些空有想法、卻缺乏執行團隊的「點子王」；如今看來，這些點子王即將開始大放異彩。

OpenAI如今肩負許多使命，但我們最根本的定位仍是一家專注於超級智慧系統研究的公司。前方還有許多挑戰需要克服，但如今大部分的道路已被照亮，未知的領域也正迅速減少。我們非常感恩能夠參與這場偉大的探索。

「智慧便宜到近乎免費」的願景即將實現。現在說出這樣的話或許令人覺得不可思議，但如果回想一下2020年，我們當時若預言今日的科技發展，可能聽起來比現在對2030年的預測更加誇張。

願我們能平順且指數型地，甚至安穩而平凡地通過超級智慧時代。