溫和的奇異點：智慧加速的時代 （新知速報）
The Gentle Singularity by Sam Altman
或英文原文： https://blog.samaltman.com/the-gentle-singularity。
翻譯使用 ChatGPT-4.5 加上「反思工作流程」。
Sam Altman：
我們已經跨越了事件視界，加速成長已然展開。人類即將打造出數位超級智慧，而這個發展其實並沒有原本以為的那麼玄妙。
用在這篇文章的意思是：
人類已經跨過了一個關鍵點，開始發展出強大的人工智慧，而且這個進步已經無法回頭，只會繼續越來越快，影響越來越大。我們現在就是站在這個重要改變的開頭，未來的發展已經勢不可擋了。
- Artificial general intelligence：通用人工智慧，跟一般的人類一樣聰明。
- Superintelligence：超級人工智慧，比最聰明的人類更聰明。
我覺得這邊的意思是 Sam Altman 認為 OpenAI 已經達到 AGI，並且開始跨入超級人工智慧的領域了。
機器人尚未堂而皇之地在街頭漫步，大部分人日常也未必一直和AI對話；人類仍受疾病折磨，輕鬆前往太空依舊遙不可及，宇宙的奧秘也還有許多未解之謎。
但儘管如此，我們最近已經開發出許多在特定領域超越人類智慧的系統，它們能顯著提升人們的產能。我們已經度過最困難、最不可思議的科學突破階段，像GPT-4或o3這類系統背後的科學洞見得來不易，將帶我們走向更遠大的未來。
看來 Sam Altman 覺得最難的已經過了。我想到的其中一個里程碑，應該是 o 系列證明的 Test Time Compute（TTC）：只要花更多錢，讓推理模型想更久就會更聰明。
AI將從許多方面貢獻世界，其中最明顯的是透過加速科學進步和提高生產力，大幅改善人類的生活品質。科學發展一向是整體進步的最大推手，想像一下未來我們能擁有多少更多的成果，這樣的願景極為令人振奮。
從更廣義的角度來說，ChatGPT已經超越史上任何一位人類所擁有的影響力，每天數億人依賴它進行愈來愈重要的工作。微小的新功能可能帶來巨大正面影響，但若有一點點偏差，被數億人同時使用，也可能造成嚴重後果。
再次呼應：「OpenAI 已經達到 AGI 了」。
2025年我們已見證了真正能進行認知工作的AI代理問世，寫程式從此徹底改變；2026年則可能出現能主動發現創新洞察的系統；2027年，具備現實世界執行任務能力的機器人或許就會到來。
➔ OpenAI 把 AGI 分成五個等級：
1. 聊天：ChatGPT-3.5
2. 推理：ChatGPT-o1
3. 代理人：Deep Research、Operator 等 AI Agents 有更高的自主性，可以長時間獨立運作。
4. 創新者：可以獨立做研究
5. 組織者：可以經營公司
關於 2026年會出現第四階段的「創新者」，我曾經當面請教過 OpenAI 研究主管 Mark Chen，他說：想像 AI 可以花費好幾天進行科學研究回顧，從文獻中找到現在還缺少的研究，自行做研究，然後真的需要實驗的時候，寫 Email 給其他實驗室的人類科學家，請他們做實驗，然後把結果寄回來給 AI。
未來，越來越多人能夠自行創作軟體與藝術作品。然而世界對這些作品的需求也會持續擴大。只要專業人士善用這些新工具，他們仍將遠勝初學者。整體而言，一個人到2030年的產出將遠勝於2020年，而這樣的轉變將十分明顯，多數人也會學會如何善用這種轉變獲利。
➔ 李慕約 AI 訂閱中先前有生圖挑戰，教大家怎麼入門影像
以及現在的 AI Agent 還有接下來 AI 寫程式，教大家入門軟體
"只要專業人士善用這些新工具"
➔ 專業的門檻會變低：任何人都可以入門。
天花板會更高：專業人士可以用 AI 做出更好的事情。
"一個人到2030年的產出將遠勝於2020年，而這樣的轉變將十分明顯"
➔ 接下來五年成長將勝過過去五年。
"多數人也會學會如何善用這種轉變獲利。"
➔ 希望是你啦。
不過，儘管科技快速演進，在人類最重要的面向上，2030年代可能不會有劇烈的改變。人們仍會愛著家人、發揮創意、玩遊戲、享受湖泊游泳。
但另一方面，2030年代又將與歷史上任何時期截然不同。我們無法預測超越人類智慧後的極限究竟在哪，但我們即將一探究竟。
2030年代，「智慧」與「能源」—也就是創意及實踐創意的能力—將變得極為豐沛。這兩者長久以來一直限制人類發展；而當智慧與能源不再稀缺，並搭配良善的治理，我們理論上能實現幾乎任何願望。
我目前想到的兩件事情：
1. OpenAI 在核融合上取得了進展（不太可能？）
2. OpenAI 在 AI 的演算法上取得了突破，可以大幅度用更有效率的方式進行運算。這部分是有符合 AI 2027 對演算法的論述，以及剛好昨天 ChatGPT-o3 的 API 價格降低了 80%。
如今，我們已經生活在驚人的數位智慧時代，儘管一開始很震撼，但很快就習以為常。人們迅速從驚訝AI能寫出動人的段落，轉為期盼它何時能創作動人的小說；或從驚嘆AI能診斷疾病拯救生命，到期待它何時能研發治療方法；又或從驚艷於AI能編寫小型程式，到期盼它何時能創立一家公司。這正是奇異點發展的模式：奇蹟逐漸成為日常，日常接著成為基本標配。
已有科學家表示，他們的生產力透過AI提高了兩到三倍。AI能加速AI研究，這或許才是最重大的進展之一。未來一年內完成過去十年的研究並非不可能，屆時科技的進步速度將截然不同。
從現在起，我們已有的工具將協助我們取得更多科學突破，進而打造出更好的AI系統。儘管這尚未是AI系統完全自主更新程式碼，但已經是遞迴式自我改進的雛形。
其他自我強化的循環也已啟動。AI所帶來的經濟價值已形成一個不斷擴大的基礎建設飛輪，能夠自動建造其他機器人的機器人，以及能自行擴展的資料中心，很快將成為現實。
或許第一百萬台人形機器人必須靠傳統方式打造，但接下來它們就能運營整條供應鏈，從挖掘提煉礦物，到駕駛卡車、營運工廠，生產更多的機器人與晶片廠、資料中心，屆時進步速度會明顯加快。
隨著資料中心逐步自動化，「智慧」的成本最終將逼近電力成本。許多人好奇一次ChatGPT的查詢到底耗能多少，答案是約0.34瓦特小時，相當於烤箱運作一秒鐘，或高效節能燈泡運作幾分鐘；用水量則是約0.000085加侖，大約十五分之一茶匙。
假設這邊提到的耗能是 ChatGPT-40-mini。
- ChatGPT-4o 應該是 x20倍
- ChatGPT-o3 應該是 x10~x100 倍
- ChatGPT-o3-pro 應該是 x10 倍
最節能的模型比起最先進的模型有一萬倍的差距。
科技進步的速度將持續加快，而人類適應變化的能力也一向超乎想像。雖然未來將面臨嚴峻挑戰，例如許多職業整個消失，但另一方面，世界財富將迅速提升，使我們能認真討論甚至採納以往無法想像的新政策。我們或許不會一次就建立起全新的社會契約，但數十年後回頭看，這些漸進式的改變將累積成深遠的變革。
歷史經驗顯示，我們總能開發出新的事物與需求，並迅速掌握新的工具（例如工業革命之後職業的快速轉型即是一例）。人們的期望雖將不斷升高，但能力也將同步提升，每個人都將享有更好的生活品質。我們會不斷為彼此創造出更加精彩與美好的事物。從長遠來看，人類比起AI有個關鍵且特殊的優勢：我們天生在意其他人以及他們的想法與行動，而不會真正關心機器本身。
若一位千年前僅能自給自足的農夫看到現代人從事的許多職業，可能會覺得這些都是虛構的工作，只是人們吃飽喝足、擁有各種奢侈品後的娛樂方式。我希望千年後的人類看待未來的工作時，也會覺得這些工作同樣虛幻；但我相信，從事那些工作的人們仍將感到充滿意義且十分滿足。
未來科技創新所帶來的驚人成就將超乎想像。我們現在很難設想2035年之前究竟能發生什麼，也許某一年我們才剛攻克高能物理學的重大難題，隔年就已經踏上太空殖民之路；或者今年是材料科學的重大突破，明年則出現真正高頻寬的腦機介面。許多人會選擇照樣過著現在的生活，但也一定有人會決定透過腦機介面直接「接入」這種新世界。
這些未來發展或許目前難以想像，但置身其中時，可能會感覺既驚艷又容易適應。從相對的角度來看，奇點是一點一滴發生的，而人類與技術融合的過程也會緩慢而平順地進行。我們正沿著一條科技指數型成長的曲線往上攀升，向前望時曲線近乎垂直，回頭看卻顯得平緩，但其實這一直是一條平順的曲線。（想想2020年時，如果有人告訴你2025年將幾乎實現通用人工智慧（AGI），那聽起來會有多麼瘋狂，但過去五年的真實經驗又如何？）
儘管未來的挑戰嚴峻，但伴隨而來的機會同樣巨大。我們必須解決AI的安全性問題，包括技術面與社會面的挑戰，尤其在考量到經濟衝擊後，更必須讓超級智慧系統廣泛且公平地普及。前進的最佳策略或許是：
首先，解決「目標對齊問題」（alignment problem），確保AI系統長期以來都能真正符合人類的共同利益與需求（例如社群媒體演算法就是目標錯誤對齊的典型案例，這些演算法精準掌握你的短期喜好，卻操縱你大腦的機制，忽視了你的長期利益）。
其次，致力於讓超級智慧系統便宜、普及，避免集中在少數個人、企業或國家的手中。社會具有高度的韌性與創造力，適應變化的速度也很快。如果我們能凝聚眾人的智慧與決心，即便在這過程中會犯錯且發生問題，我們仍能快速調整，充分發揮科技的優勢，並將潛在的負面影響降到最低。在社會定下的大原則之下，給予使用者足夠的自由至關重要。全球越早開始討論這些原則與共同目標的具體定義，就越好。
我們（整個產業，而不只是OpenAI）正在為這個世界打造一個「大腦」。這個系統將高度客製化，且人人都能輕鬆上手，未來唯一的限制將是好點子的數量。過去，新創圈的技術人員經常嘲笑那些空有想法、卻缺乏執行團隊的「點子王」；如今看來，這些點子王即將開始大放異彩。
OpenAI如今肩負許多使命，但我們最根本的定位仍是一家專注於超級智慧系統研究的公司。前方還有許多挑戰需要克服，但如今大部分的道路已被照亮，未知的領域也正迅速減少。我們非常感恩能夠參與這場偉大的探索。
「智慧便宜到近乎免費」的願景即將實現。現在說出這樣的話或許令人覺得不可思議，但如果回想一下2020年，我們當時若預言今日的科技發展，可能聽起來比現在對2030年的預測更加誇張。
願我們能平順且指數型地，甚至安穩而平凡地通過超級智慧時代。
慕約點評
假如不是因為快沒錢了，有募資的壓力，就是 OpenAI 內部有什麼樣的新突破了。整體來說跟我們先前在 AI 2027 分享的主題高度相關：
- 用 AI 創造 AI
- 2027 年會有指數型的成長
- AI 對齊仍然是一個大問題
AGI 來了，接下來五年會變動非常快，期待是不是真的可以有超級人工智慧。
同場加映
人工智慧將能做到人類所能做到的一切事情，不僅僅是部分，而是全部。
Ilya Sutskever, OpenAI Cofounder (2025/06/06)
