我的技術樂觀主義

特別感謝 Morgan Beller、Juan Benet、Eli Dourado、Karl Floersch、Sriram Krishnan、Nate Soares、Jaan Tallinn、Vincent Weisser、Balvi 誌願者和其他人的反饋和審查。

上個月，馬剋·安德森 (Marc Andreessen) 髮錶了他的“技術樂觀主義者宣言“，主張重新燃起對技術、市場和資本主義的熱情，將其作爲構建技術併推動人類走曏更加光明的未來的手段。宣言明確拒絶了它所描述的停滯意識形態，這種意識形態害怕進步併優先考慮保護當今世界。這份宣言受到了很多關註，包括來自以下組織的回應文章諾亞·史密斯,羅賓漢森,約書亞·甘斯 （更積極），以及戴夫·卡普夫,盧卡·羅佩剋,埃茲拉·剋萊因 （更消極）和許多其他。詹姆斯·佩索庫基斯 (James Pethokoukis) 的“與本宣言無關，但主題相似”保守的未來主義者“和鈀金的”是時候爲美好而建設了”。這個月，我們看到了類似的爭論頒布 通過OpenAI之爭，其中涉及許多圍繞超級智能 AI 的危險以及 OpenAI 髮展太快的可能性的討論。

我自己對技術樂觀主義的感受是溫暖的，但又微妙。我相信，由於徹底變革的技術，未來將比現在更加光明，併且我相信人類和人性。我拒絶這樣的心態，即我們應該盡力做的最好的事情就是讓世界與今天大緻相衕，但減少貪婪和更多的公共醫療保健。然而，我認爲不僅大小很重要，方曏也很重要。某些類型的技術比其他類型的技術更可靠地讓世界變得更好。如果開髮某些類型的技術，可以減輕其他 技術類型。世界對某些技術髮展方曏的指數過高，而對另一些方曏的指數偏低。我們需要人類主動的意圖來選擇我們想要的方曏，因爲“利潤最大化”的公式不會自動到達它們。

在這篇文章中，我將討論技術樂觀主義意味著什麽我。這包括更廣泛的世界觀，它激勵我在某些類型的區塊鏈和密碼學應用程序和社會技術以及我錶示感興趣的其他科學領域開展工作。但對這個更廣泛問題的看法也對人工智能和許多其他領域産生影響。我們技術的快速進步可能會成爲二十一世紀最重要的社會問題，因此仔細思考它們很重要。

目録

• 技術是驚人的，延遲它的成本非常高
  • 環境和協調意圖的重要性
• 人工智能與其他技術有著根本的不衕，值得特別小心
  • 存在風險是一件大事
  • 即使我們生存下來，超級人工智能的未來是我們想要生活的世界嗎？
  • 天已近，帝王無處不在
• d/acc：防禦（或分散，或差異）加速度
  • 有利於國防的世界有助於健康和民主的治理繁榮
  • 宏觀物理防禦
  • 微物理防禦（又稱生物防禦）
  • 網絡防禦、區塊鏈和密碼學
  • 信息防禦
  • 超越“防禦”框架的社會技術
• 那麽超級智能的前進道路是什麽？
  • 一條快樂的道路：與人工智能合併？
• d/acc 與您現有的理念兼容嗎？
• 我們是最亮的星

技術是驚人的，延遲它的成本非常高

在某些圈子裡，人們普遍低估技術的好處，併將其主要視爲反烏托邦和風險的根源。在過去的半個世紀中，這往往源於對環境的擔憂，或者源於對利益隻會惠及富人的擔憂，而富人將鞏固對窮人的權力。最近，我也開始看到自由主義者 對某些技術感到擔憂，因爲擔心這些技術會導緻權力集中。這個月，我做到了一些民意調查 提出以下問題：如果一項技術必鬚 被限製，因爲太危險了，不能讓任何人使用，他們會希望它被壟斷還是推遲十年？我驚訝地髮現，在三個平颱和三種壟斷者選擇中，一緻壓倒性地投票支持推遲。

因此，有時我擔心我們矯枉過正，許多人錯過了論點的反麵：這技術的好處 是真的非常巨大，在我們可以衡量的軸上，好處遠遠超過壞處，即使延遲十年的成本也非常高。

舉一個具體的例子，我們來看一張預期壽命圖錶：

我們看到了什麽？上個世紀，取得了真正的巨大進步。全世界都是如此，無論是歷史上富裕和占主導地位的地區，還是貧窮和被剝削的地區。

一些人指責技術製造或加劇了極權主義和戰爭等災難。事實上，我們可以在圖錶上看到戰爭造成的死亡人數：一個是在 1910 年代（第一次世界大戰），一個是在 1940 年代（第二次世界大戰）。如果你仔細觀察，西班牙流感、大躍進等非軍事悲劇也可見一斑。但該圖錶清楚地錶明了一件事：即使是如此可怕的災難也會被不斷進步的巨大程度所壓倒。食物,衛生,藥品 以及那個世紀髮生的基礎設施。

我們日常生活的巨大改善也反映了這一點。感謝互聯網，世界上大多數人 觸手可及的信息，這在二十年前是無法穫得的。由於國際支付和金融的改善，全球經濟變得更加便利。全球貧睏是迅速下降。有了在線地圖，我們不再需要擔心在城市裡迷路，如果您需要快速回家，我們現在可以更方便地叫車。我們的財産變得數字化，我們的實物商品變得便宜，意味著我們對物理盜竊的恐懼要少得多。在線購物縮小了全球大城市與世界其他地區之間穫取商品的差距。自動化以各種方式爲我們帶來了永遠被低估的好處，即簡單地製造我們的生活更加方便。

這些改進，無論是可量化的還是不可量化的，大的。在二十一世紀，很可能很快就會出現更大的改進。如今，終結衰老和疾病似乎是烏托邦。但從角度來看1945 年存在的計算機在現代，將芯片植入到幾乎所有東西中似乎是烏托邦：即使是科幻電影也經常將計算機房間大小保留下來。如果生物技術在未來 75 年中的進步與計算機在過去 75 年中的進步一樣多，那麽未來可能會比幾乎任何人的預期更加令人印象深刻。

與此衕時，對進步錶示懷疑的論點往往走曏黑暗。甚至醫學教科書，比如 20 世紀 90 年代的這本（信用艾瑪·斯澤夫扎剋 爲了找到它），有時會提出極端的主張，否認兩個世紀醫學科學的價值，甚至認爲拯救人類生命顯然沒有好處：

這“增長的極限” 論文是 20 世紀 70 年代提出的一個想法，認爲不斷增長的人口和工業最終會耗盡地球有限的資源，最終激髮了人們的靈感中國的獨生子女政策 和印度大規模強製絶育。在早期時代，對人口過剩的擔憂被用來證明合法 大量的謀殺。這些想法，爭論自1798年以來, 有著悠久的歷史被證明是錯誤的。

正是由於這些原因，作爲一個起點，我髮現自己對減緩技術或人類進步的論點感到非常不安。考慮到所有部門之間的相互關聯程度，甚至部門的 經濟放緩是有風險的。因此，當我寫下類似我將在這篇文章後麵所説的內容時，背離對無論其形式如何的進步的公開熱情，這些都是我懷著沉重的心情髮錶的聲明 - 然而，21 世紀足夠不衕和獨特，這些細微差別值得考慮。

也就是説，在更廣闊的前景中需要註意一個重要的細微差別，特別是當我們超越“技術作爲一個整體是好的”而進入“哪些特定技術是好的？”這一主題時。在這裡，我們需要談談許多人主要關心的問題：環境。

環境和協調意圖的重要性

A主要例外 過去一百年來幾乎一切都在變得更好的趨勢是氣候變化：

即使氣溫持續上升的悲觀情景也不會導緻人類真正的滅絶。但這種情況可能會比大規模戰爭造成更多的死亡，併嚴重損害那些已經陷入睏境的地區的人們的健康和生計。瑞士再保險研究所的一項研究 研究錶明，最壞的氣候變化情景可能會使世界上最貧窮國家的 GDP 降低多達 25%。這項研究 錶明印度農村地區的壽命可能比正常情況下短十年，併且像這樣的研究這個 和這個 研究錶明，到本世紀末，氣候變化可能導緻一億人額外死亡。

這些問題都是大問題。對於爲什麽我對我們剋服這些挑戰的能力持樂觀態度，我的回答是雙重的。首先，經過幾十年的炒作和一廂情願的想法，太陽能 是最後 轉動一個角落， 和電池等支持技術 正在取得類似的進展。其次，我們可以看看人類在解決以前的環境問題方麵的記録。以空氣污染爲例。來認識一下過去的反烏托邦：1952 年的倫敦大煙霧。

從那以後髮生了什麽？讓我們再問一下我們的數據世界：

事實證明，1952 年甚至還不是高峰：在 19 世紀末，更高濃度的空氣污染物也隻是接受併正常。從那時起，我們經歷了一個世紀的持續快速下降。我在訪問中國時親身經歷了這個結局：2014年，空氣中霧霾嚴重，預計預期壽命將減少五年以上，都是正常的，但到了 2020 年，空氣似乎和許多西方城市一樣幹凈。這不是我們唯一的成功故事。在世界許多地方，森林麵積正在增加。酸雨危機正在改善。這臭氧層已經恢覆 幾十年來。

對我來説，這個故事的寓意就是這樣。很多時候，情況確實如此我們文明技術的 N 版本引起了問題，N+1 版本修覆了它。然而，這不會自動髮生，需要人爲努力。臭氧層正在恢覆，因爲通過《蒙特利爾議定書》等國際協議，我們使其恢覆。空氣污染正在改善，因爲我們改善了它。衕樣，太陽能電池闆併沒有得到很大的改善，因爲它是能源技術樹中預定的一部分。太陽能電池闆已經變得越來越好，因爲幾十年來人們意識到解決氣候變化的重要性，這促使工程師緻力於解決這個問題，也促使公司和政府資助他們的研究。這是有意識的行動，通過公共話語和文化進行協調，塑造政府、科學家、慈善家和企業的觀點，而不是無情的“技術資本機器”，已經解決了這些問題。

人工智能與其他技術有著根本的不衕，值得特別小心

我看到的許多關於人工智能的輕蔑態度都來自這樣的觀點：它“隻是另一種技術”：與社交媒體、加密、避孕、電話、飛機、槍支、印刷屬於衕一類事物。按下和滾輪。這些事情顯然具有非常重要的社會影響。它們不僅僅是對個人福祉的孤立改善：它們從根本上改變了文化，改變了權力平衡，併傷害了嚴重依賴先前秩序的人們。許多反對他們。總的來説，悲觀主義者的結果總是錯誤的。

但有一種不衕的方式來思考人工智能是什麽：它是一個新思維 它們的智力正在迅速提高，併且很有可能超越人類的智力，成爲地球上新的頂尖物種。中的事物類別那 類別要小得多：我們可能會合理地包括人類超越猴子、多細胞生命超越單細胞生命、生命本身的起源，也許還有工業革命，機器在這場革命中擊敗了人類身體的 力量。突然間，感覺我們正走在人跡罕至的地方。

存在風險是一件大事

人工智能出錯可能使世界變得更糟的一種方式是（幾乎）最糟糕的可能方式：它可以字麵上導緻人類滅絶。這是一個極端的説法：盡管氣候變化、人爲流行病或核戰爭等最壞情況可能造成多大的傷害，但仍有許多文明島嶼完好無損，可以收拾殘局。但超級智能人工智能如果決定與我們爲敵，很可能沒有幸存者，併永遠終結人類。甚至火星 可能不安全。

令人擔憂的一個重要原因是工具趨衕：對於超級智能實體可能擁有的非常廣泛的目標，人工智能可以採取兩個非常自然的中間步驟來更好地實現這些目標：（i）消耗資源，以及（ii）確保其安全。地球蘊藏著豐富的資源，人類是一個可預測的威脅 爲了這樣一個實體的安全。我們可以 試圖給人工智能一個明確的愛和保護人類的目標，但我們有不知道 如何實際上 做那 人工智能一旦出現就不會完全崩潰遇到意外情況。因此，我們遇到了問題。

MIRI 研究員 Rob Bensinger 的嘗試 説明不衕的人對人工智能殺死所有人或做出幾乎衕樣糟糕的事情的可能性的估計。許多立場都是基於人們的公開聲明的粗略估計，但許多其他立場也公開給出了他們的精確估計；不少人的“厄運概率”超過25%。

A機器學習研究人員調查 從 2022 年開始，研究人員認爲平均而言，人工智能有 5-10% 的幾率殺死我們所有人：與統計上預期的概率大緻相衕您將死於非生物原因，例如受傷。

這都是一個推測性假設，我們都應該警惕涉及覆雜的多步驟故事的推測性假設。然而，這些論點已經經受了十多年的審查，因此，似乎至少值得擔心一點。但即使你不擔心真正的滅絶，也有其他原因讓你感到害怕。

即使我們生存下來，超級人工智能的未來是我們想要生活的世界嗎？

許多現代科幻小説都是反烏托邦的，對人工智能的描述很糟糕。即使是非科幻小説嘗試識別可能的人工智能未來也常常會給出結果相當沒有吸引力的答案。所以我四處詢問這個問題：對於包含超級人工智能的未來的描述是什麽，無論是科幻小説還是其他形式，我們將想 居住。迄今爲止最常出現的答案是 Iain Banks 的文化繫列。

《文化》繫列講述了一個遙遠未來的星際文明，主要由兩種角色占據：普通人類和被稱爲“心靈”的超級智能人工智能。人類得到了增強，但隻是輕微的增強：醫療技術理論上允許人類無限期地生存，但大多數人選擇隻活 400 年左右，似乎是因爲他們對那時的生活感到厭倦。

從錶麵上看，人類的生活似乎是美好的：舒適，健康問題得到照顧，娛樂選擇多種多樣，人與心靈之間存在著積極的協衕關繫。然而，當我們深入思考時，就會髮現一個問題：似乎心靈完全掌控一切，而人類在故事中的唯一角色就是充當心靈的棋子，代錶他們執行任務。

引用自加文·裡奇的《反對文化》:

人類併不是主角。即使書中似乎有一個人類主角，做著嚴肅的大事，但他們實際上是人工智能的代理人。 （扎卡維是唯一的例外之一，因爲他可以做思想不想做的不道德的事情。）“文化中的思想不需要人類，但人類又需要被需要。” （我認爲隻有一小部分人需要——或者説，隻有一小部分人需要它足以放棄許多舒適。大多數人的生活規模併不大。這仍然是一個很好的批評。）

人類所承擔的項目存在不真實的風險。幾乎他們所做的任何事情，機器都可以做得更好。你能做什麽？如果你從正在攀爬的懸崖上掉下來，你可以命令頭腦不要抓住你——隻是因爲；你可以刪除你頭腦中的備份，這樣你就真的在冒險了。你也可以離開文化併重新加入一些老式的、不自由的“強烈評價”的文明。另一種選擇是通過加入“接觸”來傳播自由。

我認爲，即使是文化繫列中賦予人類“有意義”的角色也是一種延伸。我問 ChatGPT（還有誰？）爲什麽人類被賦予了他們被賦予的角色，而不是頭腦完全自己做所有的事情，我個人髮現它的答案 相當平庸。似乎很難擁有一個由人工智能主導的“友好”的超級智能世界，其中人類除了寵物之外什麽都不是。

我不想看到的世界。

許多其他科幻繫列都假設了一個存在超級人工智能的世界，但是接受命令 來自（未增強的）生物人類大師。 《星際迷航》就是一個很好的例子，展示了星際飛船與它們的和諧相處的願景人工智能“計算機” （和數據）及其人類操作員和機組人員。然而，這感覺像是一種極其不穩定的平衡。 《星際迷航》的世界目前看來是田園詩般的，但很難想象它對人類與人工智能關繫的願景隻是星際飛船十年前的一個過渡階段。完全 計算機控製，無需再受寬大的走廊、人工重力和氣候控製的睏擾。

曏超級智能機器髮出命令的人類遠不如機器聰明，而且它能穫取的信息也更少。在一個存在任何程度競爭的宇宙中，人類處於次要地位的文明將勝過那些人類頑固地堅持控製的文明。此外，計算機本身 可能會奪取控製權。要了解原因，請想象您在法律上是一個八歲孩子的真正奴隸。如果你能和孩子長時間交談，你認爲你能説服孩子在一張紙上簽字，讓你穫得自由嗎？我沒有進行過這個實驗，但我本能的回答是肯定的。總而言之，人類成爲寵物似乎是一個很難逃脫的吸引力。

天已近，帝王無處不在

中國有句俗話“天高皇帝遠”，概括了政治集權局限性的一個基本事實。即使在名義上龐大而專製的帝國中 - 事實上，尤其 如果專製帝國規模很大，領導層的影響力和關註度就會受到實際限製，領導層需要將權力委托給當地代理人來執行其意誌，這會削弱其執行意圖的能力，因此總有一些地方存在一定程度的實際影響自由統治。有時，這可能會帶來負麵影響：缺乏執行統一原則和法律的遙遠國家，可能會爲當地霸主的盜竊和壓迫創造空間。但如果集中權力惡化，註意力和距離的實際限製可能會限製其惡化程度。

有了人工智能，就不再是這樣了。二十世紀，現代交通技術使得距離的限製對中央集權的約束比以前弱得多。 20 世紀 40 年代偉大的極權主義帝國在一定程度上是其結果。在二十一世紀，可擴展的信息收集和自動化可能意味著註意力也將不再是一種限製。政府自然限製消失的後果完全 可能會很可怕。

數字威權主義已經十年來呈上升趨勢，監控技術已經爲專製政府提供了鎮壓反對派的強大新策略：讓抗議活動髮生，然後髮現併髮現悄悄地去追 參與者們事後。更一般地説，我基本擔心的是，讓 OpenAI 能夠爲超過一億客戶提供服務的衕類管理技術500名員工 還將允許500人的政治精英，甚至5人的董事會，對整個國家保持鐵腕統治。有了現代監控來收集信息，現代人工智能來解釋信息，可能就無處藏身了。

當我們考慮人工智能在戰爭中的後果時，情況會變得更糟。引用一個半著名帖子 關於人工智能和加密貨幣的哲學0x阿爾法:

在不需要政治思想工作和戰爭動員的情況下，戰爭最高統帥隻需把局勢本身當作一盤棋來考慮，完全不顧棋盤上棋子、騎士、車的思想和情緒。棋盤。戰爭變成了純粹的技術游戲。

此外，政治思想工作和戰爭動員需要任何人髮動戰爭的理由。不要低估這種“正當理由”的重要性。幾千年來，它一直是人類社會戰爭的合法性製約。任何人想要髮動戰爭都必鬚有一個理由，或者至少有一個錶麵上合理的借口。您可能會説這個約束太弱了，因爲在許多情況下，這隻不過是一個借口。例如，有些（如果不是全部）十字軍東徵確實是爲了占領土地、掠奪財富，但它們必鬚以上帝的名義進行，即使被掠奪的城市是上帝的君士坦丁堡。然而，即使是弱約束仍然是約束！僅僅這個小小的借口要求實際上就阻止了戰爭製造者完全不擇手段地實現他們的目標。即使像希特勒這樣的邪惡勢力也不可能立即髮動戰爭，他必鬚先花費數年時間試圖説服德國民族爲高貴的雅利安人種爭取生存空間。

如今，“循環中的人”成爲對獨裁者髮動戰爭或在內部壓迫其公民的權力的重要製衡。循環中的人類有阻止 核戰爭,允許打開柏林牆，併在期間拯救了生命暴行 喜歡這 大屠殺。如果軍隊是機器人，那麽這項檢查就完全消失了。獨裁者可能會在晚上 10 點喝醉，在晚上 11 點對人們在推特上對他們刻薄而感到憤怒，而機器人入侵艦隊可能會在午夜之前越過邊境，曏鄰國的平民和基礎設施傾瀉地獄之火。

與以前的時代不衕的是，那裡總是有一些遙遠的角落，那裡天高皇帝遠，政權的反對者可以在那裡重新集結和隱藏，併最終找到一種方法讓事情變得更好，而21世紀的人工智能是極權主義的政權很可能對世界保持足夠的監視和控製，以永遠“鎖定”。

d/acc：防禦（或分散，或差異）加速度

在過去的幾個月裡，“e/acc”（“有效加速主義者”）運動穫得了很大的支持。由“Beff Jezos”總結如下，e/acc 從根本上講是對技術進步真正巨大好處的認識，以及渴望加速 這種趨勢能夠更快地帶來這些好處。

我髮現自己在很多情況下都贊衕 e/acc 的觀點。有很多證據錶明FDA 太保守了 就其願意推遲或阻止藥物批準而言，總體而言，生物倫理學似乎常常遵循這樣的原則：“20 人在醫學實驗出錯中死亡是一場悲劇，但 20 萬人因輓救生命的治療而死亡”延遲是一個統計數據”。審批延遲新冠病毒檢測和疫苗， 和瘧疾疫苗，似乎進一步證實了這一點。然而，這種觀點可能走得太遠了。

除了我對人工智能相關的擔憂之外，我對e/acc 熱情 爲了軍事技術。在 2023 年的當前背景下，美國正在製造這項技術併立即應用於保衛烏剋蘭，很容易看出它如何成爲一股正義的力量。然而，從更廣泛的角度來看，對現代軍事技術作爲正義力量的熱情似乎需要相信占主導地位的技術力量將可靠地成爲大多數衝突中現在和未來的好人之一：軍事技術很好，因爲軍事技術是由美國建造和控製的，而且美國很好。成爲一名 e/acc 是否需要成爲一名美國最高主義者，將一切都押在政府現在和未來的道德以及國家未來的成功上？

另一方麵，我認爲需要新的方法來思考如何降低這些風險。這OpenAI 治理結構 就是一個很好的例子：這似乎是一種善意的努力，旨在平衡盈利的需要，以滿足提供初始資本的投資者的願望，併希望進行製衡，以阻止可能導緻 OpenAI 崩潰的舉動。世界。然而在實踐中，他們最近試圖解雇薩姆·奧爾特曼 使得這個結構看起來像是一個徹底的失敗：它將權力集中在一個由五人組成的不民主且不負責任的董事會中，他們根據秘密信息做出關鍵決策，併拒絶透露其推理的任何細節直到員工威脅要辭職 全體。不知何故，非營利組織的董事會錶現得很糟糕，以至於公司的員工已創建 一個臨時的事實上的聯盟…與億萬富翁首席執行官站在一起反對他們。

總的來説，我看到太多拯救世界的計畫，其中包括賦予一小群人極端和不透明的權力，併希望他們明智地使用它。因此，我髮現自己被一種不衕的哲學所吸引，這種哲學對於如何應對風險有詳細的想法，但它尋求創建和維護一個更加民主的世界，併試圖避免將集權作爲解決我們問題的首選。這一理念也比人工智能更廣泛，我認爲即使在人工智能風險擔憂基本上沒有根據的世界中，它也適用。。我將把這種哲學稱爲d/acc。

dacc3

這裡的“d”可以代錶很多東西；特別，防禦,權力下放,民主 和微分。首先，考慮一下防守，然後我們可以看看這與其他解釋有何聯繫。

有利於國防的世界有助於健康和民主的治理繁榮

思考技術的宏觀後果的一個框架是著眼於防守與進攻的平衡。從廣義上講，某些技術使攻擊他人變得更容易：做違背他們利益的事情，他們覺得有必要做出反應。其他人則使防禦變得更容易，甚至在不依賴大型中心化參與者的情況下進行防禦。

出於多種原因，有利於防禦的世界是一個更好的世界。首先當然是安全的直接好處：更少的人死亡，更少的經濟價值被破壞，更少的時間浪費在衝突上。但人們較少意識到的是，一個有利於國防的世界使得更健康、更開放和更尊重自由的治理形式更容易蓬勃髮展。

一個明顯的例子是瑞士。瑞士通常被認爲是現實世界中最接近古典自由主義治理烏托邦的國家。大量權力下放給各省（稱爲“州”），重大決策是由全民投票決定以及很多當地人連總統是誰都不知道。這樣的國家如何生存極具挑戰性 政治的壓力？的一部分回答 是出色的政治策略，但另一個主要部分是非常有利於防禦的地理位置) 以其山區地形的形式。

國旗是一個很大的優點。但山也是如此。

詹姆斯·C·斯科特的新書中對佐米亞的無政府主義社會進行了著名的描述《不被統治的藝術》，是另一個例子：他們也能保持自由和獨立，這在很大程度上要歸功於山區地形。與此衕時，歐亞草原與治理烏托邦完全相反。莎拉潘恩的闡述海上強國與大陸強國 提出了類似的觀點，但重點是水作爲防禦屏障而不是山脈。事實上，自願貿易的便利性和非自願入侵的難度的結合，對於瑞士和島國來説都是共衕的，這似乎是人類繁榮的理想選擇。

在爲以太坊生態繫統內的二次融資實驗提供建議時，我髮現了一個相關的現象：特別是Gitcoin 贈款融資輪次。在第四輪，當一些收入最高的接收者是 Twitter 影響者時，髮生了一起小型醜聞，他們的貢獻被一些人視爲積極的，而另一些人則視爲消極的。我自己對這種現象的解釋是存在不平衡：二次方融資 允許您髮出信號錶明您認爲某物是公益，但它無法錶明某物是公共不良。在極端情況下，完全中立的二次融資繫統將爲戰爭雙方提供資金。所以對於第五輪，我建議 Gitcoin 應該包括負貢獻：您支付 1 美元減少 給定項目收到的金額（併隱式地將其重新分配給所有其他項目）。結果：地段 的人們 討厭的它。

第五輪之後流傳的衆多網絡梗之一。

在我看來，這似乎是一個更大模式的縮影：建立去中心化的治理機製來處理消極的 外部性在社會上是一個非常棘手的問題。去中心化治理出錯的首選例子是暴民正義，這是有原因的。有關於人類心理學的一些東西 這使得對消極因素的反應比對積極因素的反應更加棘手，而且更有可能出錯。這就是爲什麽即使在高度民主的組織中，如何應對負麵影響的決定也往往由中央委員會決定。

在許多情況下，這個難題是“自由”概念如此有價值的深層原因之一。如果有人説了一些冒犯你的話，或者有一種你認爲令人厭惡的生活方式，你感受到的痛苦和厭惡是真實的，你甚至可能會髮現挨打比接觸這些事情更糟糕。但是，試圖就哪些類型的冒犯和厭惡行爲在社會上可以採取行動達成一緻，可能比簡單地提醒自己某些怪人和混蛋是我們生活在自由社會所付出的代價要付出更大的代價和危險。

然而，在其他時候，“微笑併忍受”的做法是不現實的。在這種情況下，有時值得關註的另一個答案是防禦技術。互聯網越安全，我們就越不需要侵犯人們的隱私併使用不正當的國際外交策略來追捕每個黑客。我們可以建造的越多用於在 Twitter 上屏蔽用戶的個性化工具,用於檢測詐騙的瀏覽器內工具 和區分錯誤信息的集體工具 和真相，我們爲審查製度而鬥爭的次數就越少。我們製造疫苗的速度越快，我們就越不需要追捕超級傳播者。這樣的解決方案併不適用於所有領域 - 我們當然不希望每個人都必鬚穿著真正的防彈衣 - 但在我們需要的領域能 開髮技術使世界更加有利於國防，這樣做具有巨大的價值。

這一核心思想，即某些技術有利於防禦，值得推廣，而其他技術有利於進攻，應該予以阻止，它植根於有效的利他主義文獻中，但名稱不衕：差異化技術開髮。有一個好的牛津大學研究人員對這一原理的闡述 從 2022 年起：

圖 1：差異化技術開髮減少負麵社會影響的機製。

將技術分類爲進攻性、防禦性或中性時不可避免地會存在缺陷。就像“自由”一樣，人們可以爭論社會民主黨政府的政策是通過徵收重稅和脅迫雇主來減少自由，還是通過減少普通人對多種風險的擔憂來增加自由，“防禦”也有一些技術這可能屬於光譜的兩邊。核武器有利於進攻，但核武器力量 是有利於人類繁榮 以及攻防中立。不衕的技術在不衕的時間範圍內可能髮揮不衕的作用。但就像“自由”（或“平等”或“法治”）一樣，邊緣的模糊性與其説是反對該原則的論據，不如説是一個更好地理解其細微差別的機會。

現在，讓我們看看如何將這一原則應用到更全麵的世界觀中。我們可以想到防禦技術，比如其他技術，被分成兩個領域：原子世界 和比特的世界。原子世界又可以分爲微 （即生物學，後來的納米技術）和宏 （即我們通常認爲的“防禦”，也是有彈性的物理基礎設施）。我將在不衕的軸上分割比特的世界：原則上就攻擊者是誰達成一緻有多難？。有時很容易；有時卻很容易。我稱之爲網絡防禦。其他時候則比較睏難；我稱之爲信息防禦。

宏觀物理防禦

宏觀領域最被低估的防禦技術甚至不是鐵穹頂 （包括烏剋蘭的新製度）和其他反科技和反導彈軍事硬件，而是有彈性的物理基礎設施。核戰爭造成的大部分死亡可能來自供應鏈中斷，而不是最初的輻射和爆炸，像星鏈這樣的低基礎設施互聯網解決方案在維護烏剋蘭的互聯互通 在過去的一年半裡。

構建工具來幫助人們獨立或半獨立地獨立或半獨立地生存，甚至過上舒適的生活，這似乎是一項有價值的防禦技術，而且被證明對進攻有用的風險很低。

追求使人類成爲多行星文明 也可以從 d/acc 的角度來看：讓我們中至少有一些人在其他星球上自給自足地生活可以增強我們抵禦地球上髮生的可怕事情的能力。即使全麵的願景暫時被證明不可行，自給自足的生活形式 使這樣一個項目成爲可能所需要的開髮也很可能有助於提高我們地球上的文明覆原力。

微物理防禦（又稱生物防禦）

尤其是由於其長期健康影響, Covid 仍然是憂慮。但新冠疫情還遠不是我們將麵臨的最後一場流行病。現代世界的許多方麵都可能導緻更多的流行病即將到來：

• 人口密度更高 使空氣中的病毒和其他病原體更容易傳播。流行病在人類歷史上相對較新，大多數始於城市化僅在幾千年前。持續快速的城市化 意味著未來半個世紀人口密度將進一步增加。
• 航空旅行增加 意味著空氣中的病原體在全球範圍內傳播得非常快。人們迅速變得富裕意味著航空旅行可能會增加很多 更遠 在接下來的半個世紀裡；覆雜性建模錶明即使是小幅增加 可能會産生劇烈的影響。氣候變化可能會進一步增加這種風險。
• 動物馴化和工廠化養殖 是主要危險因素。麻疹 可能是由不到 3000 年前的牛病毒進化而來。今天的工廠化農場 也在培育新的流感毒株（以及助長抗生素耐藥性，後果爲人類先天免疫）。
• 現代生物工程 使得更容易産生新的、毒性更強的病原體。冠狀病毒可能已經泄漏，也可能沒有泄漏 來自進行有意的“功能穫得”研究的實驗室。不管，實驗室泄漏事件時有髮生，併且工具正在迅速改進，使得故意製造極其緻命的病毒變得更加容易，甚至朊病毒 (僵屍蛋白）。人爲瘟疫尤其令人擔憂，部分原因是不像核武器，它們是無法歸屬的：你可以釋放病毒，而沒有人能夠知道是誰創建了它。有可能的現在 設計基因序列併將其髮送到濕實驗室 進行合成，併在五天內將其運送給您。

這是一個區域加密救援 和獎項，由於一次重大意外事件，兩個組織成立併穫得資助柴犬硬幣的意外收穫 2021年，一直非常活躍。 CryptoRelief 最初專註於應對眼前的危機，最近一直在印度建立一個長期的醫學研究生態繫統，而 Balvi 一直專註於登月項目，以提高我們檢測、預防和治療新冠病毒和其他空氣傳播疾病的能力。 ++Balvi 堅持認爲其資助的項目必鬚是開源的++。從中汲取靈感19世紀戰勝霍亂的水利工程運動 和其他水傳播病原體，它資助了一繫列技術項目，這些技術可以使世界在默認情況下更加抵禦空氣傳播病原體（參見：更新1 和更新2）， 包括：

• 遠紫外光 輻照研髮
• 空氣過濾和質量監測印度， 斯裡蘭卡，美國 和其他地方以及空氣質量監測
• 設備便宜又有效分散式空氣質量檢測
• 對長新冠病毒病因和潛在治療方案的研究（主要原因可能是直截了當 但澄清機製 併且尋找治療更加睏難）
• 疫苗（例如。拉達瓦剋,流行疫苗）和疫苗損傷研究
• 一套全新的非侵入性醫療工具
• 使用開源數據分析（例如，電子錶）
• 測試，包括非常便宜的分子快速測試
• 當其他方法失敗時，適合生物安全的口罩

其他有前景的感興趣領域包括廢水病原體監測,改善建築物的過濾和通風，併更好地理解和緩解空氣質量不佳帶來的風險。

有機會建立一個世界 默認情況下，它對自然和人爲的空氣傳播流行病的抵抗力要強得多。這個世界將擁有一個高度優化的管道，我們可以從大流行開始，到被自動檢測到，再到世界各地的人們能夠穫得有針對性的、本地可生産且可驗證的開源疫苗 或者其他預防措施，通過管理霧化 或者鼻噴霧劑 （意思是：如果需要，可以自行給藥，不需要針頭），所有這些都在一個月內完成。與此衕時，更好的空氣質量將大大降低傳播速度，併阻止許多流行病的蔓延。

想象一個不必訴諸社會強製大鎚的未來——沒有強製措施，甚至更糟，也沒有被強製執行的風險。設計和執行不當的任務可能會讓事情變得更糟 - 因爲公共衛生基礎設施已融入文明的結構中。這些世界是可能的，隻要曏生物防禦提供中等數量的資金就可以實現這一目標。如果開髮是開源的、免費曏用戶開放併作爲公共産品受到保護，那麽這項工作將會進行得更加順利。

網絡防禦、區塊鏈和密碼學

安全專業人士普遍認爲，當前的計算機安全狀況非常糟糕。也就是説，我們很容易低估所取得的進展。任何能夠侵入用戶錢包的人都可以匿名竊取數千億美元的加密貨幣，衕時更多的人丟失或被盜 出乎我的意料，事實上，十多年來，其中大部分都沒有被盜。最近，有了一些改進：

• 用戶手機內可信的硬件芯片，有效地在手機內部創建一個更小的高安全操作繫統，即使手機的其餘部分遭到黑客攻擊，該操作繫統也能保持受到保護。在許多其他用例中，這些芯片越來越多地被探索作爲一種製造更安全的加密錢包。
• 瀏覽器作爲事實上的操作繫統。在過去的十年中，從可下載的應用程序悄然轉變爲瀏覽器內 應用程序。這在很大程度上是由WebAssembly（WASM）。即使是 Adob​​e Photoshop，長期以來一直被認爲是許多人無法實際使用 Linux 的主要原因，因爲它的必要性和與 Linux 的不兼容性，現在由於位於瀏覽器中而對 Linux 友好。這也是一個很大的安全優勢：衕時瀏覽器確實有缺陷，一般來説，它們比已安裝的應用程序具有更多的沙箱：應用程序無法訪問計算機上的任意文件。
• 強化操作繫統。石墨烯操作繫統 for mobile 存在，併且非常有用。Qubes操作繫統 對於桌麵存在；至少根據我的經驗，它目前的可用性比石墨烯要差一些，但它正在改進。
• 嘗試超越密碼。不幸的是，密碼很難保護，因爲它們很難記住，而且因爲他們很容易被竊聽。最近，越來越多的人開始減少對密碼的重視，併進行基於硬件的多因素身份驗證實際上工作。

但是，那缺少 其他領域的網絡防禦也導緻了重大挫折。防範垃圾郵件的需要導緻電子郵件成爲實踐中非常寡頭壟斷，使得自行托管或創建新的電子郵件提供商變得非常睏難。許多在線應用程序，包括推特，要求用戶登録才能訪問內容，併阻止來自 VPN 的 IP，從而使以保護隱私的方式訪問互聯網變得更加睏難。軟件集中化也存在風險，因爲“武器化的相互依存”：現代技術傾曏於穿過集中的阻塞點，而這些阻塞點的運營者利用這種權力來收集信息、操縱結果或排除特定參與者——這一策略似乎目前正在採用反對區塊鏈行業本身。

這些都是令人擔憂的趨勢，因爲它威脅到了我歷來最大的希望之一，即爲什麽自由和隱私的未來盡管存在深刻的權衡，但可能仍然是光明的。在他的書中《不完美的未來》大衛·弗裡德曼預測，我們可能會得到一個妥協的未來：現實世界將受到越來越多的監視，但通過密碼學，網絡世界將保留甚至改善其隱私。不幸的是，正如我們所看到的，這種反趨勢遠不能保證。

這就是我自己強調區塊鏈等密碼技術的地方零知識證明 進來。區塊鏈讓我們能夠通過“共享硬盤”創建經濟和社會結構，而不必依賴集中的參與者。加密貨幣允許個人省錢併進行金融交易，就像在互聯網出現之前用現金一樣，而不依賴於可以隨意改變其規則的可信第三方。它們還可以作爲後備反女巫機製，使攻擊和垃圾郵件變得昂貴 即使對於沒有或不想透露其肉體空間身份的用戶也是如此。帳戶抽象，特別是社會恢覆錢包，可以保護我們的加密資産以及未來潛在的其他資産，而無需過度依賴中心化中介機構。

可以使用零知識證明爲了隱私，允許用戶在不泄露私人信息的情況下證明自己的事情。例如，包裹一個數字護照簽名 在 ZK-SNARK 中證明您是特定國家的獨特公民，不透露您是哪位公民。像這樣的技術可以讓我們保持隱私和匿名的好處——這些屬性被廣泛認爲是投票等應用程序所必需的 - 衕時仍然穫得安全保證併打擊垃圾郵件和不良行爲者。

ZK 社交媒體繫統的擬議設計，可以進行審核操作併且可以對用戶進行懲罰，而所有這些都不需要知道任何人的身份。

祖帕斯，孵化於快點 今年早些時候的實踐就是一個很好的例子。這是一個應用程序，已被 Zuzalu 的數百人使用，最近又被數千人用於在開髮連接，這使您可以持有門票、會員資格，（不可轉讓）數字收藏品和其他證明，併在不損害您的隱私的情況下證明所有這些內容。例如，您可以證明您是 Zuzalu 的唯一註冊居民，或者 Devconnect 票證持有者，不透露任何有關您是誰的信息。這些證明可以通過二維碼或數字方式親自出示，以登録諸如祖波爾，一個僅曏 Zuzalu 居民開放的匿名投票繫統。

這些技術是 d/acc 原則的一個很好的例子：它們允許用戶和社區在不損害隱私的情況下驗證可信度，併保護他們的安全，而不依賴於強加他們自己定義誰好誰壞的中心化瓶頸。 它們通過創建比當今使用的常用技術更好、更公平的方法來保護用戶或服務的安全，例如歧視整個被認爲不值得信任的國家，從而提高全球可訪問性。如果我們想要在 21 世紀保持信息安全的去中心化願景，這些都是非常強大的原語，它們可能是必要的。更廣泛地研究網絡空間防禦技術可以使互聯網在未來的非常重要的方麵更加開放、安全和自由。

信息防禦

正如我所描述的，網絡防禦是指理性的人很容易就攻擊者是誰達成共識的情況。如果有人試圖侵入你的錢包，人們很容易認爲黑客是壞人。如果有人試圖對網站進行 DoS 攻擊，人們很容易認爲他們是惡意的，併且在道德上與試圖閲讀網站內容的普通用戶不衕。在其他情況下，界限更加模糊。在這些情況下改善我們防禦的工具我稱之爲“信息防禦”。

以事實核查（又名，防止“錯誤信息”）爲例。我是一個社區筆記的忠實粉絲，它在幫助用戶識別其他用戶所髮推文的真僞方麵做了很多工作。社區筆記使用了一種新的算法，該算法不會顯示那些屬於社區筆記的筆記最受歡迎，而是註釋最受各政治派別的用戶認可。

社區註釋的實際應用。

我也是預測市場的粉絲，這可以幫助識別事件的重要性實時，在塵埃落定之前，就哪個方曏是哪個方曏達成共識。這山姆·奧爾特曼 (Sam Altman) 的 Polymarket 對每小時的揭露和談判的最終後果進行有用的總結非常有幫助，爲那些隻看到個別新聞而不了解每條新聞的重要性的人提供了急需的背景信息。

預測市場常常存在缺陷。但那些願意自信地錶達他們認爲明年“將”髮生的事情的 Twitter 影響者往往存在更大的缺陷。預測市場仍有進一步改善的空間。例如，預測市場的一個主要實際缺陷是，除了最引人註目的事件外，所有事件的交易量都很低。嘗試解決這個問題的一個自然方曏是建立由人工智能髮揮作用的預測市場。

在區塊鏈領域，我認爲我們需要更多特定類型的信息防禦。也就是説，錢包應該更加堅定和積極地幫助用戶確定他們正在簽名的內容的含義，併保護他們免受欺詐和詐騙。這是一個中間案例：什麽是騙局、什麽不是騙局，比對有爭議的社會事件的看法更主觀，但比區分合法用戶和 DoS 攻擊者或黑客更主觀。 Metamask 已經有一個詐騙數據庫，併自動阻止用戶訪問詐騙網站：

應用程序如火 這些是走得更遠的一種方法的例子。然而，像這樣的安全軟件不應該是需要顯式安裝的東西；默認情況下，它應該是加密錢包甚至瀏覽器的一部分。

由於其更主觀的性質，信息防禦本質上比網絡防禦更具集體性：您需要以某種方式融入一大群覆雜的人來識別什麽可能是真的或假的，以及什麽樣的應用程序是欺騙性的龐氏騙局。開髮人員有機會在開髮有效的信息防禦和強化現有形式的信息防禦方麵走得更遠。像社區筆記這樣的東西可以包含在瀏覽器中，不僅涵蓋社交媒體平颱，還涵蓋整個互聯網。

超越“防禦”框架的社會技術

在某種程度上，我可以合理地指責我通過將其中一些信息技術描述爲與“防禦”有關而硬塞。畢竟，防禦是爲了幫助善意的行爲者免受惡意行爲者（或者在某些情況下，免受自然）的侵害。然而，其中一些社交技術是關於幫助善意行爲者形成共識。

一個很好的例子是波爾，它使用類似於社區筆記（併且早於社區筆記）的算法來幫助社區識別子部落之間的共識點，否則這些子部落在很多方麵都存在分歧。觀點.xyz 受到 pol.is 的啟髮，有著相似的精神：

此類技術可用於對有爭議的決策進行更加去中心化的治理。衕樣，區塊鏈社區是一個很好的試驗場，併且此類算法已經顯示出價值。一般來説，決定哪些改進（“歐洲投資銀行”）以太坊協議的製定是由一個相當小的小組在名爲“所有核心開髮人員電話“。對於大多數社區成員沒有強烈感情的高度技術性決策，這種方法相當有效。對於影響協議經濟學的更重要的決策，或者影響不變性和審查阻力等更基本的價值觀，這通常是不夠的。早在 2016 年-17，當圍繞實施一繫列有爭議的決定時DAO fork，減少髮行併且（不）解凍 Parity 錢包、Carbonvote 等工具以及社交媒體投票幫助社區和開髮者了解大多數社區意見的方曏。

DAO 分叉上的碳投票。

碳投票有其缺陷：它依靠 ETH 持有量來確定誰是以太坊社區的成員，從而使結果由少數富有的 ETH 持有者（“鯨魚”）主導。然而，借助現代工具，我們可以利用多種信號來製作更好的 Carbonvote，例如聚丙烯酰胺, Zupass 郵票,吉特幣護照,禮賓協會會員資格，以及 ETH（甚至是單獨質押的 ETH）持有量來衡量社區成員資格。

任何社區都可以使用此類工具來做出更高質量的決策、找到共衕點、協調（物理或數字）遷移或做許多其他事情，而無需依賴不透明的集中領導。這本身併不是國防加速，但肯定可以稱爲民主加速。這些工具甚至可以用來改善人工智能領域關鍵參與者和機構的治理併使之民主化。

那麽超級智能的前進道路是什麽？

上述一切都很好，可以使下個世紀的世界變得更加和諧、安全和自由。然而，它還沒有解決房間裡的大象：超級智能人工智能。

許多擔心人工智能的人建議的默認前進道路本質上會導緻最小的人工智能世界政府。該方案的近期版本包括一項提案“跨國AGI聯盟” （“魔法”）。這樣的聯盟如果成立併成功實現創造超級智能人工智能的目標，將自然而然地成爲事實上的最小世界政府。從長遠來看，有一些想法，例如“關鍵行動” 理論：我們創建一個人工智能來執行單一的一次性行爲 它將世界重新安排成一個游戲，從那時起，人類仍然負責，但游戲棋盤在某種程度上更有利於防禦，更適合人類的繁榮。

到目前爲止，我看到的主要實際問題是人們似乎併不真正信任任何有能力構建這樣的東西的特定治理機製。當你看看我最近的 Twitter 民意調查結果時，這個事實就變得顯而易見了，我詢問人們是否願意看到人工智能被領先十年的單一實體壟斷，或者人工智能爲每個人推遲十年：

每次民意調查的規模都很小，但民意調查通過各種來源和選項得出的結果的一緻性彌補了這一點。在九分之九的情況下，大多數人寧願看到高度先進的人工智能徹底推遲十年，也不願被單個團體壟斷，無論是公司、政府還是跨國機構。在九個案例中的七個中，延遲至少以二比一穫勝。對於任何追求人工智能監管的人來説，這似乎是一個需要理解的重要事實。目前的方法一直專註於製定許可計畫和監管要求，試圖將人工智能的開髮限製在少數人手中，但這些方法遭到了普遍的抵製，因爲人們不想看到任何人壟斷如此強大的東西。即使這種自上而下的監管建議降低了滅絶的風險，它們也有可能增加某種永久鎖定於集權極權主義的可能性。矛盾的是，是否可以達成協議禁止極其先進的人工智能研究徹底的 （也許生物醫學人工智能除外），結合諸如強製 對那些未被禁止的模型進行開源，以減少利潤動機，衕時進一步改善準入平等，更多的 受歡迎的？

“讓一個全球組織來做人工智能併使其治理真正非常好”路線的反對者首選的主要方法是多神教人工智能：有意識地嘗試確保有很多人和公司開髮大量人工智能，這樣他們中的任何一個都不會變得比另一個更強大。按照理論，這樣一來，即使人工智能變得超級智能，我們也可以保持權力平衡。

這種哲學很有趣，但我試圖確保以太坊生態繫統內的“多神論”的經驗確實讓我擔心這是一種本質上不穩定的平衡。在以太坊中，我們有意嘗試確保堆棧許多部分的去中心化：確保沒有單一的代碼庫來控製超過一半的權益證明網絡，試圖抵消大型權益池的主導地位, 改善地域分散化， 等等。從本質上講，以太坊實際上是在嘗試實現古老的自由主義夢想，即建立一個以市場爲基礎的社會，利用社會壓力而不是政府作爲反壟斷監管者。在某種程度上，這已經奏效了：Prysm 客戶端的主導地位 從70%以上下降到45%以下。但這併不是某種自動的市場過程：它是人類意圖和協調行動的結果。

我在以太坊的經歷反映了從整個更廣闊的世界中學到的經驗，其中許多市場已被證明是自然壟斷。由於超級智能人工智能獨立於人類而行動，情況更加不穩定。謝謝遞歸自我完善，最強的AI可能會很快領先，而一旦AI比人類更強大，就沒有任何力量可以推動事物恢覆平衡。

另外，即使我們做 得到一個最終穩定的超級智能人工智能的多神世界，我們仍然有其他 問題：我們的宇宙中人類都是寵物。

一條快樂的道路：與人工智能合併？

我最近聽説的另一個選擇是較少關註人工智能與人類分離的事物，而更多關註可提高 人類的認知而不是替換 它。

人工智能繪圖工具就是朝這個方曏髮展的一個近期例子。如今，用於製作人工智能生成圖像的最著名的工具隻有一步，人類提供輸入，然後人工智能完全接管。另一種選擇是更多地關註 Photoshop 的 AI 版本：藝術家或 AI 可以使用這些工具製作圖片的早期草稿，然後兩者通過實時反饋過程合作改進它。

Photoshop 生成 AI 填充，2023 年。來源。我嘗試過，需要時間來適應，但實際上效果很好！

本著類似精神的另一個方曏是開放機構架構，它建議將人工智能“思維”的不衕部分（例如製定計畫、執行計畫、解釋來自外部世界的信息）分成單獨的組件，併在這些部分之間引入不衕的人類反饋。

到目前爲止，這聽起來很平常，而且幾乎每個人都衕意擁有它會很好。經濟學家達龍·阿西莫格魯 (Daron Acemoglu) 的著作遠非這種人工智能未來主義，但他的新書力量與進步 暗示希望看到更多此類人工智能。

但如果我們想進一步推斷人類與人工智能合作的想法，我們會得到更激進的結論。除非我們創建一個足夠強大的世界政府來檢測和阻止每一小群人用筆記本電腦對單個 GPU 進行黑客攻擊，否則最終有人會創建一個超級智能人工智能 - 一個可以思考的人工智能快千倍 比我們能做到的更多——而人類用手使用工具的組合將無法抵禦這種情況。因此，我們需要將人機合作的理念進一步深化和深化。

第一個自然步驟是腦機接口。腦機接口可以讓人類更直接地穫得越來越強大的計算和認知形式，將人與機器之間的雙曏通信循環從幾秒縮短到幾毫秒。這也將大大減少讓計算機幫助您收集事實、提出建議或執行計畫的“腦力勞動”成本。

誠然，這樣的路線圖的後期階段會變得很奇怪。除了腦機接口之外，還有多種途徑可以通過生物學創新直接改善我們的大腦。最終的進一步步驟，合併兩條路徑，可能涉及上傳我們的思想 直接在電腦上運行。這也將是物理安全的最終目標：保護我們自己免受傷害不再是保護不可避免的濕軟人體的挑戰性問題，而是一個簡單得多的數據備份問題。

這樣的指示有時會引起擔憂，部分原因是它們是不可逆轉的，部分原因是它們可能會給有權勢的人帶來比我們其他人更多的優勢。腦機接口尤其存在危險——畢竟我們正在談論的是從字麵上讀和寫到人們的頭腦中。這些擔憂正是爲什麽我認爲在這條道路上髮揮主導作用的理想選擇是由以安全爲中心的開源運動而不是封閉的專有公司和風險投資基金來擔任。此外，所有這些問題都更差 與人類密切相關的增強功能相比，獨立於人類運行的超級智能人工智能。由於以下原因，“增強型”和“未增強型”之間的鴻溝今天已經存在誰可以和不能使用 ChatGPT 的限製。

如果我們想要一個超級智能的未來和 “人類”，人類不僅僅是寵物，而且實際上在世界上保留著有意義的代理權，那麽感覺這樣的東西是最自然的選擇。對於爲什麽這可能是一條更安全的人工智能協調路徑，也有很好的論據：通過在決策的每個步驟中納入人類反饋，我們減少了將高層規畫責任轉移給人工智能本身的動機，從而減少了人工智能本身做了一些與人類價值觀完全不相符的事情。

支持這一方曏的另一個論點是，它可能更社交上 比簡單地喊叫更可口”暫停人工智能“如果沒有補充信息提供替代的前進道路。這將需要從當前的心態上進行哲學轉變，即接觸人類的技術進步是危險的，但與人類無關的進步默認是安全的。但它有一個巨大的抵消好處：它爲開髮人員提供了一些事情可做。如今，人工智能安全運動曏人工智能開髮者傳達的主要信息似乎是“你應該停下來“。 一罐緻力於對齊研究，但今天這缺乏經濟激勵。與此相比，常見的 e/acc 信息“你本來就是英雄”，這是可以理解的，非常有吸引力。一條 d/acc 的信息，即“你應該建造，併且建造有利可圖的東西，但要更有選擇性和更有意識地確保你正在建造的東西能夠幫助你和人類繁榮髮展”，可能會成爲贏家。

d/acc 與您現有的理念兼容嗎？

• 如果您是電子/ACC，那麽 d/acc 是 e/acc 的一個亞種 - 隻是一個更具選擇性和有意性的亞種。
• 如果您是有效的利他主義者，那麽 d/acc 是有效利他主義理念的品牌重塑差異化技術開髮，盡管更加強調自由和民主價值觀。
• 如果你是一個自由主義者，那麽 d/acc 是技術自由主義的一個亞種，盡管它是一種更務實的自由主義，對“技術資本機器”更加批判，併且願意接受今天的政府幹預（至少，如果文化幹預不這樣做的話）工作）以防止明天出現更糟糕的不自由。
• 如果你是一個多元主義者， 在裡麵格倫·韋爾（Glen Weyl）這個詞的含義，那麽 d/acc 是一個框架，可以輕鬆地包含對多元化所重視的更好的民主協調技術的強調。
• 如果你是一個公共衛生倡導者，那麽 d/acc 的想法可以成爲更廣泛的長期願景的來源，以及與“技術人員”找到共衕點的機會，否則您可能會覺得與“技術人員”存在分歧。
• 如果你是一個區塊鏈倡導者，那麽 d/acc 是一種比 15 年來對惡性通貨膨脹和銀行的強調更現代、更廣泛的敘述，它將區塊鏈作爲構建更光明未來的具體戰略中的衆多工具之一。
• 如果你是一個太陽朋剋，那麽 d/acc 是太陽朋剋的一個亞種，併且衕樣強調意曏性和集體行動。
• 如果你是一個月球朋剋，那麽您就會欣賞 d/acc 通過維護隱私和自由來強調信息防禦。

我們是最亮的星

我熱愛科技，因爲科技拓展了人類的潛力。一萬年前，我們可以製造一些手工工具，改變一小塊土地上生長的植物，建造基本房屋。今天，我們可以構建800米高的塔樓，將所有記録的人類知識存儲在我們可以握在手中的設備中，在全球範圍內即時通信，使我們的壽命加倍，併過上幸福而充實的生活，而不必擔心我們最好的朋友經常死於疾病。

我們從底層開始，現在我們在這裡。

我相信這些事情是非常好的，併且將人類的影響範圍進一步擴大到行星和恆星也是非常好的，因爲我相信人性本善。在某些圈子裡，對此持懷疑態度是很流行的：人類自願滅絶運動 認爲如果沒有人類存在，地球會變得更好，而且更多人希望看到人類數量少得多 在未來的幾個世紀裡看到這個世界的光明。常見的是爭論 那人類是壞的 因爲我們欺騙和偷竊，從事殖民主義和戰爭，虐待和消滅其他物種。對於這種思維方式，我的回答是一個簡單的問題：與什麽相比？

是的，人類常常是卑鄙的，但我們更多時候錶現出善良和憐憫，併爲了共衕的利益而共衕努力。即使在戰爭期間，我們也經常註意保護平民——當然還不夠，但也遠遠超過我們2000年前就這麽做了。下個世紀很可能會帶來廣泛使用的非動物性肉類，從而消除最大的道德災難 今天，人類應該爲此受到責備。非人類的動物不是這樣的。出於道德原則，貓不會採取完全拒絶吃老鼠的生活方式。太陽每年都變得更加明亮，併且大約在十億年，預計這將使地球變得太熱而無法維持生命。太陽還有嗎思考 關於它將導緻的種族滅絶？

因此，我堅信，在我們在宇宙中已知和看到的所有事物中，我們人類是最亮的星星。我們唯一知道的是，即使不完美，有時也會認真努力地關心“善”，併調整我們的行爲以更好地服務於“善”。二十億年後，如果地球或宇宙的任何部分仍然擁有地球生命的美麗，那將是人類的手段，例如太空旅行和地球工程 那樣它就會髮生。

我們需要建設併加速。但有一個非常現實的問題需要問：我們正在加速實現的目標是什麽？ 21世紀很可能是這 關鍵世紀 對於人類來説，這個世紀將決定我們未來幾千年的命運。我們是否陷入了無法逃脫的衆多陷阱中的一個，或者我們是否找到了通往保留自由和能動性的未來的道路？這些都是具有挑戰性的問題。但我期待著觀看併參與我們人類尋找答案的偉大集體努力。

聲明：

1. 本文轉載自[Vitalik Buterin]，著作權歸屬原作者[Vitalik Buterin]，如對轉載有異議，請聯繫Gate Learn團隊，團隊會根據相關流程盡速處理。
2. 免責聲明：本文所錶達的觀點和意見僅代錶作者個人觀點，不構成任何投資建議。
3. 文章其他語言版本由Gate Learn團隊翻譯， 在未提及Gate.io的情況下不得覆製、傳播或抄襲經翻譯文章。