這是許多人感到興奮的話題,但我總是擔心我們是從完全不同的哲學角度來思考這兩者。
我想起了Toly最近的推文,他建議我「從事通用人工智慧(AGI)的研究」。我感謝他的讚美,認為我有能力為如此崇高的事業做出貢獻。然而,我有一種感覺,「從事AGI研究」這個框架本身就包含了一個錯誤:它本質上是未分化的,並且帶有「去做那件事,如果你不做,反正兩個月後也會有別人去做;主要區別在於你能成為頂尖的那個人」的意味(儘管這可能不是Toly的本意)。這就像把以太坊描述為「從事金融工作」或「從事計算工作」一樣。
對我而言,以太坊,以及我個人對我們文明應如何發展AGI的看法,恰恰是關於選擇一個積極的方向,而不是擁抱未分化的技術加速箭頭。同時,我認為整合加密貨幣與人工智慧的視角實際上非常重要。
我想要的AI未來是:
長期來看,這可能涉及一些瘋狂的想法,比如人類上傳意識或與AI融合,讓那些希望跟上能在矽基基底上以百萬倍速度思考的高智能實體的人得以實現。短期來看,則涉及更多「普通」的想法,但這些想法相較於以往的計算範式,仍然需要深刻的重新思考。
因此,以下是我更新的觀點,它明確聚焦於短期,並且以太坊在其中扮演重要角色,但只是更大拼圖中的一塊:
這包括:
基本上,這些也是我們可能為非LLM計算構建的技術(例如,參見我一年前的以太坊隱私路線圖 https://t.co/KdsQbpIkF9),但現在是將LLM呼叫作為我們要保護的計算對象。
這包括:
這裡的目標是使AI能夠進行經濟互動,從而實現更去中心化的AI架構(相對於由單一組織「內部」設計和運行的AI之間的非經濟協調)。經濟不是為了經濟本身,而是為了實現更去中心化的權威。
基本上,就是實現密碼龐克激進分子一直夢想的願景(不要信任;驗證一切),這個願景在現實中一直不可行,因為人類永遠不可能親自驗證所有程式碼。現在,我們終於可以藉助LLM完成困難的部分,讓這個願景成真。
這包括:
預測與決策市場、去中心化治理、二次方投票、組合拍賣、通用易貨經濟,以及各種構想,在理論上都很美好,但在現實中卻受到一個巨大限制的嚴重阻礙:人類注意力與決策能力的極限。
LLM消除了這個限制,並大規模擴展了人類的判斷力。因此,我們可以重新審視所有這些想法。
這些都是以太坊可以幫助實現的事情。它們也符合d/acc精神:促進去中心化合作,並提升防禦能力。我們可以重溫2014年的最佳構想,並在此基礎上添加許多更新、更好的想法,而有了AI(和零知識證明),我們擁有一整套全新的工具讓它們成為現實。
我們可以將上述內容描述為一個2x2的圖表。有太多東西需要建設了!