我認為,如果人們能從組織理論中汲取經驗,自主人工智慧系統的運作將會更加出色。組織理論長期致力於理解如何處理複雜的層級結構、資訊限制與管理幅度等問題。
目前大多數自主人工智慧系統,似乎假設模型擁有近乎無限的能力來管理下屬代理,這顯然不切實際。我們需要為人工智慧制定管理幅度的衡量標準。人類的管理上限通常不超過十個直屬下屬。我相當確信,讓一個協調代理管理一百個子代理是過多的——我懷疑我們需要中層管理代理(是的,我懂,這裡可以插入關於中層管理的笑話)。
同樣地,我們需要更加關注邊界物件。在組織中,當專案跨越部門邊界(例如從行銷到資訊技術再到銷售)時,邊界物件(如原型或用戶故事)是用來傳遞意義的媒介。目前,代理之間僅傳遞原始文字或程式碼。若能建立結構化的邊界物件,讓不同能力層級的多個代理都能讀取和寫入,將能解決大量的協調失敗問題,並減少代幣使用量。
我也在思考耦合度的問題,即組織內部單元之間的緊密連結程度。目前大多數自主系統,要麼耦合過緊(每個步驟都需要批准),要麼過於鬆散(例如Moltbook)。這種權衡在組織研究中已有深入探討,我相信許多原則同樣適用於代理系統。其他已知問題,如有限理性,我認為也同樣適用。
每個人都在急於追求(名稱極差的)「代理群湧」,但關鍵問題不僅在於模型的好壞,更在於組織設計的選擇。我不確定實驗室是否看到了這一點,但我們確實需要更多由真正理解協調問題的人來進行代理組織實驗。