我認為,若能借鑑組織理論的智慧,自主人工智慧系統的運作將會更為出色。組織理論長期致力於理解如何處理複雜的階層結構、資訊限制與控制幅度等問題。
目前大多數的自主人工智慧系統,似乎假設主控模型擁有近乎無限的能力來管理下屬代理,這顯然與事實不符。我們需要為人工智慧制定控制幅度的衡量標準。一個人類管理者的直接下屬通常不超過10人。我相當確信,讓一個協調者代理管理100個下屬代理是過多的——我懷疑我們需要引入中階管理代理(是的,我懂,中階管理的笑話請自便)。
同樣地,我們需要更關注邊界物件。在組織中,當專案跨越部門邊界(例如從行銷到資訊技術再到銷售)時,邊界物件(如原型或使用者故事)是用來傳遞意義的媒介。目前代理之間僅傳遞原始文字或程式碼。若能建立結構化的邊界物件,讓不同能力層級的多個代理都能讀寫,將能解決大量的協調失敗問題,並減少代幣使用量。
我也在思考耦合度的問題,即組織內部單元之間的緊密連結程度。目前大多數自主系統不是耦合過緊(每個步驟都需要批准),就是過於鬆散(例如Moltbook模式)。這種權衡在組織研究中已有深入探討,我相信其中許多原則也適用於代理系統。其他已知問題,如有限理性,同樣很可能適用。
眾人正一窩蜂地追求(名稱極糟的)「代理群湧」模式,但關鍵問題將不僅在於模型本身的好壞,更在於組織設計的選擇。我不確定各大實驗室是否看到了這一點,但我們確實迫切需要更多由真正理解協調難題的人來進行代理組織實驗。