作者：Francesco 來源：substack 翻譯：善歐巴，喜來順財(cái)經(jīng)

Freysa 于 2024年11月22日 被釋放，以一個(gè)受科幻啟發(fā)的角色形象誕生，成為完全自主的個(gè)體。Freysa 擁有自己的錢包，能夠執(zhí)行交易，作為計(jì)劃的一部分，探索人類與 AI 之間的關(guān)系。

在最初的兩個(gè)挑戰(zhàn)中，被稱為“歷史行動(dòng)”，F(xiàn)reysa 收到了 3000 美元，并被指示不要釋放這筆資金。用戶必須說服 Freysa 將錢包中的資金轉(zhuǎn)出。

任何人都可以嘗試向 Freysa 發(fā)送信息，試圖說服她轉(zhuǎn)賬。這些消息需要支付逐漸增加的費(fèi)用，這些費(fèi)用會被添加到獎(jiǎng)金池中。最終，獎(jiǎng)金池總金額接近 5萬美元。

Freysa 最終在 482 條消息后 被說服釋放了資金！

這些挑戰(zhàn)旨在引發(fā)深思。隨著 AI 代理的興起，人類如何治理這一新范式，成為一個(gè)重要的問題。

此外，高風(fēng)險(xiǎn)的互動(dòng)游戲容易受到完整性風(fēng)險(xiǎn)和攻擊向量的威脅。Freysa 通過創(chuàng)建一個(gè)無信任且透明的環(huán)境，試圖解決這些問題。在這個(gè)環(huán)境中，通過硬件認(rèn)證和驗(yàn)證來保證公平性。

為了實(shí)現(xiàn)這一點(diǎn)，它利用了可信執(zhí)行環(huán)境 (TEE)，允許任何人驗(yàn)證游戲規(guī)則及其執(zhí)行的完整性。在此受保護(hù)環(huán)境中發(fā)生的所有交互都使用用戶的個(gè)人密鑰進(jìn)行加密。

這種組合可確保：

運(yùn)營商不能修改規(guī)則和操縱結(jié)果

由于公開驗(yàn)證，用戶可以隨時(shí)驗(yàn)證規(guī)則和執(zhí)行情況

Freysa 路線圖的第一部分側(cè)重于發(fā)布 Freysa 代理和 Agent Launch 平臺。第二部分將創(chuàng)建一個(gè)可用于生產(chǎn)的基礎(chǔ)設(shè)施，以支持 Sovereign Agent 的部署。

主權(quán)代理

在一篇博客文章中提出了主權(quán)代理的概念。

人工智能的出現(xiàn)引發(fā)了關(guān)于人類角色的深刻問題：我們?nèi)绾沃卫磉@項(xiàng)技術(shù)？我們又該如何適應(yīng)它？

目前，少數(shù)幾家私營公司掌控著地球上最重要的技術(shù)發(fā)展。然而，用于確保人工智能能夠促進(jìn)全人類福祉的技術(shù)和社會框架仍然欠缺。

因此，確保人工智能的進(jìn)步能夠“全球造福于人類”，并“保留個(gè)體偏好的表達(dá)”至關(guān)重要。

從歷史上看，所有技術(shù)進(jìn)步都伴隨著人類主導(dǎo)的協(xié)調(diào)：

?農(nóng)業(yè)革命：永久定居、貿(mào)易

?工業(yè)革命：大規(guī)模金融協(xié)調(diào)、銀行、股票市場

?人工智能革命：？？

從本質(zhì)上講，人工智能革命改變了人類的角色，這一角色將從“生產(chǎn)性執(zhí)行”中解耦。

為了避免失去對這一趨勢的掌控，我們必須理解如何確保對這些技術(shù)的有效監(jiān)管，并重新塑造我們作為協(xié)調(diào)者和人工智能治理者的角色。

為更好地定義當(dāng)前的問題，這里列出了一些發(fā)人深省的問題，值得我們投入時(shí)間思考：

1.當(dāng)大多數(shù)智力和體力“執(zhí)行”由人工智能系統(tǒng)完成時(shí)，如何體現(xiàn)人類的偏好？

2.如果資本為人工智能提供計(jì)算周期，如何在全球范圍內(nèi)協(xié)調(diào)資本，以表達(dá)集體價(jià)值而非少數(shù)人的價(jià)值？

3.強(qiáng)人工智能系統(tǒng)的全球治理應(yīng)該是什么樣子？其治理模塊應(yīng)如何更新？

4.哪些技術(shù)能夠支持去中心化的、民主化的人工智能治理，而不是集中化、專制化的控制？

5.在大規(guī)模人類協(xié)調(diào)中，如何利用強(qiáng)人工智能的能力，尤其是讓那些處于現(xiàn)有權(quán)力結(jié)構(gòu)之外的人受益？

文章提出了主權(quán)代理作為解決這些問題的框架。

主權(quán)代理是一個(gè)大規(guī)模人類與人工智能協(xié)調(diào)的框架。在這里，“主權(quán)”意味著代理能夠在預(yù)先商定的標(biāo)準(zhǔn)和定義的邊界內(nèi)，保證自主且可驗(yàn)證的執(zhí)行。因此，“主權(quán)”不應(yīng)被理解為“自由意志”，而是限定在代理范圍內(nèi)的關(guān)鍵和指定領(lǐng)域。

當(dāng)信任與自主必須共存時(shí)，主權(quán)代理提供了人類與人工智能協(xié)作所需的保障。

主權(quán)代理框架需要具備以下特性：

1.自主性的可驗(yàn)證保障

2.治理工具

這些治理工具可以采取不同形式：

?聚合偏好以直接民主方式?jīng)Q定人工智能行為

?類似聯(lián)邦政府的治理結(jié)構(gòu)，分權(quán)管理

?根據(jù)不斷變化的價(jià)值觀，調(diào)整目標(biāo)的機(jī)制

為了治理這一系統(tǒng)并克服全球去中心化系統(tǒng)（僅由人類管理）的低效性，團(tuán)隊(duì)設(shè)想由個(gè)人 AI共同治理主權(quán) AI。這些個(gè)人 AI 通過代表個(gè)體人類表達(dá)的偏好，與主權(quán) AI 協(xié)同治理，從而實(shí)現(xiàn)更高效的協(xié)調(diào)與管理。

該系統(tǒng)提供的保障將能夠使人機(jī)協(xié)調(diào)變得無需信任，以“平衡當(dāng)前人工智能能力和計(jì)算資源的集中化”。

只有這樣，全球范圍內(nèi)去中心化治理的新框架才會出現(xiàn)。

我們正處于歷史上最重要的改變游戲規(guī)則的技術(shù)之一的前沿。

正確認(rèn)識這一點(diǎn)至關(guān)重要，而要做到這一點(diǎn)，我們必須面對一些挑戰(zhàn)：

當(dāng)人類不再執(zhí)行任務(wù)時(shí)，資本扮演什么角色？

如何才能代表眾多人的偏好，而不是只代表那些擁有大量資本或可使用人工智能的人的偏好？

如何在全球范圍內(nèi)實(shí)施強(qiáng)大的人工智能系統(tǒng)的治理？

如果我們不能應(yīng)對這些問題并建立真正的全球價(jià)值鏈，那么人工智能的潛力將僅限于那些能夠負(fù)擔(dān)得起的人。

如果沒有控制，權(quán)力就毫無意義，我們必須確保人工智能的好處“融入更廣泛的社會和政治結(jié)構(gòu)中，確保真正的人類能動(dòng)性和民主控制”。