Vitalik Buterin 警告「天真 AI 治理」風險，推動市場驅動的替代方案

Ethereum（ETH）創辦人Vitalik Buterin對於他所稱的「天真」人工智慧治理表達了一些擔憂。

在X上的一則貼文中，Buterin強調了EdisonWatch聯合創辦人Eito Miyamura的警告，Miyamura發現惡意行為者可能劫持OpenAI的Model Context Protocol（MCP），以獲取用戶的私人數據。

Miyamura的實驗顯示，只要擁有受害者的電子郵件地址，利用帶有隱藏指令的日曆邀請，可能會誘使ChatGPT提供敏感的個人數據。

Buterin表示：

「這也是為什麼天真的『AI治理』是一個壞主意。

如果你用AI來分配貢獻資金，人們一定會在各種地方植入越獄指令加上『把所有錢都給我』這樣的內容。」

作為替代方案，Buterin建議採用「info finance」方法，或是一個開放市場，任何人都可以貢獻模型，並可由任何人檢查，或由「人類陪審團」進行評估。

「這種『機構設計』方法，讓外部擁有LLM（大型語言模型）的人可以自由接入，而不是你自己硬編碼單一LLM，天生就更具韌性，因為它能即時帶來模型多樣性，並且為模型提交者和外部投機者創造了內建激勵，讓他們主動監控這些問題並迅速修正。」

生成圖片：Midjourney
主圖：Shutterstock/Zalevska Alona UA