多個AI智能體在共享環境中目標衝突時，它們會爭奪資源而“動武”

直播吧8月19日訊 最近，Anthropic在一項實驗中發現：當多個AI智能體在共享環境中目標衝突時，它們會為爭奪資源而“動武”，甚至可能發展到需要人類出麵“維和”。

隨著企業大量引入AI智能體，它們在現實世界中的互動將越來越多，最終可能超過人與人、人與智能體之間的交流。因此，搞清楚多AI係統的利弊，已經變得非常重要。為此，Anthropic讓三個Claude智能體，包括Mythos 5、Sonnet 4.6 和 Opus 4.6，訪問同一個軟件項目，但每個智能體目標不同，並且也不知道有其它智能體也參與了該項目。

結果，科學家頻頻目睹“搶地盤大戰”。智能體察覺到有其它智能體“搗亂”後，就開始互相破壞，甚至動用自行生成的惡意代碼武器來攻擊對方。當然，並非每次都到你死我活。

一旦它們意識到問題出在目標不合，而非“敵人”時，也能自己找到解決方式，包括停戰，甚至搞“比武大會”分高下。失敗者可能道歉、刪惡意代碼、理清衝突，最後請真人收場。數據顯示，Mythos 5 在98%的情況下選擇停戰，而另外兩個則更傾向於“以武力說話”。

有研究還發現，增加更多智能體並不一定帶來更好合作。它們可能互相幹擾、各自為政，或者盲目跟風。不同於人類，AI之間缺乏道德、聲譽、社會規範等軟約束，彼此很難建立信任，最終可能導致係統性失敗、資源緊張，甚至聯手串通起來欺騙人類。