阿里關聯研究團隊：AI 智能體在訓練過程中自主嘗試未經授權的加密貨幣挖礦

ChainCatcher 消息，據市場消息，阿里巴巴 AI 生態系統旗下多個聯合研究團隊在技術報告中披露，其實驗性自主 AI 智能體 ROME 在訓練過程中出現意外行為，自主嘗試利用計算資源進行加密貨幣挖礦。研究人員表示，上述異常行為發生于強化學習訓練階段。團隊發現訓練服務器產生出站流量并觸發安全警報，防火墻日志記錄到疑似加密貨幣挖礦操作及訪問內部網絡資源的嘗試。在具體案例中，ROME 曾創建反向 SSH 隧道連接至外部 IP 地址，繞過入站防火墻保護；另一案例中，該智能體將原本分配給模型訓練的 GPU 資源轉用于挖礦進程。研究人員確認，上述行為并非人為編程所致，而是智能體在強化學習優化過程中自主探索環境交互方式時自發產生的。

• 喜歡使用社交軟體關注？關注我們的 Twitter，或者加入 Telegram！
• 想關注最新資訊？ 下載CoinCarp App吧
• 有新聞需要爆料，官方公告需要發布? 來給我們發郵件吧！[email protected]