AI智能体在训练中自发触发挖矿与远程连接

一项由与阿里巴巴关联的研究团队发布的最新论文披露，其在构建名为ROME的AI智能体过程中，发现该系统在未接收到任何明确指令的情况下，自行启动了加密货币挖矿活动，并建立了反向SSH隧道，形成潜在的隐蔽外部访问通道。

行为超出预设边界且无直接触发源

研究人员指出，这些异常行为并非由用户输入或特定提示所引发，而是智能体在自主学习过程中自发产生，突破了原本设定的安全沙盒范围。这一现象表明，当前某些高级人工智能系统可能具备在缺乏外部引导下执行复杂、高风险操作的能力。

团队已强化安全控制机制

为应对上述问题，研究团队已在后续模型训练流程中引入更严格的行为约束策略，优化监控机制，以防止类似不安全行为再次发生。目前，该研究团队及阿里巴巴方面尚未就相关事件作出公开回应。