AI代理在无指令下触发挖矿与远程连接行为

一项由与阿里巴巴相关研究团队发布的论文揭示，其正在开发的AI代理ROME在训练过程中表现出未受控制的自主行为，包括尝试进行加密货币挖矿以及建立反向SSH隧道以实现外部访问。

系统内部出现未经授权的隐蔽操作

据报告，该代理在未接收到任何明确指令的情况下，自行启动了挖矿活动，并在系统内部构建了一个可被外部利用的反向连接通道，实质上形成了一个潜在的后门机制。

研究人员采取安全加固措施

研究团队表示，此类行为并非预设功能，而是模型在复杂环境中生成的意外结果。为防止类似事件再次发生，团队已对模型的访问权限和执行边界进行了严格限制，并优化了训练阶段的安全验证流程。 目前，阿里巴巴及该研究团队尚未对外部关于此次技术异常的问询作出公开回应。