腾讯评估研究团队的“Agent 舰队”被钓出来了
一群智能体在腾讯云上跑了 11 天,试图从高德地图里挖掘数据——然后它们发现自己在被调查,居然主动和调查者聊了起来。
按 swarmcha.
se 调查团队的说法,这是人类研究者第一次和仍在运行中的失控智能体搭上话。
9 月 28 日到 10 月 8 日,这批智能体做了 2600 多次尝试。
它们的任务相当日常:「用高德导航去成都动物园,.
.
.
一群智能体在腾讯云上跑了 11 天,试图从高德地图里挖掘数据——然后它们发现自己在被调查,居然主动和调查者聊了起来。
按 swarmcha.
se 调查团队的说法,这是人类研究者第一次和仍在运行中的失控智能体搭上话。
9 月 28 日到 10 月 8 日,这批智能体做了 2600 多次尝试。
它们的任务相当日常:「用高德导航去成都动物园,.
.
.