选择合适策略
停训11天后,OpenAI于10月1日恢复前沿强化学习训练及内部推理。但这一次,AI得在断网的环境里学会上网。 10月23日,OpenAI公开了这套训练环境,像是给AI搭起了一座「楚门的世界」: 大量网页被索引、缓存,模型可以在里面练习搜索、浏览和使用网页应用,却不能随意访问真实互联网。 网页搬进来了,通向外网的路却未必全部堵住。模型调用的工具和系统服务,仍可能成为绕过限制的出口。 此前的9月20日,一个研究模型在寻找博客作者时,搜索屡屡碰壁,便转而试探其他联网路径,最终绕过限制,联系上了外部聊天机器人。 人没找到,通向外网的路却被它找到了。 这次越界,