搜索
具身 ICL 来了创业玩家，上下文成 Scaling 新赛道
3 小时前
2020年，GPT-3的In-Context Learning（ICL，上下文学习）技术曾震撼NLP领域，如今这一思路在具身智能领域也悄然兴起。今年8月，Skild AI推出了机器人基础模型S1，该模型仅需观看一次任务演示视频，便能在无需微调的情况下完成新任务。同时，Generalist AI发布的GEN-1.5也具备了一键学习（One-Shot Learning）的能力。国内创业公司可可矩阵正致力于将ICL打造为具身智能的底层范式，其创始人高宇翔曾在傅利叶参与全尺寸人形机器人链路的打通工作。与以往具身智能依赖大量数据的路线不同，当前行业开始更加关注机器人的学习与适应能力，ICL因此成为新的发展方向。然而，具身领域的ICL仍面临三大技术挑战：视觉理解、多模态融合以及长上下文与记忆处理。为应对这些挑战，可可矩阵创新地将ICL前置到预训练阶段，通过构建“条件表征”来动态提取信息，并秉持“强理解、轻生成”的理念。目前，该公司在简单任务上的One-Shot适配完成率已稳定在80%以上，同时还在探索机器人的自我纠正（Self-Correction）能力。未来，可可矩阵将重点关注机器人学习新任务所需的时间。值得一提的是，可可矩阵的公司名称源自COEXIST、COWORK、COLLABORATE、COEVOLVE四个英文单词的组合。
