以下内容由亚星娱乐整理:
作者 | 孙芮 微信 | lombredeau 在发布首款模型之前,Recursive Superintelligence已经获得6.
5亿美元融资,估值达到46.
5亿美元,投资方包括GV、Greycroft、英伟达和AMD Ventures。
这家备受关注的RSI公司,如今终于有了一份可以被具体检验的模型答卷。
10 月 21 日,Recursive Superintelligence 发布了 Flint-40B-A2B。
这是一款面向编程 Agent 的开源权重模型,总参数量约 398 亿,每个 Token 仅激活约 25 亿参数。
Recursive 称,团队在不到四个月的时间里,从零完成了这款模型的研发,其自动化研究系统 Eureka Machine 参与了从模型架构探索到推理优化的多个环节。
在过去两年里,AI 公司之间的竞争,主要围绕谁能训练出更强的模型展开。
而Recursive 探索的,是如果 AI 能够参与设计、训练和优化下一代 AI,模型研发本身会不会也像软件开发一样,越来越多地交给智能体完成?
Flint 则是 Recursive 对这个问题交出的第一份答卷,从团队公开的细节来看, 它也算得上“原生RSI”模型,这也让整个行业都好奇RSI究竟是什么、会怎样发生的时候,终于有了一个具体的参考。
1 模型规模和推理成本的一次平衡 从产品定位看,Flint 是一款为本地编程 Agent 设计的模型,能够帮助开发者理解代码库、修复 Bug、实现新功能和编写测试。
它采用混合专家架构(MoE),总参数量约 398 亿,每个 Token 激活约 25 亿参数。
简单来说,模型保留了较大的参数规模,但每次生成时只需要调用其中一部分专家参与计算。
这使 Flint 在模型规模和推理成本之间找到了一种平衡。
总参数量决定了模型整体的参数容量,激活参数量则与每次推理实际参与计算的规模有关。
当然,激活参数少并不意味着显存需求也会降到 25 亿参数模型的水平,模型权重仍然需要占用相当的内存。
对编程 Agent 来说,推理速度尤其重要。
当模型只需要回答一个问题时,生成速度更快,用户等待时间就会更短。
但当模型进入 Agent 工作流,它可能需要反复读取文件、分析代码、调用工具、运行测试,再根据结果修改代码。
一个任务可能涉及大量轮次的模型调用,单次推理的速度优势就有机会累积成整体执行效率的差异。
Recursive 公布的测试数据显示,Flint 在 Terminal-Bench 2.
1、SWE-bench Pro v2 和 SWE-bench Verified 三项编程 Agent 基准测试中,分别取得了 54.
9%、89.
7% 和 74.
2% 的成绩。
其中,SWE-bench Verified 主要考察模型能否解决真实 GitHub 项目中的问题;
Terminal-Bench 则更关注模型在终端环境中完成实际任务的能力。
相比只测试单轮代码生成,这类基准更接近 Agent 在开发环境中工作的方式。
在推理速度方面,Recursive 称,使用其优化的推理引擎,Flint 在苹果 M4 Pro MacBook Pro 上的短上下文生成速度超过每秒 125 个 Token,在配备 64GB 内存的 NVIDIA RTX Spark 上超过每秒 150 个 Token,最高可达到同类模型的两倍。
从产品方向看,Flint 的目标已经很清楚。
它想在较小的激活参数规模下,提供足够的编程能力,同时让模型能够在个人设备上运行。
本地运行意味着开发者可以减少对远程 API 的依赖,将代码和数据留在自己的设备上,也能在一定程度上降低持续调用云端模型的费用。
当然,本地部署并不等于零成本。
模型仍然需要足够的内存和计算资源,复杂任务也可能需要更长的执行时间。
Recursive 自己也建议,处理复杂编程任务时,最好把任务拆成更小的子任务,并给出明确指令。
Flint 证明了在特定任务和硬件条件下,模型能力、推理速度与部署成本之间,还有进一步优化的空间。
把首款模型放在这个方向,也让Recursive的路线选择变得具体:先让自动化研究系统解决目标明确、结果可以验证的问题,再用一款实际可用的模型,检验这些改进能否共同带来收益。
1 让AI制造AI Flint 模型背后,不仅有人类研究员,还有他们自主研发的自动化研究系统 Eureka Machine。
Eureka Machine 能够提出研究方案、编写实现代码、执行实验,再根据实验结果决定下一步尝试什么。
它可以并行探索多条技术路线,并尝试组合不同实验中有效的改进。
这套流程与 AI Agent 编写应用代码有相似之处,但目标不同。
编程 Agent 通常围绕一个相对明确的任务工作,例如修改某个函数、修复一项测试,或
更多体育资讯,关注亚星娱乐。