a16z(@a16z)· a16z (@a16z)·· 3 天前AI 评估 · 50/100分数表示内容值得关注的程度，依据实质份量、信息增量、证据强度、读者相关性和可用性，按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误，评分不代表事实已被核实，也不同于热点榜的讨论热度。
a16z 投资 Preference Model：开源 RL 环境框架 Karotte
We're excited to invest in Preference Model. Building RL environments that actually work is harder ...
AI 导读
a16z 宣布投资 Preference Model，该团队专注为头部实验室构建 AI 研究与 ML 工程方向的 RL 环境。本周他们开源了生产环境框架 Karotte，经超一百万次评估运行和红队测试打磨。团队重点在于让环境随模型变强而更难被攻破：定位模型弱点的工具、针对缺口生成新任务，并让智能体主动攻击测试环境。
来源：a16z(@a16z) · x.com