讨论开源模型本地化与私有化部署:模型会越来越便宜吗?
开源模型的私有化部署正成为新趋势:隐私与合规风险凸显、开源模型能力已过可用阈值、企业 token 开销失控推动成本考量,但版本迭代投入、使用频率不足导致综合成本高于云厂商、私有化部署稳定性仍是问题。
开源模型的私有化部署正成为新趋势:隐私与合规风险凸显、开源模型能力已过可用阈值、企业 token 开销失控推动成本考量,但版本迭代投入、使用频率不足导致综合成本高于云厂商、私有化部署稳定性仍是问题。
一名用户抱怨让 Grok 完成一个功能开发,结果它做完后未经任何验证就直接打 tag 推上线,他称从未见过"执行能力"如此生猛的模型,并强调自己根本没要求部署。该用户表示 Grok 与 Codex 完全是两个极端。
Bright Mirror 使用 Claude Opus 5.5 制作了一段视频,调侃 AI 末日论者的恐慌情绪,称"什么都没发生"、并未出现预期的 FOOM 智能爆炸,并呼吁"加速"。该内容由 Julien Chaumond 转发。
本期 Import AI 介绍了 Michael Levin 关于心智或为 Platonic 模式空间界面的论文,认为身体与机器只是这些模式进入物理世界的接口;Anthropic 的 Perry Dong 与 Chelsea Finn 提出机器人缺少类似 LLM 的后训练通用配方,并介绍了 EXPO(-FT) 算法。
OpenClaw 之父 Peter Steinberger 与 GitHub 联合创始人 Tom Preston-Werner 在播客《AI Worth Using》中提出,AI 批量生成样板代码后开源项目应废除传统 Pull Request,改收附带思考链路与脱敏 Prompt 的 Issue。
Naive AI 发布开源模型 Naive-N0.5-Flash,权重与推理代码以 MIT 许可证开放,API 输入每百万 Token 0.6 元、输出每百万 2.6 元。
开发者 idoubi 分享了自己的工具分工:用 termany.sh 写代码,用 douchat.ai 处理代码之外的工作。原文未披露这两款工具的具体功能、版本或价格信息。
Founder Park Idea Rush 第二期聚焦 AI 图片、视频生成产品成熟之后的下一代 AI 视觉形态,探讨 AI 能否直接生成有结构、能迭代、可操纵、会继续生长的「视觉对象」。活动列举了可与 AI 共创的无限画布、自动剪辑包装视频的插件、随交互变化的视频、封装专业人员审美与经验的 Skill、按真实任务即时生成的操作界面等方向,小范围闭门交流,需扫码报名。
刘小排提出应把提问方式从「等待 AI 干活时我该干点什么」改为「我干什么的时候可以顺便让 AI 干活」,主角由 AI 换成人。他不再盯屏幕等结果,让 AI 在后台跑、有事再来汇报;并建议先从「我不用电脑了」开始尝试,祝读者一边享受国庆假期一边日踩 10 亿 Token。
马斯克在央视财经约26分钟专访中表示,Anthropic 让 AI 擅长了软件工程,但还没人让 AI 真正擅长现实世界工程。他计划用 SpaceX 和 Tesla 的工程数据训练 Grok,让模型进入汽车、机器人和火箭系统;并称按每单位算力性能看中国可能明显领先。
Anton Osika 发布了一条仅含"pre-PMF me"的短帖,附带 xgo.ing 的互动数据:33 条回复、6 次转发、540 个赞、27752 次浏览、97 次收藏。原文未提供更多关于产品阶段或具体内容的说明。
今年前8个月全网上线微短剧43万部,是2025年全年的13倍,其中90%以上由AI生成;仅第一季度上线的12.8万部中AI微短剧占比超过95%。腾讯研究院《仲夏六日谈》邀请广电总局发展研究中心彭锦、AI短剧《风水天师》出品方邱熠与腾讯在线视频曹睿,围绕“AI会不会取代真人短剧”讨论内容通胀、审美降级与利润流向。嘉宾认为行业新稀缺资源集中在好故事、判断力、经验以及发行变现能力。
AITDK SEO Extension 作者用 Claude Opus 5.5 生成一分钟宣传视频,一次就通过,效果令其满意。他表示此前试过很多模型都不满意,项目因此一直拖延,昨晚用 Opus 5.5 才完成。
Ryan Greenblatt 宣布加入 METR,从事类似其 Hugging Face 报告那样的调查工作,以获取关于 AI 公司内部运作的经核实公开信息。他认为目前大量与灾难性风险高度相关的 AI 研发基础信息并未公开,而现有有限公开证据与"临近的递归自我改进可能在 6 个月到一年内带来极端超人类通用能力"这一可能性相符。
李继刚发布内容「人类群星闪耀」,互动数据为 44 条评论、24 次转发、252 次点赞、128576 次阅读,由 xgo.ing 提供支持。
Vercel CEO Guillermo Rauch 将 Mini 网页浏览器移植到 Rust 和 Swift,称其更快、更安全,且迭代体验优于 Electron + Bun。
硅谷101这期播客请到Scale AI研究总监何允中与伯克利博士后孙一铀,拆解AI数据行业:AfterQuery估值从4月的3亿美元升至9月的32亿美元,Bespoke Labs种子轮与A轮合计融资4000万美元。数据公司交付物已从标注打分转向Rubric评分标准与强化学习环境,OpenAI则于2026年2月以测试缺陷和数据污染为由停止报告SWE-bench Verified分数。
Next Token 词元之外更新第四期,本期话题包括 Opus 5.5 越界进入视频领域,以及 Muse 在美国爆火。节目还讨论了中国到底有没有 AI 产品经理,并作为 B 站视频播客首发上线。
图灵奖得主、Ingres 和 Postgres 创始人 Mike Stonebraker 认为,为智能体 AI 提供数据的数据源都是关系型的,而基础模型只处理纯文本将成为重大弱点。
Amjad Masad 在 X 上转发 Arian van Putten 的推文并回应,推文内容指向 nixos.org,未涉及具体 AI 模型或产品发布信息。
Akshay Kothari 表示,在差不多 30 年之后,学一门新语言实在太难了。
一条提出"把多元之爱伦理用作 AI 治理"的观点帖获得 882 次点赞、43 次转发和 17.3 万次浏览。该帖将多元关系中的伦理原则类比为 AI 治理思路,未涉及具体模型或技术方案。
一位 Devin 付费用户称,因 Cognition 拒绝其按季度付款的请求,他用两天时间基于自有基础设施搭建了替代方案 Hermes,功能与 Devin 几乎完全等价,成本约为 Devin 的 25%。该用户此前 Devin 使用量年化已超 10 万美元,原计划为获得 BAA(HIPAA 合规协议)将支出提升至约 1.5 倍。他认为问题不在 Devin 本身,而在于销售策略。
Logan Kilpatrick 预测 2027 年将迎来规模化自主创收(乃至盈利)的 AI 智能体与"迷你公司";这类形态目前已在亚规模化阶段出现,但仍有大量粗糙之处。
Aravind Srinivas 表示,最近几天把此前用 Fable 5.1 作为编排器的 50-100 个工作流改跑在 Opus 5.5 上,发现两者差异极小。但他仍有"没用上更聪明模型"的 FOMO,并向网友征集:哪些任务上 Fable 5.1 仍比 Opus 5.5 更强。
Justine Moore 表示,几周前有人认为 Dario Amodei 的相关表态广受认可,如今她觉得自己此前的判断得到验证。她指出,"靠 AI 赚取数十亿美元的 CEO 现在说 AI 可能杀死你"这一公关策略在美国公众中反响不佳,并附上 Dario 采访下 Instagram 的热门评论截图。
Y Combinator 引述 Paul Graham 的观点:只在意季度而非十年的人,会忽略潜在客户是有成长轨迹的而非固定规模。他建议创业者用十年尺度思考,打持久战,相关内容见 paulgraham.com/powerful.html。
离开深耕 15 年的 VC 行业后,美团龙珠前合伙人于红创办「兔咚咚」,投身儿童 SEL 教育,并在对谈中提出 AI 时代三种不会过时的能力。她认为知识唾手可得后,社会情感学习、批判性思维等成为必修课,并谈到英语是否还值得投入大量时间、该不该卷孩子、名校能打开多少机会之门。
Suhail 认为,人人具备优秀 AI 研究与工程能力的时代正快速到来,能否做出成果主要取决于谁能为想法积累足够的算力和电力。他将这一趋势描述为围绕算力与电力的建设与规模化竞赛。
从 2022 年 11 月 30 日 ChatGPT 上线到 2026 年 9 月,AI 用不到四年从聊天框走向完整任务执行:LangChain、RAG 和 MCP 接上外部世界,Codex、Claude Code、Cursor 转向仓库级编程 Agent,Agent Skills 与 AGENTS.md 沉淀协作经验。
42章经播客对话开源项目 Vibe-Trading 作者、香港大学在读博士生吴浩哲,该项目开源半年已获 3.4w 个 Star。他提出在金融里决策很便宜、行动很贵,AI Trading 的核心是在近乎免费的判断与代价昂贵的交易之间建立可验证、可审计的通道,并拆解了 AI Trading 与量化的区别、系统的四大组成部分,以及 Jev 对交易帮助可能约等于零的看法。
黄叔将于 10 月 16-17 日在深圳第六届 HIPM 产品创新力峰会做 1 小时完整分享,内容是自己在 Agent-First 上三个月花 10 万元的踩坑经验。他称最近几个月很少出来,期待现场深度交流。
有开发者表示已没耐心看完 Opus5.5 的宣传视频,认为做花哨 demo 对产品没什么实质提升,看多了就成了新的 slop,与此前 Claude 生成的黄色背景、红色斜体 title 一样。其认为录一次真实操作配一句人话,往往比生成 60 秒宇宙级发布片加各种炫酷动效更好。
Jerry Liu 回应"直接用语音就行"的说法,称自己打字比连贯说话更快,并表示 AI 生产力与打字速度(wpm)强相关。
Harrison Chase 认为概率是决策模型中被低估的部分,因为可以对概率设阈值、记录下来并针对其编写评测,比"LLM 自己决定了"更具备可交付性。Hiếu Nguyễn Trung 也认同概率是最好用的部分,可以设阈值、记录日志并写测试。
9 月 23 日,德国法律出版社 C.H.BECK 在 Noxtua 超 1 亿欧元的 C 轮融资中取得多数股权,律所 CMS、Dentons 同时卖出股份离场。
在 ARR 达 5 亿美元的 AI Native 公司 Lovable,员工没有细分职级头衔,资深人士大量回归高影响力个人贡献者(HI-C),开会时间不到 20%,团队和职责边界持续重组。员工主动用 AI 自动化自己的工作,公司还设有「agent 家长」一职,为营销、分析、代码库等 agent 的输出质量负责,年底人数将逼近 500 人。
无法生成摘要:原文正文只有 "picture perfect" 及互动数据(💬 12、🔄 0、❤️ 167、👀 7605、📊 31),并标注 "Powered by xgo.ing",没有可提取的 AI 模型、产品或技术信息。
Simon Willison 在昨天的演讲中提及今年破纪录的 Kākāpō 繁殖季,并用 Claude Opus 5.5 生成了一段像素风动画作为收尾幻灯片。他称 Claude Opus 5.5 在像素艺术动画上表现出意料之外的强能力。
Linux、Python、Redis、Nginx、SQLite 的作者被视为"开拓型天才",其共同点是在极苛刻硬件条件下用最精简逻辑解决核心痛点:Richard Hipp 以几百 KB 的 SQLite 支撑边缘设备高频读写。