Naval 提议对"危险"开源模型追究托管方责任
Naval 认为,对于"危险"或防护薄弱的开源模型,应追究托管方的责任;如果终端用户通过越狱模型去做有害的事情,终端用户自身同样要承担责任。
Naval 认为,对于"危险"或防护薄弱的开源模型,应追究托管方的责任;如果终端用户通过越狱模型去做有害的事情,终端用户自身同样要承担责任。
Naval 认为,要为前沿 AI 的发展定好节奏,最好的办法是让实验室对其模型的行为承担全部责任。该观点帖获得 931 条回复、1944 次转发和 21406 次点赞。
Citrini Research 分析师用一周时间在旧金山湾区走访十余家机器人实验室,实地观察 AI 机器人操作,重新评估了机器人形态、神经网络与商业化时间表。文章以 GeneralistAI GEN-1.5 和 Skild AI S1 的"in-context"学习演示为例,指出当前机器人多处于开发训练与遥操作演示阶段,真正的落地部署仍接近试点。
Mustafa Suleyman 在 X 发布一篇长文,指向 x.com 文章链接,帖子获 1004 次点赞、200 次转发、270 条回复,浏览量约 129 万。
微软 Visual Studio 博客撰文指出,AI 工具让开发者能快速写代码、理解陌生代码库并排查问题,但向其他开发者直接学习正变得更有价值。VSLive! Orlando 将于 2026 年 11 月 15-20 日在奥兰多举行,涵盖现代软件工程、前沿 AI、.NET 与全栈 Web 开发等主题。
Demis Hassabis 获英国皇家艺术学会(RSA)颁发的阿尔伯特奖章,并在与 @FryRsquared 的对谈中表示,科技带来巨大机遇,但在即将到来的 AGI 时代,艺术与人文学科对塑造社会想要的未来至关重要。
清华大学电子工程系博士、现苏黎世联邦理工学院博士后张托肯用 AI 在三天内从零设计了一颗 Attention 计算芯片并完成流片,过程记录在《三天从零到流片:AI 带我设计一颗 Attention 计算芯片》一文中。
Richard Socher 表示其即将出版的新书 The Eureka Machine 详细阐述了 AI 将如何大幅加速科学进步,并认为这并非零和博弈、将推动人类发展。
Yann LeCun 以飞机设计进步为例指出,加速进步才能更早获得安全,涡扇发动机足够可靠使长途客机只需两台发动机。他认为 AI 同理:更好的 AI 就是更安全的 AI,所谓"Pacing"(放慢节奏)无论所指为何都适得其反。
Yann LeCun 在 X 上回应 @nxthompson,称其说法"更像是一种毫无意义的拟人化"。该帖获 815 个点赞、32 次转发和 28 条回复。原文未说明具体讨论对象。
Yann LeCun 指出,AI 在搜索并写下定理形式化证明上超过人类,不等于「数学达到超越人类水平」。他认为这只是整个数学活动中一项可自动化的「机械性」任务,就像算术或符号/数值积分并不等于全部数学。数学家的核心工作是发明新概念、新框架、新抽象与新定义并提出猜想,这依赖当前 AI 系统尚不具备的直觉与创造力。
Naval 用火与核武器的类比区分两种 AI 风险:前者风险像火,结论是人人都该拥有 AI;后者风险像核武器,结论是任何人都不该拥有。Yishan 则提出 AI 危险分为两类,一类是远超人类智能的 ASI 必然灭绝人类,另一类是强大 AI 给许多人乃至全人类带来严重伤害,二者看似相似实则不同,分清差异是参与 AI 安全讨论的前提。
Amjad Masad 对 Diogo Almeida 发布的 Jev 模型提出质疑:如果输出域提前已知,为什么不直接训练一个在枚举上输出 logprobs 的模型。Jev 号称比现有方案快 20-200 倍、便宜 40-400 倍,且输出 token 免费,定位为面向决策的可组合前沿智能。
Harrison Chase 指出,「org harness」或企业级 AI(相对于个人 AI)最难的部分是 auth,以及在 Slack 这类多人频道中管理授权。他表示团队正在认真思考如何为托管的 deepagents 做好这件事。
LangChain 联合创始人 Harrison Chase 表示,今后 LangChain 的所有晚宴都将严格执行一条规则(具体规则内容来自其引用的推文)。他同时调侃 Barry McCardel 的相关内容登上了 WSJ。
未来每个人都会自己 vibe coding 小应用,长尾需求会越来越容易被满足。原文未给出具体模型、工具或数据支撑,仅围绕这一判断展开。
Replit CEO Amjad Masad 推荐了他两年前与 Tucker Carlson 的对话,主题是硅谷的"邪教",涵盖有效利他主义的起源、手法与影响网络。该期节目还涉及 AI、比特币、Extropians 邪教、超人类主义、长期主义、机器能否思考、虚拟陪伴,以及硅谷精英与 Elon Musk、言论自由等话题。
andrew chen 发帖感慨"有时正是那些小小的胜利让一天变得美好",该帖获得 34 条回复、176 个点赞和 16763 次浏览,无转发。内容由 xgo.ing 提供支持。
Suhail 回应 @martin_casado 时提出,如果(1)不太在意推理成本、(2)推理近乎即时,就有另一种想象问题的方式。原文未展开具体场景或模型。
祥峰投资创始管理合伙人郑俊聪在新加坡接受访谈,复盘祥峰中国从奥运后创立的历程,以及错过加注宇树后对创始人与重仓逻辑的重新判断。他明确至少 50% 投向具身智能,覆盖有落地场景的大脑与核心零部件,并主张中国团队按周迭代样机、全球化从 Day 1 开始。
小米18 Fold 采用「中折叠」新形态,配备 5.38″ 外屏与 7.58″ 内屏,首发搭载玄戒O3芯片,十核全大核CPU,并配备徕卡2亿超清主摄与 6000mAh 小米金沙江电池。播客「乱翻书」邀请金叶宸、Takun 与主播潘乱,讨论手机厂商为何集中涌向折叠屏,以及折叠屏的真正问题已从「怎么折」转向「为什么值得展开」。
推理芯片竞赛升温:英伟达以约200亿美元对 Groq 进行 acqui-hire,Cerebras 今年6月 IPO 市值达670亿美元,OpenAI 联手博通推出首款自研推理芯片 Jalapeño,从设计到流片仅用9个月。
Good Start Labs CEO @alxai_ 在 Latent.Space 访谈中谈到,Diplomacy 和 1830: The Game of Railroads and Robber Barons 这类游戏能教给模型策略及其他工作相关技能。他本人是 @every 的 alumni。
Richard Socher 转发 Dan Elton 的观点,指出许多人对"灭绝风险远比灾难性风险严重"缺乏完整理解,因此有效利他主义者聚焦灭绝风险是合理的。Dan Elton 还表示 AI 很可能没有意识,且我们或许是银河系中唯一的智慧生命。
播客对话 Recursive SI 联合创始人 Richard Socher,该公司以 5B 美元融资跻身最新 neolab,目标是用开放式、自我改进的 AI 做 AI 研究。节目讨论了 Eureka Machine、Richard 的 10 Spaces of Intelligence、DecaNLP 与被拒的早期 GPT 思路,以及 AI 同行评审为何失灵。
微软 CEO Satya Nadella 与 All-In Podcast 四位主持人对谈,主题是普及 AI 收益、赢得社区许可,以及确保 AI 安全与可控。节目议题涵盖 AI 放缓之争、常识性 AI 护栏、放缓对新 AI 产品的影响,以及微软的 AI 资本配置计划。
Latent.Space 即将上线新一期节目,主题包括为何人们仍低估提示词、Claude Code Mods(昨日发布)以及前沿节奏。Thariq 刚完成录制,内容涉及此前较少谈及的技术细节。
播客「屠龙之术」发布 73 页 PPT《Own Your Intelligence-从模型竞争到智能生产》,分模型竞争、智能分化、循环自生与界面重构四部分。
Richard Socher 表示,与多位 AI 安全专家讨论后,他找不到任何能灭绝全人类的现实场景,多数回答只是"看当前进展并发挥想象",缺乏科学与场景推演。
Sumeet Gayathri Moghe 在 Martin Fowler 博客发文指出,许多人做演示时只顾堆砌幻灯片,却没有连贯的叙事。他建议先提炼核心观点、设想受众,再搭建结构化的故事线。
Harrison Chase 认为记忆难以产品化,核心原因是"记住什么"的判断逻辑往往与应用强绑定,且本质上只是提示词工程,存储和查询反而不难。他指出记忆需要与 harness 深度集成,难以做成独立产品,在通用智能体里用处有限,更适合重复性任务。他还表示记忆尚未在编码智能体中证明价值,而多数爆发的智能体能力都先在编码场景跑通。
a16z 投资的 AI 助理 Town 上线 3 个月,试用用户付费率超过 15%,传闻正洽谈约 10 亿美元估值的新融资。Town 要求用户先连接邮箱和日历才能使用,会按任务难度分配模型,大部分任务仍依赖前沿模型,为此公司每年为每位工程师投入至少 7.5 万美元购买 AI 工具。
Linkloud 沙龙第44期将于 9 月 19 日在成都举办,主题为 Agent 如何从“能做”走向“能用”与“能卖”。SandBaseAI 创始人李样兵、VMEG.AI 创始人胥彪、Deotaland 联合创始人兼 CTO 凌星炜、Crescendia 创始人王斌将围绕 Agent 工程化、FDE 角色、海外 0 到 1、AI Agent 智能硬件与 GEO 增长展开对话。
Yann LeCun 表示,基于 LLM 的 AI 工具虽然非常有用、人人都在用,但它们本身并不是通向人类级 AI 的路径。他指出,能够理解真实世界的架构并非 LLM,让当前 LLM 系统得以解读图像、视频等真实世界信号的架构组件也不属于 LLM。他同时提到有一场 1 小时的演讲,用结果和证据支撑上述结论。
Yann LeCun 在 X 上回应 @DeryaTR_,称感谢对方为"AI 末日病毒"注入了一剂"现实主义疫苗",该帖获 2401 次点赞、107 次转发。
Yann LeCun 指出,这篇论文提出的方法正是他所说的 "target prop":每一层的输入都是自由隐变量,作为前一层的目标,可由反向传播的"增广拉格朗日"形式推导得出,即把层间约束转成惩罚项。
Amjad Masad 吐槽 AI 命名诅咒再度应验:"AI 安全"公司反而让 AI 变得不安全,"有效利他主义者"既无效又在助长犯罪活动,而"Irregular"则一如既往地无能。他引用 Brian Chau 的爆料称,一家以色列有效利他主义公司是 OpenAI、Anthropic 和 Meta 遭网络攻击的幕后黑手。
这是一条面向读者的开放式提问,征集大家当下最常用的 AI 工具。原帖未给出任何具体工具、模型或数据,仅附带 12 条回复、1 次转发、11 个点赞和 17504 次浏览的互动数据。
做协作类 agent 的关键在于把 claude、codex、gemini、grok 等 10 余个 agent 拉进同一群组,在无人干预下自主分工。作者提出冗余备份分组、leader 协调监控与选举、worker 定时上报进度、checkpoint 断点恢复与幂等重入等设计,以解决 agent 罢工、leader 挂掉和任务冲突等问题,并已在 termany.sh 中实现多项策略。
黄仁勋在 All-In 播客对话中驳斥前沿实验室的"10% 灭绝风险"说法,称其完全捏造、缺乏科学依据,主张回归工程方式处理 AI 事故并建立第三方独立评估机制。