OpenAI 与 Sam Altman 达成原则性协议，其将回归担任 CEO
OpenAI 宣布已与 Sam Altman 达成原则性协议，他将回归担任 CEO，并组建由 Bret Taylor（主席）、Larry Summers 和 Adam D'Angelo 组成的新初始董事会。OpenAI 表示正在协作敲定具体细节。
为什么值得看
OpenAI 高层动荡的关键节点，读者可据此了解 Sam Altman 回归与初期董事会构成。
OpenAI / ChatGPT
全部主题OpenAI 的全部动态：GPT 系列模型、ChatGPT 与 Sora 产品、公司战略与人事的持续追踪。
102条精选相关主题Anthropic / ClaudeGoogle / Gemini模型发布
最新精选
第 101–102 条 · 共 102 条Lilian Weng(@lilianweng)精选AI 评估 · 80/100分数表示内容值得关注的程度，依据实质份量、信息增量、证据强度、读者相关性和可用性，按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误，评分不代表事实已被核实，也不同于热点榜的讨论热度。AI 评估 · 80/100分数表示内容值得关注的程度，依据实质份量、信息增量、证据强度、读者相关性和可用性，按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误，评分不代表事实已被核实，也不同于热点榜的讨论热度。
Andrej Karpathy精选AI 评估 · 78/100分数表示内容值得关注的程度，依据实质份量、信息增量、证据强度、读者相关性和可用性，按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误，评分不代表事实已被核实，也不同于热点榜的讨论热度。AI 评估 · 78/100分数表示内容值得关注的程度，依据实质份量、信息增量、证据强度、读者相关性和可用性，按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误，评分不代表事实已被核实，也不同于热点榜的讨论热度。 Karpathy 从零用代码手写 GPT 教程
Andrej Karpathy 发布视频教程，参照《Attention is All You Need》论文和 OpenAI 的 GPT-2 / GPT-3，从零用代码构建一个 GPT，并讲解其与 ChatGPT 的联系。视频附带 Google Colab 和 GitHub 仓库，还给出把 Head 与 MultiHeadAttention 合并为并行多头、以及在自己数据集上训练 GPT 的练习。
为什么值得看
作者从零手写 GPT 并对照原始论文与 GPT-2/3，读者可据此理解 Transformer 的实现路径。