人工智能2023 · 分享于 Hacker News
Sophia: Scalable Stochastic 2nd-Order Optimizer for Language Model Pre-Training
探索《Sophia: Scalable Stochastic 2nd-Order Optimizer for Language Model Pre-Training》的原文与 Hacker News 社区讨论，查看来源并加入阅读清单。
从论文，走向讨论
看看社区如何讨论这个想法。
来自 Hacker News 的原始讨论。不同的视角、疑问，以及值得继续思考的线索。
最多展示 100 条相关讨论。论文可能出现在评论中，并非原帖投稿内容。
在讨论中发现的引用
按 HN 条目顺序展示最近的 50 条引用来源。
Ytosh ·
Sophia: Scalable Stochastic 2nd-Order Optimizer for Language Model Pre-Training
54 赞同2 评论
Ydrhodes ·
MITx Differential Equations starts May 31
20 赞同5 评论
Ym00x ·
Introducing the Sophia optimizer, a faster alternative to AdamW
4 赞同1 评论
Ykelseyfrog ·
Sophia: A Scalable Stochastic Second-Order Optimizer
2 赞同0 评论
Yprogramd ·
Sophia: A Scalable Stochastic Optimizer for Language Model Pre-Training
2 赞同0 评论
Ysonabinu ·
Risky Giant Steps Can Solve Optimization Problems Faster
2 赞同0 评论
YAnon84 ·
Sophia: A Scalable Second-Order Optimizer for Language Model Pre-Training
2 赞同0 评论
Yalechammond ·
Sophia: Stochastic Second-Order Optimizer for Language Model Pre-Training
1 赞同0 评论
Ymontebicyclelo ·
Notes on training BERT from scratch on an 8GB consumer GPU
1 赞同0 评论