思想与社会2021 · 分享于 Hacker News
Google breaks the trillion-parameter ceiling with the Switch Transformer
探索《Google breaks the trillion-parameter ceiling with the Switch Transformer》的原文与 Hacker News 社区讨论，查看来源并加入阅读清单。
从论文，走向讨论
看看社区如何讨论这个想法。
来自 Hacker News 的原始讨论。不同的视角、疑问，以及值得继续思考的线索。
最多展示 100 条相关讨论。论文可能出现在评论中，并非原帖投稿内容。
在讨论中发现的引用
按 HN 条目顺序展示最近的 50 条引用来源。
Ye0m ·
GPT-4
499 赞同201 评论
Yselimonder ·
Megatron-Turing NLG 530B, the World’s Largest Generative Language Model
116 赞同99 评论
Ytaytus ·
GPT-4 is getting worse over time, not better
88 赞同55 评论
Yjayalammar ·
The Illustrated Retrieval Transformer
75 赞同13 评论
Ylnyan ·
Program Synthesis with Large Language Models
63 赞同20 评论
Ygroar ·
Google breaks the trillion-parameter ceiling with the Switch Transformer
48 赞同4 评论
Ysteveharing1 ·
Granite 4.1: IBM's 8B Model Matching 32B MoE
27 赞同5 评论
Ytompark ·
Decomposing Language Models into Understandable Components
13 赞同1 评论
Ygeorgehill ·
GPT4 is 8 x 220B params = 1.7T params
12 赞同0 评论
Yhardmaru ·
Switch Transformers: Scaling to Trillion Parameter Models with Sparsity
3 赞同0 评论
Yjbesomi ·
Switch Transformers: Scaling to Trillion Parameter Models with Simple Sparsity
2 赞同0 评论
Yturingbook ·
Switch Transformers: Trillion Parameter Models from Googleent Sparsity
1 赞同0 评论
Y317070 ·
Switch Transformers Scaling to Trillion Parameter Models
1 赞同0 评论
Ydanielmorozoff ·
Google Brain’s Switch Transformer Language Model Packs 1.6T Parameters
1 赞同1 评论