思想与社会2023 · 分享于 Hacker News
The case for 4-bit precision: k-bit Inference Scaling Laws
探索《The case for 4-bit precision: k-bit Inference Scaling Laws》的原文与 Hacker News 社区讨论，查看来源并加入阅读清单。
从论文，走向讨论
看看社区如何讨论这个想法。
来自 Hacker News 的原始讨论。不同的视角、疑问，以及值得继续思考的线索。
最多展示 100 条相关讨论。论文可能出现在评论中，并非原帖投稿内容。
在讨论中发现的引用
按 HN 条目顺序展示最近的 50 条引用来源。
Yalbert_e ·
Meta AI releases Code Llama 70B
598 赞同294 评论
Ybrylie ·
Gemma3 – The current strongest model that fits on a single GPU
252 赞同138 评论
Yb_mc2 ·
Brave Leo now uses Mixtral 8x7B as default
244 赞同178 评论
Yrbanffy ·
AMD now has more compute on the top 500 than Nvidia
198 赞同134 评论
Ymsoad ·
Llama.cpp 30B runs with only 6GB of RAM now
124 赞同26 评论
Ystared ·
Qwen 3.6 27B is the sweet spot for local development
117 赞同68 评论
Ytosh ·
Qwen1.5-110B
114 赞同58 评论
Yog_kalu ·
Alpaca- An Instruct Tuned Llama 7B. Responses on par with txt-DaVinci-3. Demo up
53 赞同17 评论
Ycocktailpeanut ·
Dalai: Automatically install, run, and play with LLaMA on your computer
5 赞同1 评论
Ybirriel ·
How Is LLaMa.cpp Possible?
4 赞同0 评论
Ybackpropaganda ·
Some Remarks on Large Language Models – Yoav Goldberg
3 赞同0 评论
Yanigbrowl ·
QUIK is a method for quantizing LLM post-training weights to 4 bit precision
3 赞同0 评论
Ydebdut ·
Visual ChatGPT
2 赞同1 评论
Ymrtksn ·
LLaMA-7B in Pure C++ with full Apple Silicon support
2 赞同1 评论
YPalmik ·
The case for 4-bit precision: k-bit Inference Scaling Laws
1 赞同0 评论