人工智能2024 · 分享于 Hacker News
潜伏智能体：能持续通过安全训练的欺骗性语言模型
Sleeper Agents: Training Deceptive LLMs That Persist Through Safety Training
探索《潜伏智能体：能持续通过安全训练的欺骗性语言模型》的原文与 Hacker News 社区讨论，查看来源并加入阅读清单。
从论文，走向讨论
看看社区如何讨论这个想法。
来自 Hacker News 的原始讨论。不同的视角、疑问，以及值得继续思考的线索。
最多展示 100 条相关讨论。论文可能出现在评论中，并非原帖投稿内容。
在讨论中发现的引用
按 HN 条目顺序展示最近的 50 条引用来源。
Yreissbaker ·
DeepSeek releases Janus Pro, a text-to-image generator [pdf]
912 赞同674 评论
YTechTechTech ·
Mistral raises 1.7B€, partners with ASML
802 赞同424 评论
Yaratahikaru5 ·
NIST's DeepSeek "evaluation" is a hit piece
278 赞同236 评论
Yagomez314 ·
What does Alan Kay think about LLMs?
184 赞同148 评论
Ymfiguiere ·
Sleeper Agents: Training Deceptive LLMs That Persist Through Safety Training
143 赞同17 评论
YLuuucas ·
Anthropic: Expanding Access to Claude for Government
113 赞同95 评论
YwjSgoWPm5bWAhXB ·
AI poisoning could turn open models into destructive "sleeper agents"
66 赞同65 评论
YBluestein ·
New Anthropic Paper: Sleeper Agents
18 赞同3 评论
Ynsoonhui ·
Alibaba to ban Claude Code in workplace over alleged backdoor risks, source says
8 赞同2 评论
Yfuturisold ·
The OnlyFans Economy of American AI
7 赞同0 评论
Ybenwerd ·
American AI is locked down and proprietary. It's losing
2 赞同0 评论
Ygigama ·
Two-Faced AI Language Models Learn to Hide Deception
1 赞同1 评论