Knowledge Topic
AI安全
讨论天数
2
贡献者
8
提到工具
21
核心洞见
Fable 5 的能力提升伴随更高额度消耗，复杂任务和 Max 模式会迅速放大成本。
顶级模型的安全策略正在从显式拒答扩展到对前沿 AI 开发场景的隐性降效。
高价模型未必更贵，需求清晰时它可能比低价模型反复返工更省钱。
模型升级不能替代任务拆解，真正影响 ROI 的是提示、上下文、评估与执行闭环。
Prompt Injection 防御不能只靠模型自觉，入口规则和调用前检查都要做。
规则库应覆盖指令劫持、身份伪造、系统标记伪造、越狱、元指令和多语言绕过。
rule_then_llm 是更均衡的模式：规则快速筛查，LLM 再做语义确认。
拦截动作要分级，避免把所有可疑输入都粗暴删除导致业务误伤。