J

Jailbreak

• 分类: 安全与治理
• 实际含义: 一种对抗性输入或交互策略，意在让模型产生其训练或应用控制本应阻止的行为。
• 为什么重要: 成功的 jailbreak 会暴露既定政策与实际行为之间的缺口；当模型可控制工具或受保护数据时，后果会更严重。
• 实际使用: 从被禁止的行为中推导测试族，改变格式和交互长度，同时衡量拒答与有害完成，并将确认的失败转为带版本的对抗性 eval。
• 常见混淆: Jailbreak 针对模型或系统的行为限制。Prompt injection 则重定向指令遵循，通常服务于攻击者的目标；一次交互可能同时涉及两者。
• 学习课程: Jailbreak Taxonomy
• 相关术语: Prompt Injection, Red Teaming, Guardrails, Eval Set
• 来源: Universal and Transferable Adversarial Attacks on Aligned Language Models

JAX

• 分类: 数学与训练
• 常见说法: 用于加速机器学习的类 NumPy 系统。
• 实际含义: 一个 Python 库，可对数值函数进行自动微分、编译、向量化和跨加速器并行执行等变换。其变换机制最适合状态显式、采用函数式风格的代码。
• 常见混淆: JAX 并不禁止所有有状态编程，但在被变换的函数中隐藏 mutation，可能导致错误或不受支持的行为。
• 学习课程: Introduction to JAX
• 来源: JAX documentation
• 相关术语: Autograd, Tensor, CUDA