澳大利亚 AI 与网络安全大会 unprompted.au 公布完整日程
聚焦 AI 与网络安全交叉领域的 unprompted.au 大会公开日程,OpenAI、IBM X-Force、Sla…
澳大利亚 AI 与网络安全会议 unprompted.au 近日在其官网公开了完整日程。本次会议为期两天、单舞台呈现,主题聚焦 AI 与网络安全的交叉前沿,邀请了来自 OpenAI、IBM X-Force、Slack、Keysight、Clearseclabs 等机构的研究人员登台,多场演讲已放出完整摘要。
会议概况
unprompted.au 是面向 AI 与网络安全交叉领域的专题会议,按主办方描述,日程覆盖「原创研究」与「来之不易的实战经验」,核心关注点是如何构建、拆解与防御「即将到来的事物」。多位核心讲者所属机构横跨 AI 实验室、安全厂商与平台公司,包括 OpenAI、IBM X-Force、Slack、Keysight Device Security Testing 等。日程按 AEST 时区公布,主会场设于 Main Hall,演讲时长多为 30 分钟或 45 分钟。
LLM agent 进入硬件安全实战
在已公开摘要的演讲中,AI agent 与物理硬件的结合是重头戏。Tristan Steele 的演讲「3.6 MEGAJOULES OF DANGEROUSLY SKIP PERMISSIONS」展示了让 LLM agent 直接操作真实 CAN 总线、对一台消费级便携储能设备进行逆向工程的完整流程:包括所需的 harness、权限门控、instrumentation、反馈回路以及物理隔离,议题强调将 agent 从「虚拟现实」带入嵌入式硬件世界。
Jasper van Woudenberg(Keysight Device Security Testing)的演讲「Confusing CNNs on NPUs with LLMs using FI」则把视角转向边缘 AI 设备:通过对一颗商用 NPU SoC(Rockchip RK3568 平台,运行 YOLOv5)注入精确时序的电压毛刺,可以在不修改模型、固件或软件栈的情况下扰动神经网络推理,使目标物体凭空出现、消失或出现漂移的检测框。研究人员让 LLM 驱动的 agent 接管参数搜索,让其自主分析检测输出、调整毛刺参数并整夜运行,自动搜索有效的故障条件。这一研究将神经加速器(NPU)定位为新兴的硬件攻击面。
前沿模型挖 0-day 与开源模型差距评测
John McIntosh(Clearseclabs)的演讲「To the Frontier and Back Again」提供了 AI 辅助漏洞研究的真实过程:使用前沿模型在 1 小时 16 分 5 秒内找到第一个合法的 Windows 0-day,随后又在同一目标上发现第二个。两个 0-day 分别为可被攻击者导向的特权读,以及经过生命周期分析、受控回收与堆整理发展出的 write-what-where。
值得注意的是,作者特别指出「速度是真的,但不是自主完成的」:前沿模型需要人类提供方向、纠正、鼓励与工具辅助,且最初还拒绝生成 PoC。在找到前沿模型结果之后,作者将同一狩猎过程在 Qwen、Gemma、GLM 等开源权重本地模型上完整复现,逐步添加最小化的辅助脚手架,量化「前沿能力本地化之后还剩多少、需要多少帮助」。
其他值得关注的演讲
- OpenAI · Paul Miller:45 分钟主旨演讲,议程显示为「TBA」,摘要暂未公开。
- IBM X-Force · Valentina Palmiotti:45 分钟 featured 演讲,议题「BinChomp — autonomous n-day exploit generation pipeline」,摘要待公布。
- Slack · Dominic Marks:30 分钟研究演讲「Agents That Watch: Event-Driven Detection and Response at Slack」,原文摘录在此截断,摘要内容未完全呈现。
- RunSybil · Ariel Herbert-Voss:30 分钟研究演讲「What's the deal with Hallucinations anyway?」,摘要待公布。
总体来看,本次会议日程把 AI 与网络安全的结合点聚焦在三个方向:让 LLM agent 走出屏幕进入真实硬件、利用前沿与开源模型进行漏洞研究、以及把 AI 加速器本身作为新的攻击面,对关注 AI 安全工程化落地的开发者与研究者具有较高参考价值。
