登顶Blackhat-云鼎实验室AI代码安全前沿技术分享

两年前云鼎实验室的两位安全技术专家，在世界顶级安全峰会Blackhat USA上做过一次关于使用CodeQL进行二进制静态分析的演讲，创新性地将CodeQL应用到二进制分析领域，到目前为止在世界范围内也是独一无二的尝试。两年后，随着AI技术的蓬勃发展，我们将AI和静态分析技术深度融合，借助LLM和Agent体系，将静态分析的召回率和精确率都提升到前所未有的高度，并且在腾讯内部生产环境里落地应用，解决了很多现实风险问题。同时，我们也坚定的认为传统静态分析技术和CodeQL等分析工具仍有巨大的提升空间。AI和静态分析不是取代关系，是互相加持的关系。此次在Blackhat上的分享，一定程度上是对我们理念和实践的一次全面阐述。在此我们整理了一篇文章，将其中的一些技术要点做简单介绍。

首先，我们在代码安全扫描实践工作中，遇到了两个大的障碍是纯粹依靠静态分析难以解决的：

在污点分析中，因为开源项目众多，二开和定制化的情况也很多，source和sink点永远也收集不全，即便依赖知识库也难以达到好的覆盖。

在数据流分析中，限于很多编程语言的特性，比如各种异步调用和隐式传递，数据流分析经常会断流。而我们所做的工作也是集中解决如上的这两个问题。

基于大模型在训练阶段的知识嵌入和代码能力，业界已经发现大模型可以在代码中自动识别一些source和sink点，但是直接使用大模型带来的识别率和准确率无法让人满意。我们对应的解决 *** 是设计了一套多agent组合判定机制，其中包括三个重要角色，分别是Discover agent、Judge agent和Validation agent。三者分别负责发现、判断和验证。用这种将一个复杂任务拆解成多个简单任务，并由多个agent各自负责并循环提升的方式获得好的效果。目前我们这套流程每天都会自动发现和入库很多source sink点，并满足高精度要求。

当然，这里对源代码的处理不是简单的直接塞给LLM。中间我们适度地使用了LSP和其它 *** ysis技术，让agent可以在代码间形成索引和跳转，按需获取必要的代码片段以及上下文信息。

另一个问题就是静态分析中最常见的数据流分析，限于很多语言特性数据流的传播不能保证完整性，一些隐式的 *** 调用和数据传递方式导致静态分析很难精确和完整的追踪数据流向。对此我们的解法是改造CodeQL的基础类库，将各种断链的情况解决掉。举几个例子比如代码中使用跨线程、反射、符号表等 *** 将传播流断开。

解决这些问题又存在两个难点，首先需要将CodeQL的DFA(Data Flow Analysis)机制研究清楚，但是CodeQL本身闭源，再加上QL是Datalog类的语言难以调试。我们克服了很多困难进行深入分析，最终把CodeQL的DFA机制研究清楚。具体技术细节这里不做展开，感兴趣的同学可以参考我们峰会演讲后的材料。

第二个难点就是跨线程、反射等情况下，对 *** 调用的精确定位比较难，封装层次、弱引用、继承关系、命名空间等都是问题。先要解决这些识别问题才能patch CodeQL以实现DFA的强化。最终我们能做到在跨线程、反射、隐式值传递等情况下的完整数据流分析。

在做了source/sink自动精整识别和DFA强化后，我们的代码安全检测能力如预期的一样获得了极大提升，可以7*24小时自动扫描出漏洞信息。基于此我们也发现了不少高危漏洞。这里拿几个历史漏洞来举例，当你使用原版CodeQL的情况下，如下的漏洞都不会被扫描出来，使用我们强化过的方案都可以做到扫描发现。

最后，我们想抛出一些明确的观点来供业界参考：

AI不是解决方案，AI是技术手段。大模型在很多场景下可以提供帮助，但是单靠AI远远不够。大模型再怎么训练本身可以嵌入的知识是有限的，没有外部LSP等技术的配合大模型没办法很好的工作。

静态分析仍然是很给力的技术手段。AI+静态分析可以互相促进获得之前不能达成的效果。两者相结合是未来代码分析的更佳形态。

体系和系统化是关键。需要一个Driver去驱动各种Agent和工具来一起完成代码分析任务。