渐进式的协议状态机主动推断方法

摘要：

主动协议状态机推断的理论基础为主动自动机学习,所面临的核心问题是字母表的抽象与映射器的构建.同一类型消息取值的多样性可能导致同一类型的数据包存在不同的响应类型,从而导致当前使用类型作为字母表的方法会丢失状态或状态转移.对此,依据不同的响应将协议类型细化为子类型,提出一种渐进式主动推断方法.基于已有协议数据提取协议状态字段,构建初始字母表与映射器,基于主动推断方法得到初始状态机;对数据进行确定性变异,若输入输出类型序列与当前状态机不符,则将变异后数据视为协议子类型,并添加至字母表,同时依据新的字母表进行新的状态机推断.此外,为减少协议实际交互次数,依据协议特性,在主动推断算法的缓存机制基础上提出一种基于前缀匹配的预响应查询算法.实现了开源框架ProLearner,并以SMTP和RTSP为对象,通过扩展协议子类型获得了更为详细的协议行为,验证了所提方法的有效性;此外,实验结果表明预响应查询算法可有效减少实际交互的次数,平均降低的实际交互次数约为10％.

关键词：协议逆向分析、主动自动机学习、协议状态机推断、Mealy自动机、映射器

所属期刊栏目：9

分类号：TP393(计算技术、计算机技术)

资助基金：国家重点研发计划2019QY1300

在线出版日期：2023-05-11（万方平台首次上网日期，不代表论文的发表时间）

页数：共13页

页码：81-93