自组网可望在未来通信系统中发挥重要作用，路由协议是其关键技术之一。但目前的自组网路由协议其可扩展性往往不尽人意，需要改进。另外，潜在的商业应用要求自组网能够支持QoS服务。自组网协议可扩展性问题源于动态拓扑及其资源的有限性。频繁的广播操作是影响自组网可扩展性的直接原因。广播是自组网中的基本操作，泛洪是最直观的广播算法，在自组网中常被采用。但泛洪会消耗大量资源，甚至造成“广播风暴”。论文通过改进广播机制，提出新的路由策略，在增强路由协议可扩展性方面进行了探索。首先，提出了基于优先权指数的竞争广播算法：采用分布式计算，不需增加额外通信负荷，既适合于纯广播应用，又可应用于路由协议。该算法可以减少大量广播冗余，具有自适应性，易于实现。其次，提出了基于竞争机制的路由发现策略，可用于设计不同的路由协议。据此提出的可扩展随选竞争路由算法具有较好的可扩展性。另外，提出了链路主动修复技术和路径约束路由发现技术，可以和随选路由协议结合，增强协议的可扩展性。最后，通过研究自组网QoS机制，进一步提出了适合自组网的自适应QoS构架，包括QoS信令系统、QoS路由协议以及分组调度机制等QoS组件。