汽车制造业和信息科学技术的发展使无人驾驶的落地成为可能,目前世界上很多知名汽车企业已经在无人驾驶上进行了战略布局,近几年无人驾驶技术已经开始实验性落地。环境感知系统是无人驾驶系统中的重要组成部分,它为后续驾驶行为决策提供了判断依据,图像目标检测是感知系统中重要技术之一。近几年基于深度学习的目标检测技术成了研究热门,性能出色的新算法不断涌现,逐步取代传统的检测算法,在实际应用中被广泛采用。基于深度学习的车辆和行人检测算法按实现方法主要分为两阶段算法和单阶段算法。以R-CNN算法为代表的两阶段算法先对图像提取候选区域,然后进行定位和分类得到检测结果,两阶段检测算法在检测精度上表现出色,但在检测速度上不太理想,不适合应用于无人驾驶系统中做实时检测任务。以YOLO算法为代表的单阶段算法直接采用一步端到端的方式得到检测结果,相比于两阶段检测算法,单阶段算法流程简单,在检测速度上有明显优势,能够在保证精度的前提下兼顾实时性,因此在实际应用中被广泛采用。本文主要研究基于单阶段目标检测算法YOLOv3的车辆和行人检测,为了应对YOLOv3网络模型复杂,计算开销大,以及交通道路场景中环境复杂增加检测难度等问题,本文提出了三个改进策略来优化基于YOLOv3的车辆和行人检测算法。（1）针对卷积神经网络模型参数量庞大,运行时计算开销大和占用内存大等问题,提出了基于YOLOv3的轻量化车辆和行人检测模型。通过在YOLOv3的损失函数中添加批标准化层缩放系数的L1正则化,进行稀疏化训练,然后对缩放系数过小的通道和残差模块进行裁剪,得到精简模型,从而极大地压缩模型参数,减少计算量,提高检测速度。（2）由于交通道路环境中存在严重的遮挡会导致漏检问题,在网络的后处理阶段,本文在改进Soft-NMS的基础上提出了Merge Soft-NMS算法,取代标准的非极大值抑制NMS算法,Merge Soft-NMS对非最佳检测框的置信度进行衰减而非直接抑制,减轻了NMS抑制相邻检测框造成的漏检问题,并对同一目标多个重叠度较高的检测框按置信度权值合并,提高了定位的准确性,且该改进可以直接替换,不需要重新训练网络,操作上易于实现。（3）YOLOv3中的先验框通过K-means聚类算法从多类别数据集中提取得到,不适合运用到车辆和行人类别检测上,为了避免先验框不合适增加定位难度和K-means聚类算法随机选取初始点的不稳定性,本文采用K-means++算法在无人驾驶数据集上的提取先验框。为了验证本文算法的有效性,在实验中使用了自动驾驶目标检测数据集对其训练和测试,本文算法在保证检测精度的前提下,在检测速度、模型大小和计算量上具有显著的优势。