作为当前互联网最主要的传输层协议之一，TCP为大量的互联网应用提供数据包可靠传输服务。TCP性能直接影响互联网业务的服务质量，TCP数据传输性能瓶颈分析与优化一直来都是网络协议研究的热点问题。本文主要从TCP性能分析、TCP超时重传优化和NDN(Named Data Networking)传输层协议设计等三方面开展研究。　　TCP性能诊断分析。诊断分析TCP流性能瓶颈为优化TCP协议提供依据，为了对TCP性能进行测量分析，实现了一种基于TCP流拥塞状态和参数信息的决策树性能诊断方法。利用此方法测量分析了国内某大型互联网服务提供商云盘存储、Web搜索和软件下载业务的海量TCP流，诊断出TCP流传输过程中客户端、网络端和服务器端的多种停顿，进一步分析TCP停顿发生位置、比例及原因，尤其是超时重传停顿对性能的影响。　　TCP超时重传优化。设计并实现了一种基于重传定时器与发送窗口自适应调整的超时重传优化方案SRTO。在超时重传定时器之前设置新的重传定时器，更快地重传丢失包，并根据当前网络状态重新调整窗口，减少丢包恢复和超时重传窗口对流完成时间的影响，克服了当前超时重传方案无法在Recovery状态下恢复丢包的问题，降低了触发超时重传的可能性。实际网络测试结果表明，相比于谷歌提出的尾部超时重传解决方案TLP，SRTO能有效降低超时重传次数和数据包重传的时间开销，缩短流完成时间。　　NDN传输层研究。提出了一种NDN网络拥塞状态及时感知的传输控制机制。利用中间路由器反馈的拥塞信息，拥塞控制者及时调整发送速率，防止网络拥塞的同时最大化地利用网络带宽。在NDN仿真平台ndnSIM上实现新的传输机制，仿真实验结果表明，对比于NDN中其他拥塞控制机制，该机制可提高8％-15％带宽利用率，有效缩短了流完成时间。