我国证券市场在改革中日益成熟,逐步走上了制度规范、发展有序、监管有效的轨道,特别是投资者结构不断完善,正在向机构化的方向迅速改变。在当下的资本市场中,机构投资者拥有雄厚的资金规模并且掌握着丰富的信息来源渠道。因此,规模较小的机构和散户通常会模仿和学习较大规模机构的投资行为来降低风险以获得回报。该现象容易导致“羊群效应”的发生,加剧股票价格的大幅波动,降低市场的稳定性。2020年以来,股市受到全球疫情的影响,机构作为证券市场的中坚力量,其行为变化必将持续受到投资者的密切关注,投资决策也会对资本市场产生深刻的影响。本文主要开展了以下两方面的工作:（1）实证研究了机构投资者行为对股票波动性的影响。通过建立机构网络和提取机构网络团体,分析了机构投资者网络中心度及网络团体持仓比例对股票特质波动率的影响。结果表明,机构网络中心度和机构团体持仓比例越高,股票特质波动率越大。进一步研究发现,在信息透明度越高的市场中,机构投资者行为对股票特质波动率的影响越弱。从网络位置差异和网络内部联系两个视角出发,丰富了机构投资者网络结构和行为特征对股票市场的影响研究。（2）构建了混合股指价格预测模型TCN-Transformer-GRU,并验证了其具有良好的预测性能。依据机构投资者行为研究中提取出的机构团体,构造了机构团体净值指标,并和其他价量信息组成机构交易指标。以股指交易指标、机构交易指标和股指技术指标作为数据集,对股指收盘价进行预测。该模型结合了TCN特殊的卷积运算优势和Transformer在长距离依赖学习方面优势进行特征提取,经过特征融合后利用GRU神经网络的时序记忆能力来对数据进行学习与训练。通过与其他模型进行对比,验证了新模型具有良好的预测效果。同时对多源数据输入的有效性进行验证,结果证明了加入机构交易指标可以有效减小预测误差。通过分析机构投资者行为与股市波动性的关系进而对股票指数进行预测,可以帮助投资者认识股市的变化规律,从而进行科学决策与合理投资。同时也有利于相关部门对金融机构不合规的行为进行有效监管,遏制机构投资者的野蛮生长,减少市场的不稳定因素,共同促进资本市场的健康发展。