股票市场作为金融市场的重要组成部分之一,几十年来一直备受关注。对股票指数涨跌趋势的预测和交易模型的收益分析一直是研究者和投资者关注的焦点。对于股票指数涨跌趋势的预测,本文通过构建一个基于遗传算法优化的卷积神经网络和长短时记忆的混合模型来展开研究。首先改进了用作模型输入的三维张量,然后使用卷积神经网络进行特征提取,再利用长短时记忆网络对提取出的特征向量进行分类预测。最后,使用遗传算法对卷积神经网络和长短时记忆网络中的相关参数进行了优化,来提高模型的预测精度。在股票市场投资的收益分析方面,本文首先从理论上证明了交易策略累计收益率的上界和下界,在此基础上推导出了一个可用于评估交易策略可盈利性的判定准则。除此之外,还提出了一个基于市场分形特征的辅助交易方法,用于过滤交易策略中的无效交易信号,提高收益。具体的研究内容包括以下几个方面:（1）基于遗传算法优化的卷积神经网络-长短时记忆混合模型的构建。首先,对技术指标进行了离散化处理,将其转化为明确的趋势信号,然后依据关联程度对不同股指进行排序,得到改进的三维张量,作为模型的输入。其次,将卷积神经网络提取有效特征的优势与长短时记忆网络良好的分类预测能力相结合,构建了一个卷积神经网络-长短时记忆网络的混合模型。最后,使用遗传算法对卷积神经网络和长短时记忆网络中的相关参数进行了选择和优化,用于提高模型的预测精度。在不同股指上的对比实验结果表明,对三维输入的改进,卷积神经网络-长短时记忆混合模型的构建,遗传算法的参数调优,能显著的提高模型的预测性能。并且,本文提出的混合模型也优于现有的几种常见模型。（2）交易策略累计收益率上下界的推导和交易策略可盈利性判别准则的提出。首先,本文从理论上论证了交易策略累计收益率的上界和下界。然后,以推导出的累计收益率的上界为基础,提出了一个可用于评估交易策略可盈利性的准则。最后,实验结果表明了该可盈利性判定准则的有效性。除此之外,还提出了一种基于市场分形特征的辅助交易方法。具体地,本文构造了一个基于分形维数的监测点,并通过它来过滤掉原交易策略中给出的无效交易信号,进而提高交易策略的收益率。几种常见交易策略在不同股指上的实验结果表明了该辅助交易方法的有效性。