论文部分内容阅读
近年来,随着各类感知技术与人工智能技术的飞速发展,用户在现实中对软件使用的智能化需求日益增加,越来越多的软件开始与环境交互,并在与环境的交互中借助于各类人工智能技术期望为用户提供多样的智能化服务。在此大背景下,环境感知智能软件应运而生,它主要特点有二:“环境感知”和“智能决策”。前者代表其能够在运行中不断感知环境的特点,而后者代表其能够借助于人工智能模型进行内部智能决策的特点。然而,在此趋势下,软件的实际运行环境也逐渐变得开放、动态和难控。和单纯与软件逻辑输入（如控制台输入、文件输入等）相关的传统环境无关软件（例如:经典算法程序）相比,此类与开放环境存在交互的软件,或运行依赖于环境状态或可能被环境状态所影响,而开放环境本身的开放性与复杂性,大大加大了此类软件能够可靠运行的困难程度。对于此软件来说,尽管其通过应用人工智能技术辅助智能决策,确实能够有效利用人工智能技术在面对复杂场景的决策与适应的优势,一定程度上缓解软件本身与环境交互面临的运行时可靠性问题,但实际难以从根源上解决此问题。因此,软件本身所交互的环境的复杂性与开发者对于此开放环境认知的有限性固然存在。为了应对这一问题,提高环境感知智能软件在运行时的可靠性问题,输入验证（inputvalidation）技术作为在软件运行时对于实时接收的输入进行在线验证,并判断其可靠性并评估影响的主流技术,是当前常用于解决因输入问题导致软件产生异常或非预期的软件行为的手段之一。利用此技术对软件输入进行验证而获得的验证结果,可以帮助软件有效地动态鉴别异常输入从而指导其进行输入隔离或修复等,从而帮助软件更加可靠地运行。然而,针对环境感知智能软件的输入验证,往往受制于开放环境下验证规约的缺失问题而难以直接实施。针对这一问题,本文提出从多条输入之间或单条输入前后之间抽取与输入相关的特定制约与关联的关系,将其建模为特定的一致性性质,并提出在此基础上通过对于一致性性质进行高效检测来验证输入。至此,针对环境感知智能软件的输入验证得以顺利实施。具体来说,本文将从输入验证的角度出发,仿照生物医学领域利用皮肤黏膜和内在免疫系统一体进行病菌防御的过程,针对环境感知智能软件的运行时可靠性问题,提出由外部对于软件感知的环境数据的验证与对输入影响到软件内部决策后产生的决策行为的验证相结合的双重验证解决方案。在此方案中,一方面,我们评估软件感知的环境数据从而对其进行有效验证,识别其中可能存在的数据质量隐患,希望从根源上避免该数据被软件接收而对软件后续行为造成非预期影响。另一方面,针对偶尔进入软件的异常输入或通过外部验证但实际超出软件决策能力的输入,我们通过分析其进入软件后对软件内部决策产生的具体决策行为,评估其行为来对其进行有效验证,期望有效识别可能带来软件异常决策的输入,进一步避免软件的异常行为。两阶段相辅相成,相互促进。总的来说,本文的主要工作如下:·针对环境感知智能软件,提出了基于一致性检测的内外双重输入验证解决方案。此方案仿照生物医学领域利用皮肤黏膜和免疫系统一体进行病菌防御的两阶段过程,提出将对处于软件外部的纯环境数据的输入验证,与处于软件内部的输入对应的决策行为的验证相结合,实现对此类软件的内外双重的输入验证。·提出了基于环境感知一致性的针对外部环境感知数据的输入验证技术GEAS。此技术从多条环境感知数据之间存在的感知一致性性质出发,提出基于可疑性条件（s-condition）和可对消条件（c-condition）的智能自适应的验证时机安排策略。同时,此技术的两大版本,全面适配于各项实际一致性规则检测技术,可以在保证验证结果的前提下,实现数十倍数百倍的验证效率的提升,实现高效的环境上下文的一致性验证,能够有效保障软件感知环境的可靠性。·提出了基于决策行为一致性的针对内部决策数据的输入验证技术DISSEC-TOR。此技术通过剖析输入在环境感知 智能软件的核心智能 决策模块中的不同阶段的决策行为,通过输入在决策的不同阶段所存在的决策一致性性质出发,提出轻量级的针对决策行为的一致性性质。此技术能够在实现验证效果的同时达到毫秒级输入验证效率,并适配于当下各类复杂大型学习模型的智能决策场景,实现了对于环境感知软件的决策模块的高效输入验证,能够有效保障软件核心决策的可靠性。·搭建了集成内外双重输入验证框架的两份具体技术的演示应用场景,额外展示前述双重验证的解决方案对于特定真实场景中软件运行可靠性的保障作用。通过内嵌基于传感器设备和智能转向逻辑的小车行驶软件,本文基于DJI RoboMaster S1搭建了自动行驶的演示场景,并将GEAS和DISSECTOR作为针对环境感知智能软件的外部和内部的具体输入验证技术。在特定真实场景中,我们额外展示了前述内外一体的双重输入验证解决方案确实能够有效提升小车的行驶可靠性（任务成功率为原先的233.3%）。针对环境感知智能软件的运行时可靠性问题,本文提出基于一致性检测的内外双重输入验证解决方案,能够有效提升此类软件的运行时可靠性。