非法证据的取舍问题一直是我国刑事诉讼法学界争论的焦点，同时是刑事诉讼法再次修改的难点所在。本文共分四部分。第一部分探讨我国建立科学的非法证据排除规则的意义；第二部分探讨我国非法证据排除规则的不足；第三部分是对英美法系和大陆法系关于非法证据排除的介绍和比较借鉴；第四部分提出建立我国非法证据排除规则的基本设想。通过对非法证据排除规则在两大法系几个具有代表性的国家的确立和运作状况进行了横向比较论证，并结合我国现实国情，笔者认为一个国家对非法证据的处理并不单纯是个技术问题，更不是随意的，而是在很大程度上受该国法律文化传统、政治状况、刑事诉讼价值取向等多种因素的影响和制约。考虑到我国刑事侦查水平普遍不高，非法取证现象突出，非法证据排除规则的合理建构必须兼顾刑事诉讼中的人权保障和打击犯罪、确保社会稳定的需要，笔者主张我国应当确立非法言词证据的“强制排除”与非法物证的“裁量排除”相结合的非法证据排除规则，并尝试了具体规则的设置。