1903年,张謇赴日考察,那年旧历除夕,他决定,要采取措施,想方设法让他心中的"圣主"光绪皇帝知道宪法的重要性。为了将这一设想付诸实施,张謇在1904年组织人员翻译并出版《日本宪法》和《日本宪法义解》。通过在内务府任职的赵小山,张謇使慈禧太后看到了《日本宪法》。而通过面赠《日本宪法义解》,张謇和铁良讨论了宪法问题。那一年,翁同龢去世,其家人请张謇代写遗疏。张謇曾试图将讽劝清廷制宪的话写进遗折,但未能如愿。他还代两江总督魏光焘、湖广总督张之洞起草了一道主张制宪的奏折,但也胎死腹中。这道奏折主张仿日制宪,但从张謇的私信中对张之洞的限制民权的制宪主张极力反对一点来看,奏折所传达的,并非都是张謇自己的主张。张謇觉得,自己在1904年的努力,对清廷在1905年作出派遣五大臣出洋考察政治的决策产生了影响。