但中年成功的张謇已经看淡功名。他登上了科举制度的金字塔顶，本可以攀爬官僚体系那座更高也更为显赫的山峰。翰林院地居清要，三年后经过考校评定等次，或以编修检讨留院，或以主事分各部尽先任职，或以知县由吏部以实缺选用，然后再一步一步攀高，直至封疆大吏或朝廷重臣。他夺魁之后，有同窗好友在南通建造一亭，取名“果然亭”，寓意功夫不负有心人，功名果然到手。张謇亲自改为“适然亭”，并手书一副楹联：“世间科举与风汉，槛外云山是故人。”他仍然有风云之志，机敏之才。据说有一次他陪伴太后，雪霁天晴，后宫缸口有一圈残雪，慈禧出了一道上联“雪落缸口，天赐一条玉带”，张謇随即应对“虹出海外，地涌半副金环”，慈禧大为高兴。但他的观念已经跟一般的学而优则仕的士绅大为不同了。有一次，张謇随同文武官员迎候慈禧太后回宫，当时狂风呼啸，大雨倾盆，许多白发苍苍的老臣跪迎道路两侧，积水盈膝，全身匍匐。长长的仪仗队吆五喝六地走过来，慈禧太后坐在后面的轿子里，连轿帘也没掀，不理会众臣，就晃晃悠悠地过去了。这跟当代的官僚体制异质同构，官大一级压死人，上级面前媚态尽现，在饭桌上、会议室里，言谈举止间总是合谋出一种为主子鞠躬尽瘁的氛围。据说这件事对张謇刺激很大：堂堂七尺男儿，连条虫都不如，有志气的人能做这种官吗？他因此产生了回乡之念。
不久，张謇接到父亲病危的电报告假回家，当他赶到家中，父亲已经去世。他以未能亲奉老人归天为终生憾事，直至七十岁修订《年谱》时还说：“一第之名，何补百年之恨；慰亲之望，何如侍亲之终。”按照惯例，他得为父丧守籍三年，这也正好让他摆脱朝廷内的派系斗争。回籍的第二年，即1895年4月，甲午战争失败的大清帝国派李鸿章为代表，在日本马关春帆楼签订了《马关条约》，使中国的主权进一步丧失。“四万万人齐下泪，天涯何处是神州！”张謇丁忧在家，“既成进士而父见背，不及视含殓，茹为大痛，国事亦大坠落，遂一意斩断仕进！”
1895年成为当时中国国士们的选择之年。简在帝心的康有为选择了变法，上书无望的孙中山选择了革命，张謇以状元之身选择了实业。他们都要为时代注入活力，康有为和孙中山的选择是做中国历史的操盘手，“彼可取而代之”，张謇却在傍近实权人物的经历中知道如何经营实业，大丈夫当如是，靠实力说话，实业救国。传统士绅一向轻视商人、实业，直到今天，儒生、儒家思想能否与现代商业精神并行不悖仍有争议，但在现代转型的中国历史上，一些中国人却成为力行者。张謇由儒入商，成为儒行商界的时代人物。为了“开风气而保利权”，实力派人物、两江总督张之洞正式札委张謇经理通海一带商务，要求他招集商股，在通州兴办纱厂。张謇踌躇思索多日，认定“中国须振兴实业，其责任须在士大夫”，慨然应允。他为此辞官并屡召不应，“吾通因世界之趋势，知文化必先教育，教育必先实业。”
张謇创办了中国人自己的纺织厂──大生纱厂，大生的寓意是：“通商惠工，江海之大；长财饬力，土地所生。”那是儒生们服膺的一句名言：“天地之大德曰生。”张謇的解释是：“一切政治及学问，最低的期望，是要使大多数的老百姓能得到最低水平线上的生活。”他认为富国强民的基础是农业，根本是工业。工业中又可分为“至柔至刚”（或曰“至黑至白”）两类：至刚至黑的是钢铁，至柔至白的是纺织，这就是他所谓的“棉铁主义”。张之洞发展了钢铁业，他则要从纺织业入手，营造独立的近代民族经济体系，进而参入全球范围的“文明竞争”。从1899年开车纺纱至1913年，大生纱厂共获净利约五百四十万两白银，发展成为拥有资本二百万两和六万七千纱锭的大厂。
