张东荪的哥哥张尔田，字孟劬，自幼聪明，承袭家学。早年有文名，中过举人，曾任刑部主事、知县等职。杭县人夏循自作《张先生孟劬传》称：“先生生而敏慧，读书过目成诵。幼承家学，潜研文史，不事帖括。”邓之诚作《张君孟劬别传》称：“君少以辞章擅名，为文规摹六朝，诗逼似玉溪。从官直隶，以例监生入试北闱，被放，旋依例为刑部主事，改官江苏试用知府。”又称他：“深思力学，无所师承，而卓然名家。少尝从武进屠寄、固始秦树声、长洲章钰学制艺文，比声名既盛，君所师者，或转欲师之，然君终身执弟子礼不改。”辛亥革命后，“专心著作，于学无所不窥。”主要著作有《史微》八卷，《玉溪生年谱》四卷，《列朝后妃传》二卷，《蒙古源流笺证》八卷和《钱大昕学案》二卷。据邓之诚说，民国初年张尔田“居上海时，与海宁王国维、孙德谦齐名交好，时人目为海上三子。”
可见，张尔田在晚清便以文史著称于时。他比张东荪大了12岁，自然成为其启蒙老师，督责他研习经籍，进行正统儒学的教育。1893年，母亲陈氏去世时，张尔田已20岁，张东荪年仅8岁，照顾和抚养张东荪的任务便落到张尔田身上。张尔田个人婚姻也颇不顺利，其妻为其舅陈少嘉的长女，算是亲表兄妹，可惜刚过门就病逝，年仅16岁；继娶潘氏，但一直没有子女。他性格忧郁，一生郁郁寡欢，但为人忠厚，也颇有文士多愁善感之慨，对其弟曾进行了严格的启蒙教育；在立言、立德等方面，为张东荪树立了一个学问和道德的楷模。夏氏说：“先生幼而失恃，介弟东荪，年在辔觳，庭训之余，抚教并施，友于至笃。迨其授室，雍睦之称，遍于戚党……阃门内外，迄无间言。其刑于之化，孰能及之。至若接人以诚，苟属知交，咸生敬慕。其启迪后进，孜孜不倦。平生寡嗜欲，自奉约而与人厚。”
张东荪在父、兄督责下，自幼受过正统儒学的系统训练，儒家的经典如四书、五经等都进行过认真研读，打下了深厚的旧学功底。不仅如此，自幼所受的严格的儒家经典的教育和深厚而持久的儒家道德思想的熏习，形成了他最初的道德观和人格气质，这些都深深地影响着张东荪后来的思想和行为。中国士大夫那种以天下为己任的救国救民的责任感、注重个人道德人格的修养的意识、居安思危、不畏强权的气节等等，在他身上表现得特别突出。儒家所注重的道德主义、中庸思想等等，也在他身上有体现，也影响了张东荪一生的言行和思想。
对于早年正统教育对自己的深刻影响，张东荪晚年曾回忆说：“我是旧社会中长大的，这个古老的衰朽的旧社会把封建传统就种植在我身上。我从小即读中国旧书。孔孟之道、中庸主义在我身上有深厚的根基，养成一种气质，总是以为清高最好。自命不凡，爱好名誉，有时自以为倔强就是有气节。对于别人总是瞧不起，有时到处滥用温情表示慷慨。但是其他方面又有士为知己者死的心，只佩服心中真使我佩服的人，但不轻易佩服人。自己总以为我有一些长处，我要用我的长处来表现我自己。这实在是中国封建式的个人主义。封建的个人主义有时也与封建的民族本位思想相结合有狭隘的爱国观念”。幼年的正统儒学教育，将张东荪培养成一位具有儒家理想人格的典型士人。
张家素以诗赋文章传家，其兄尤以文史见长，张东荪自然承继了家学，受到系统的文学、诗歌、词赋方面的严格训练。张尔田在诗词方面有专长，据邓之诚说，他“诗八、九百首，皆不留底稿。门弟子辑文，得百余篇，厘为四卷，藏于家。诗仅存《槐居唱和》一卷，盖与之诚愤倭难而作也。晚岁喜填词，以写其幽忧忠爱之思，成《遁堪乐府》二卷，论者谓半塘、古微而外，未有能及之者也。”在张尔田的督责下，张东荪在书法、吟诗、填词、作赋等方面，都有相当的长进，打下了坚实的基础。同时，张东荪的父亲张上禾在辞官回乡后，也致力于研讨诗词，这对于张东荪在这方面的训练颇有影响。这在日后所作的诗词歌赋中可以看出。在民国初年，张东荪曾借诗词来抒发情怀。在他的晚年，主要靠吟诗、填词来寄托自己的期望，抒发难排孤愁。
