所谓“贤人”，就是社会上“贤俊”之士，有知识有能力同时又有很高道德程度的人士，与它相对的是“庸众”。所谓贤人政治，就是使这些贤俊之士执掌政治，即“所有之贤者悉集于上，而不肖者安于下，且此贤者起而为国家之重心，社会之斗南，国家之大命即托于此一部分人士之手。”他认为，政治的大忌，一是世袭的专制，二是无知的庸众同预政事，前者流为少数人专制，后者成为庸众政治。“贤人政治”与两者都不同，是介乎两者间而又吸收两者优点的政治运作方式。对于这种政治，张东荪说：“贤人政治者，由积极言，以国内一部分贤俊是而支掌政局；由消极言，一班人民对于贤俊，非惟不阻挠其活动，抑且敬服之，常能认识贤者，举以任事；由法度言，权力分立之形式具，凡立宪政治与民权制度无一不备，使所有之人于法制前，皆有发展其个性之平等机会；由社会言，则一班通常之人，必具有崇贤任能之德，虚衷顺从之性，一方面又常能辨别贤愚，凡贤者所为皆盾乎其后，俾其力厚而功伟；他方面则不为非分之争以停滞政治之进行，而召内部之分裂，此贤人政治之大概也。”他强调，贤人政治不是一种政体，只是一种政治的运作方式，“即以贤者运用政治也”。
可见，张东荪最初提出“贤人政治”，其动机是为解决如何使政治运作更合理、如何提高行政效率问题。在当时民众知识水平普遍不高的情况下，他反对实行彻底的民主政治，认为那样只会导致一批庸众执政，降低行政效率，带来政治的腐败和政府的无能。所以，只有将政治托付给那些“贤俊”之士，由他们来执掌政权，才会避免像袁世凯统治时期那样的腐败与无能。从表面上看，张东荪反对实行民主政治，似乎是一种思想上的退步，实际上并非如此。他并没有否定人民的各项权利，他主张“贤人政治”，是在坚持法律面前人人平等的前提下提出的，承认人人都有发展个性的平等机会，国家的主权仍然属于人民，只不过将政治的具体操作权交给少数“贤人”而已。
1917年11月，经过反复的思索，张东荪将民国初年形成的“贤人政治”思想逐步系统化，在《东方杂志》上发表了长达3万多字的《贤人政治》，进一步阐述了“贤人政治”的政治主张，使这一主张更具理论色彩。他在解释写作该文的动机时说：“此篇乃著者十年来思想上之产物也。辛亥之岁，曾函告友人，与相辩难。其后以民权论之狂澜日高，不愿以此挑战。迨丙辰（1916年），审国人已饱受苦痛之教训，破迷知返，遂稍稍揭橥其旨于杂志日报。虽多反响，而颇见赞成。以为此乃适当机会，可以讨论矣。”
张东荪把政治思想上支配国家政治的根本原理，分为两大系列：一为庸众主义，即民主主义，二为贤能主义。他将庸众主义与贤能主义的区别概括为：庸众主义为多数决主义和代表主义，贤能主义为少数决主义和自由意思主义；庸众主义为平等主义和单调主义，而贤能主义为等级主义和复杂主义；庸众主义为非个性主义和齐进主义，而贤能主义为个性主义和率引主义或保育主义；庸众主义为个人本位主义和人民主义，而贤能主义为社会本位主义和国家主义；庸众主义为旧进化主义、功利主义和空想主义，而贤能主义为新进化主义、理性主义和历史主义。
在张东荪看来，庸众主义，就是近代平民政治，发源于希腊，其能够实行，有特别原因。一是雅典为城市国家，其范围甚小，容易统治。二是有少数杰出之士，非真听命于群愚也。所以，他断定：它是“希腊雅典人之特产物”，近代以后培根、洛克、孟德斯鸠、卢梭等思想家作了进一步发挥，便成为近代民主政治。并且近代平民政治，只是“庸众主义之程度的实现”，“皆为有限之平民政治”。
张东荪通过对近代所实行的“有限的庸众主义”的分析，对民国以来中国所实行的西方式议会政治提出了质疑和批评。他断定：“以近代采取平民政治之诸国之历史为证，则但见其弊，不见其利。”这是因为：
第一，议会是代表民意的机关，但国会议员“以私利为前提，措国事于腐败，或卤莽灭裂焉，或费时偾事焉，或议决不利国家前途之法案，或打消福国利民之政策。”所以，议会制度“自国家言，则不足以谋福利；自民德言，则奖励罪恶，风俗日娱；自民意言，则多数垄断，紊淆是非，政党操纵，无复自由；自政治言，则一切进行，必多停滞。”近代国会制度“堕其信用”，在国家政治生活中不再居于重要地位。
第二,政党是议会制度不可缺少的，为“运用国会与内阁者也”。然“政党之弊，不可枚举”。政党政治必须依靠“多数之金钱”来运作；而其金钱取得的方法“要不离乎秘密与黑暗”，所以，猖獗、专擅、自私、轻率等等恶德，“皆与党俱存”。由于政党是代议制度所必需的，那么这样的恶德和弊端也就不可避免。所以，国会制度丧失信用，主要是由于“党弊”。
第三，选举是表达民意的手段，即“所以宣达民意者也”，但选举制度的施行，并不能真正表达民意。选举过程中出现的“强迫”、“卖买”现象，“不惟选举不足以代表民意，抑且反致民德日堕于卑劣也。”人民选举代表，不是以人民为本位，而是以政党为本位，便使选举制度“其间不能无贿赂，不能无轻率。”选举制度同样弊端丛生。
由此，张东荪得出了结论：“庸众主义所有之诸制度，皆不免于有弊，其弊乃与制度俱存，无法除免”。
张东荪指出，由于“庸众主义”存在着种种弊端，19世纪末到20世纪初，世界政治思潮发生了重大变化，庸众主义和平民政治遭到思想家的批评，出现了一个“平民政治之反动时代”，“贤能主义”成为新的世界性政治思潮。
