生活从高潮坠入低谷，心情的压抑是可想而知的。以后由于种种原因，这种自卑感和压抑感差不多整整伴随了他一生。
父母看他失学后心情忧闷，决心给他找门手艺活，一来学点技术，二是挣点钱。母亲觉得木匠在农村很吃香，提议要他学木匠。父亲不同意，几经周折，在河北阜平县一家远亲的书店找到了活，让他当学徒。在这里，他一直干到他考入山西省立师范学校。
从省立师范学校毕业后，徐向前可以说是踌躇满志。因为他不仅当上了教师，而且也有了一个温馨的小家庭。
徐向前任教的川至中学建于1917年，是阎锡山将五台、定襄两县的县立中学撤销，集中了两校的经费、设备办起来的。这里的条件较好，校舍二三百间，教室、宿舍、图书馆、仪器室、礼堂，应有尽有，教师力量也强（有的后来成了大学教授）。徐向前在这里教小学六年级，月薪20块白洋，生活较为稳定。乐天安命的徐向前对自己此时的处境是较为满意的，他已准备一辈子献身于乡村小学教育。
但是天有不测风云，失业的打击很快降临了，这种平静的小日子变成了遥远的记忆。为摆脱生活困境，失业后的徐向前，背着父母和妻子，去广州投考黄埔军校。从此阴差阳错地走上了从军之路。
他走后，妻子香蝉忧急交加，得了一种怪病，每天除了吃一点西葫芦粥之外，别的什么也吃不下，身体急骤消瘦，脸色蜡黄。可是徐向前无法抽身回来，只有写信安慰她。没有多久，善良而柔弱的香蝉，怀着一腔幽思，离他而去。
一日夫妻百日恩。何况徐向前和朱香蝉也算得上是一对恩爱夫妻。徐向前没能满足香蝉可怜的心愿，也没能尽到丈夫和父亲的责任。每当念及痴心的香蝉，他总是感到深深的愧疚。
徐向前可以说是黄埔军校生的“大哥大”，因为他是一期生。他与蒋介石的爱将胡宗南是同一期的同学，当时徐向前在一队，胡宗南在四队。他们曾在一个大操场上集合，一个饭堂吃饭，一起聆听孙中山大元帅的教导，一起听校长蒋介石训话，唱一样的校歌。他们还一路东征作战平定叛逆。不同的是，徐向前参加的是“青年军人联合会”，胡宗南参加的是“孙文主义学会”。那时，这两会对立，斗争尖锐，只是他们都算不上头面人物，因此并无直接冲突。从1927年“四一二”蒋介石发动反革命政变，徐向前和胡宗南才分道扬镳，各走各的路，各唱各的歌。胡宗南率军多次“围剿”、堵截徐向前的红军；徐向前多次指挥部队，把胡宗南的军队打得落花流水。
抗战爆发，国共两党第二次合作，徐向前为了团结胡宗南一致抗日，曾写过一封信给他。在信上徐向前称他为“学兄”，而自己谦逊称“学弟”。
