高适少时几乎可以说是一无所有。虽然他祖上曾是官宦之家，少时跟随做韶州长史的父亲一直旅居在广东，不幸的是父亲很早就死在任上。高适无依无靠，只有靠亲友接济为生。这种接济下的高适其实与现在的流浪汉差不多。然而即使生活贫寒，吃了上顿没下顿，读书、习武两件事，高适却不曾荒废，他的剑术日益精进，文章也写得越来越好。少年时的高适还非常爱交友，这也是为官要累积的财富之一。为了寻求进入官场的路，二十岁的高适听从了朋友的建议，带着自己仅有的一柄长剑来到长安。
年少总是轻狂，高适自以为赴京求官，官职就能唾手可得，然而却是求官久不得果，高适只好长期客居宋州宋城（今河南商丘）。开元十八年前后，高适北上蓟门，漫游燕赵。这时，正值燕山一带发生北部游牧民族侵犯唐朝边境的战事，高适主动前往参加战斗，把求取功名的希望寄托在战场上。但是不知道什么原因，这次战斗结束时，高适什么官也没混到手。虽然高适的愿望又一次落空，但是高适并没有放弃自己入仕当官的目标。
此后，高适长期浪游于梁、宋间（今河南商丘一带），过着食不果腹的生活，只得靠躬耕田垄过活，甚至有时不得不“以求丐取给”。在此期间，高适交上了两位大诗人，一个是李白，另一个就是杜甫，常与他们一起在齐、赵一带饮酒游猎，怀古赋诗。
跟着名诗人混，高适自然也有几分名气。高适终于被张九龄的弟弟，时任宋州刺史的张九皋发现，“深奇之”。他立即荐举高适做了封丘县尉，而这时的高适已年近五十岁。
能在五十岁当上县官，虽然官不大，但总算已经正式进入了官场，高适本应该高兴，但是在高适的眼中，那只是一个九品小官，这种小官对于他来说，与他的宏图大志相差实在太远了。于是，高适终于在一次酒醉后下定了决心，毅然弃官而去。他像一柄尘封万年的古剑，耐心地等待着，酝酿着长剑出鞘。又一次来到长安后不久，高适被河东节度使哥舒翰看重，封他作为军中书记，入了哥舒翰的幕府，到了军营。这似乎也符合高适的想法，并且高适已经有过作战经验。哥舒翰对高适很看重，高适也在收复黄河九曲之地后随自己的主人哥舒翰入朝献计献策，“盛称之于上前”。此时高适能够为人称道的才能，不止是在战斗中写几篇赞诗，而是有能够为击败敌人而出谋划策的政治远见。
天宝十四年，安史之乱爆发，叛军一路南下。朝廷派高仙芝、封长清平叛，均被叛军打败，两人也被叛军杀害。叛军直逼长安，玄宗任命哥舒翰守潼关，但是又派宦官李大宜做监军。李大宜不懂军事，竟然强迫哥舒翰放弃天险与叛军作战，结果大败，哥舒翰投降。唐玄宗被迫逃往四川。高适想通过军营建功立业的想法又一次失败，但这次高适却不想当逃兵，而是主动去找最高主子，觐见皇帝。
高适从骆谷奔赴河池郡，见到玄宗，上书说：“哥舒翰忠义为国，但是年老体弱，难以胜任；而监军李大宜整天饮酒歌舞，不恤军务。盛夏时节，将士们连糙米饭都吃不饱，怎么能够不败？”（《旧唐书》本传）这一番话使唐玄宗茅塞顿开，龙颜大悦，认为高适是个不可多得的人才，马上任命高适为侍御史，让高适侍候在身边，不久又升高适为谏议大夫。
