于是，他感慨道，“从军虽不是知识青年报国的唯一途径，但是有什么途径比执干戈以卫社稷更直接呢？”
在成功岭训练期间，只有农历春节才放假，利用这个机会，林正义回到宜兰老家，把这个决定告诉了父母兄长，遭到一致的反对。家中排行老四的林正义，兄弟姐妹很多，生活十分拮据，所以他两个哥哥辍学赚钱供林正义读书，他的家人把一切希望都寄托在他身上。
后来经过林正义反复向他们解释，最终获得家人的同意。假期结束回到成功岭后，他立刻向上级表达了这个意思。
除了从军出人意料外，更令人没想到的是，林选择的是“陆军官校”。当时，有许多台军军官找林正义谈话：“你是学理工的，大可选择中正理工学院。”中正理工学院在台湾，可是数一数二的军校。
而林则表示不同的看法，因为他觉得，“从军就是接受磨炼，'陆军官校'的环境最适合他。如果我选择舒服的路，如何能唤醒别人？”
由于《联合报》是台湾当时影响力最大的报纸，其口径几乎与国民党中央一致。因此，在此文刊登后，立即在台湾引起很大的反响。
对台湾当局来说，这是一个极其好的典型和宣传造势机会。蒋经国更是十分高兴，还接见了他，并对外赞美其行为。
在当时受整个台湾大环境的影响，官方和民间的士气都十分低落，林毅夫决定从军的行为刚好是台湾“国军”召募新血广为宣传的好题材，军方当然不会放弃运用宣传媒体将他塑造成明星一般样板人物的大好机会。
当时的“参谋总长”赖名汤在听完林正义的心声以后，深受感动，告诉在场的人，“这就是我们一定强的铁证，因为我们这里像这样有热血的年青人非常多。”在介寿台上，赖名汤勉励当年1.1万名大专学生，认清时代的需要，把握“报'国'的时机”。
次年，也就是1972年3月4日，赖名汤又代表“救国团”主任蒋经国向林毅夫颁发了“优秀青年奖章”。
这一振奋人心的消息，台湾各大媒体广为转载，一时传为美谈。
“在这么一种时代背景下，当我们在来年春天得知林正义在大专集训投笔从戎时，并没有感到太大的惊奇。”当年的台大校友郑鸿生称。
在林毅夫投笔从戎的两天后，大同工学院化学系的陶立民也向成功岭寒训班主任表示要转读陆军官校，当时媒体就将陶立民的行为视为“响应林正义的行动”。
军校生涯
于是，林毅夫成为一名模范“青年军官”。
留在军中，林毅夫开始选择军校就读。不过令人颇感意外的是，林毅夫并没有选择与他背景较相近的中正理工学院就读，而选择进入军事训练较严格、与他背景较不同的凤山陆军官校就读。
进入军校之后，林毅夫的名字开始由林正义改名林正谊，以表示与从前的林正义有所区别。
在陆军官校，林正谊没有辜负各级长官的期盼，1975年8月11日，《联合报》三版报道，他以第二名89？郾75分的出色成绩毕业，与第一名傅笃诚的89？郾76分，仅差0？郾01分。
《爱国青年林正谊，放弃台大进陆官，接受四年文武合一革命教育，以全校第二名优异成绩毕业》，在这篇标题颇长的报道中，还提到他虽然就读步科，但在1973年7月，曾领导10位通信兵科的同学，以废铁及普通镜片为材料，经过一年多的研究与改造，制出一具牛顿反光式天文望远镜。这项成果制作的成功，在台湾各大专院校中尚属首创。
报上说：“这位宜兰籍的优秀青年，不仅在理工科有成就，对社会科学及历史也颇有见解，是国军优秀的基本干部。”
此时蒋经国已掌握了台湾的绝对统治权，开明的蒋经国决定培养大批优秀台湾本省籍青年。而林正谊的省籍正确，又曾是台大学生，因此多年来，蒋经国一直关心他的情况。因此，在毕业之后，林毅夫不必立刻下野战部队带兵，而是得以军职身份直接进政治大学企管研究所就读。
政治大学的前身是国民党南京时期成立的“中央党务学校”，是民国时期国民党培育政治人才的主要基地。它负责为国民党培养政府机关公务员，毕业生享有免试派任县长与各级官员职务之权利。
1927年，为了培训北伐期间的国民党干部，蒋介石原先准备成立“宣传训练院”，但后来代之以“中央党务学校”。“中央党务学校”校训与1924年成立的黄埔军校同为“亲爱精诚”。课程重点是党务及社会运动、政治宣传，授课内容则分为理论、历史、地理和组织。
此后，为了表示党政分离，1929年，“中央党务学校”改组为“中央政治学校”，初设政治、财政、地方自治、社会经济四系，后来又增设教育和外交等系。抗战期间，“中央政治学校”迁至重庆，并将科系调整为法政、经济、外交、新闻、地政五系，还新设立了新闻专修科、地政专修科、会计专修科、统计专修科、语文专修科。
抗战胜利后，“中央政治学校”与另外一所党办学校“中央干部学校”合并，正式定名为“国立政治大学”，校长改为专任制，但依旧由蒋介石担任永久的名誉校长。
国民党政权被迫迁台后，政治大学作为昔日国民党党校，素有口碑，与当时从大陆迁来的各大学，如“清华大学”、“交通大学”等，共同成为在台复校的先驱。政治大学在台复校首任校长是曾任北京大学校长的知名心理学学者陈大齐先生，初期设立行政、公民教育、新闻及国际关系等四个研究所，1955年恢复成立大学部（本科）。
虽然已经全面整改为公办全日制大学。此后数十年，其最著名的两个研究所--国关中心与东亚研究所在两岸关系中扮演着重要角色，是台湾当局两岸关系重要的智囊机构。当然政治大学也一直扮演着另外一个角色--国民党政府培养专业技术官僚及党工、党籍学者的摇篮。
因此，林毅夫能被保送至政治大学读研究生，可见国民党对其之“重视”。
拿到硕士学位之后，1978年夏天，林毅夫又重返部队，被派到两岸对峙的最前线--金门马山连当连长。值得一提的是，据台湾媒体披露，在他求学期间，蒋经国当时已经高升“行政院院长”，但还是非常关心他的情况，并嘱咐当时的“总政战部”主任王昇将军特别照顾他。
