大学二年级打了一个赛季主力的林书豪，仍然存在着明显的缺陷，最主要的就是进攻效率：投篮命中率44.8%还算说得过去，但27.9%的三分球显然低了些，尤其考虑到NCAA的三分线比国际篮球的三分线还要近。罚球更是出了大问题：次数多了，命中率却从NCAA处子赛季的81.8%骤降到62.1%！主场迎战康奈尔大学一役，林书豪终场前42秒投进的三分曾帮哈佛71比66领先5分，但却被对手连进三球最终1分惜败；令他耿耿于怀的是：三分球倒是2投2中，却错失了2次罚球。
“整整一个晚上，他就呆在球馆里，不停地投篮不停地投篮，”室友何凯成回忆道，“甚至后来很长一段时间，他都在队内训练结束后专门抽出时间练习投篮。”包括他的左手技术，他也会用大量时间来加强练习，让其不再成为自己前进道路上的绊脚石。
大三赛季，出现在公众眼中的，是一个几乎弥补了所有缺点的林书豪。17.8分，5.5个篮板，4.3次助攻，2.4次抢断，0.6个盖帽，投篮命中率50.2%，三分命中率40.0%，罚球命中率74.4%，几项主要技术统计都在整个常青藤联盟里排在前十行列。此外，他还有多次抢眼表现：单场30分，连续三场20+，单场27分8篮板6抢断。
“27+8+6”那一战，就是林书豪名声传遍全美的一战。因为他击败的对手，是波士顿学院队——当时他们高居NCAA实力榜第17位，而且在打哈佛前三天刚刚击败了公认头号强队、2009年NCAA总冠军北卡大学，气势正盛。
“实话实说，2008-09赛季我们队的整体状态并没有太大进步，打波士顿学院之前，几乎没有人认为我们有机会战胜刚刚击败不可一世的北卡的他们，”霍斯曼说，“我还记得自己大一时打波士顿学院那场比赛的悲惨经历，整整输了30分啊……”历史纪录显示，波士顿学院过去16次对阵哈佛大学，赢下了其中的15场比赛。可比赛开始后，波士顿主教练埃尔?斯金纳沮丧地看到，球员并没有把赛前自己的警告听进去，他们被哈佛、确切地说是被林书豪打傻了。
哈佛大学上半场33比27令人诧异地领先波士顿学院6分，下半场一开始，林书豪的抢断后快攻上篮，又给了对手重重一击；两分钟后，他的三分球让本队第一次将领先优势扩大到两位数，42比31，波士顿学院开始崩盘；比赛还剩5分钟时，哈佛已经66比50足足领先了16分；当林书豪在比赛结束前1分钟被罚下时，比赛结果早就已经没有悬念了。几乎不落空的投篮，神出鬼没的抢断，防不胜防的传球，“比赛完全落入了林书豪的节奏，”对方主帅斯金纳赛后哀叹道。
这时候，人们才会想起林书豪说的话：“我们能在波士顿击败北卡后得到与他们交手的机会，我真高兴。”正如队友所言，他真的不惧怕这种大场面，“林如战神附体般一开场就冲垮了对方的阵线，简直无所不能，对手完全没办法限制他的表演。尽管我们平时总是说，篮球是五个人的运动，赢球要靠集体的力量。但不得不承认，击败波士顿的比赛，林绝对居功至伟。”
在这场比赛前，林书豪是哈佛大学最好的球员，是常青藤联盟的拔尖球员之一；但在这场比赛后，林书豪展现出了不输给NCAA顶级联盟顶级球员的实力，正如NCAA官方评价的那样：这是属于整个常青藤联盟的荣耀，他们的球员也能在大舞台上熠熠生辉。
2009-10赛季，怀揣着更大梦想的林书豪和哈佛男篮，赛季伊始就让世人大吃一惊。
揭幕战客场对阵圣十字学院队，哈佛87比77取得开门红。林书豪拿下24分3个篮板7次助攻，全场更是13次站上罚球线，命中10记罚球，两项数据都创造了NCAA生涯新高。但他真正给对手造成杀伤的还不止这些：下半场还剩11分15秒时，林书豪用一记双手大力暴扣，帮助本队51比49反超，圣十字学院一干球员甚至教练被这个华裔小子的激情表演震住了！终场前4分19秒，林书豪又是一记三分命中，哈佛领先对手多达13分，就此奠定胜局。“我们每次想冒头，就会被他狠狠踩上一脚，”对手的无奈，无疑是对林书豪最大的表扬。
可谁又能想到，这只是一次更神奇表演的序曲呢？
两天后，回到主场的哈佛迎来了威廉姆玛丽学院，这是历史相当悠久的两所大学的较量——哈佛是全美成立最早的私立大学，威廉姆玛丽学院则是全美历史第二悠久的大学，4名《独立宣言》签字人就是出自这里。那个赛季，威廉姆玛丽学院男篮表现不错，总共取得了22胜11负的成绩，其中还包括一次10连胜。但他们最惨痛的失利，也是超长连胜前的那场败仗，正是拜林书豪所赐。
