1938年1月10日，日本海军在青岛崂山的东头登陆，侵入青岛。日本陆军第5师团也于1月9日占领潍县。在高密即将被占领前，蔡晋康的高密游击队转移到诸城。在此紧急情况下，中共“东工委”决定，青岛市委率领崂山抗日游击队前往诸城，与中共高密游击队工委掌握的力量汇合，组成高密游击队第四中队。为避免途中遇到日寇时易遭损失，上级指示不带武器，化装成老百姓，分批出发。虽然市委和游击队的不少同志认为在崂山开展游击战争条件便利，但大家还是服从命令，将所有的武器就地藏匿起来，连夜赶制便衣，分三批离开青岛，奔赴新的抗战征途。
崂山起义后，崂山抗日游击队没有在崂山形成气候，后来我和胶东天福山起义的主要领导人之一、“红色水利专家”林一山讨论过这个问题。山东的八路军是从无到有，从小到大，山东后来出了很多兵，但是当初发动武装起义的时候，全部是山东人自己搞起来的，所以叫“土八路”，外来的叫“广八路”，“广货”就是洋货。当时，到处都有武装起义，最知名的就是徂徕山起义，那是在山东的西南部，东边有天福山起义。过去山东出的历史书，每个起义的地方都打一把红旗，唯独崂山这个地区空白，我很为这个事情不平。贺龙“两把菜刀”革命，算起义，崂山不止两把菜刀，而且还牺牲了人，还流了血，怎么不算起义?林一山托我好好研究研究整个胶东半岛，崂山也属于胶东半岛。
崂山起义时，群众工作几乎从零开始，很急促地把他们联络起来，我们这些学生，没有任何军事经验，加上青岛当时是国民党的“特别市”，沈鸿烈是市长，也是国民党海军将领，那时候是国共合作，虽然不能称“敌我”，但人家还是要整你，双方力量相差悬殊。在这样的几个因素之下，“崂山抗日游击队”的旗帜没有在崂山飘扬多久。
徂徕山那里因为北方局派了黎玉下来领导，地方组织基础比较雄厚，是济南市委那帮人，其中就有很能干的林浩，所以徂徕山起义就搞起来了。天福山起义搞起来了，因为胶东，尤其是文登一带群众基础牢靠，胶东特委久经考验，于得水率领的昆仑山红军游击队很有战斗力。
尽管如此，崂山起义建立起我党领导的崂山人民自己的第一支抗日武装，为崂山地区播下了革命火种，奠定了继续进行武装抗日斗争的思想基础和群众基础，把青岛人民抗日救亡运动推向第一个高潮。
