浴血奋战的不仅仅是山西人，在清军的铁蹄面前，山东人同样用血肉筑起了一道长城。
山海关大战后，山东的明朝降官和士绅纷纷背叛了大顺，驱逐杀害大顺官员，可是面对清军，他们立刻就怂了，之前清军两次入关劫掠山东，山东的明朝军队和官绅大部分都被打断了脊梁，在清军面前只有凌駉等少数人坚决抵抗，其余大多望风而降。清朝派来的山东总督王鳌永、巡抚方大猷在仅有少量绿营兵配合的情况下，就轻易占领了几十个州县，基本上都是当地的士绅主动投降。尽管有这么多的达官显宦甘心当亡国奴，但山东百姓依然没有抛弃这个多难的国家，已经和清军结下不共戴天之仇的他们决心不惜一切代价捍卫自己的家园。裴守政、马瑞恒、刘桐相、张大雅、张千出、韩继本、单之赏、张宇、黄宗贤、周六、丘尚佐、王尔玺、搔搭毛、翟五和尚、张广、郭尔标、宫文彩、马应试、李文盛、宋二烟、杨鸿升、杨之华、阎清宇、赵慎宽、秦尚行、郭把牌……山东各地义军蜂起，一时间打得清军焦头烂额，其中以嘉祥满家洞的宫文彩部声势最为浩大。崇祯十四年的时候，宫文彩还只是个在满家洞石矿卖饼的小贩，他为人仗义，经常周济食不果腹的矿工。矿工们实在无法忍受矿主的压迫，便发动了起义，推举宫文彩为首，宫文彩自号“擎天王”，也成了一路反王。恰好此时李自成在河南势力大张，宫文彩便加入了闯军麾下。虽然李自成只给了山东义军几个头衔而已，但是如今，疾风知劲草，板荡显忠贞，在大顺军主力全部西退的情况下，宫文彩等人依旧打着大顺的旗号抵抗清军。就是那些没有接受过大顺封号的义军首领，也有很多自称大顺军，因为大顺朝来的时候许诺三年免征，如今大清来了，又开征赋税，还有很多被大顺军分给百姓的田地要“归还本主”。老百姓不认得闯王是谁，但是“闯王来了不纳粮”是知道的，经过灾荒和兵祸的折磨，纳粮已经成了套在百姓身上的沉重枷锁。清朝入关之后，明面上假仁假义地下令减免赋税、废除三饷，暗地里却还是层层加派，盘剥百姓。百姓作歌讥刺：“恩诏纷纷下，差官滚滚来。朝廷无一事，黄纸骗人财。”相比之下，大顺朝的官员既不征粮，也要清廉得多，比如说徐淮防御使武愫，曾经当面怒斥来送礼的官员，定兴县令刘钟泰不仅自己不贪，连县里的胥吏都治得服服帖帖。老百姓或许愚昧，或许软弱，但是在铁一般的事实面前，他们终究分得清哪个政权更能保护他们的利益，当他们确认了这一点之后，就会为此不惜付出生命。
山东的绿营主力只有柯永盛、夏承德两部，救得了东边救不了西边，左支右绌，十分难捱。王鳌永和方大猷也组织了一些由团练乡勇改编的地方部队，但只不过是多了些守户之犬而已，根本不能拿来作战。不过义军也只是激于义愤才奋起抗争的老百姓，并不懂得如何打仗，更无力攻打城市，因此清军才和他们打了个平手。山东所有的明军作战部队都已经逃到了徐州、淮安一带，明朝山东总兵刘泽清唯一能证明自己是山东总兵的行为就是时不时来山东抢钱抢粮抢女人，济宁的士绅和明朝军户在赶走了顺朝的官员之后，本来打算占据济宁抗清，可是刘泽清却派兵来和他们争地盘，在济宁境内到处烧杀抢掠，最后为了保卫家园，济宁义军只好投降了清军。崇祯死后不久，南京的明朝官员马士英等人便拥立了福王朱由崧继位，年号弘光，名义上，弘光朝廷在长江以北有黄得功、高杰、刘泽清、刘良佐四镇部队，二十余万大军，可这些明军在大半年的时间里只知道在驻地抢劫百姓、奸淫妇女，还互相火并、争夺地盘，对于收复失地毫无兴趣。其中以高杰部军纪最差，在扬州附近大杀大掠，残暴不下于清军。
王鳌永还是很给新主子卖力的，他让方大猷留在济南镇守，自己前往青州招降纳叛，山东沿海一带有大量的明军卫所，虽然卫所兵的战斗力到了明末已经很低下了，但是这么多的壮丁，也是个不稳定因素，如果他们大批加入义军，会对清朝造成很大的威胁。
九月二十八日，王鳌永得知了一个好消息，绿营赵应元部前来青州配合他了，手上有了兵，办事就方便多了。赵应元本来是明军的一名下级军官，崇祯十五年农民军横扫河南的时候，他加入了农民军首领革里眼贺一龙的麾下。后来李自成与贺一龙火并，他率先倒戈投靠了李自成，在贺一龙死后统领其旧部。不过李自成也不放心他的人品，不断分化贺一龙旧部，到李自成攻克北京的时候，赵应元麾下已经只剩下五百人了，李自成派他护送文官前往青州上任。山海关之战后，山东各地都爆发了缙绅的叛乱，赵应元让文官各自逃命去了，他却带着部队投降了清朝。虽然只有五百人，但是这五百人都是贺一龙部下比较核心的“积年老贼”，其中很多是明军的逃兵出身，所以战斗力远强于一般的绿营。有了清朝的官身，赵应元便可以在山东东部肆无忌惮地活动了，他招兵买马，很快就有了几千人。
九月二十九日，赵应元来的青州拜会王鳌永，就在王鳌永兴高采烈地准备迎接的时候，他却发现赵应元的队伍之中还有一位熟人——大顺朝户政府侍郎杨玉林。当初王鳌永在北京被顺军拷打，追赃助饷的时候，和杨玉林有过一面之缘。王鳌永这才发现情况不对，但是赵应元的部下已经控制了城门，杀进了城内，王鳌永被赵应元擒杀，青州光复。
赵应元与宫文彩不同，他对于大顺没有什么忠诚可言，也不打算再继续打大顺的旗号。青州是明朝衡王朱由棷的封地，明末的大部分藩王要么被农民军给端掉了，要么被清军端掉了，但是朱由棷很幸运地躲过了这些劫难，所以衡王府中积累的财富还有很多。杨玉林在北京时就和赵应元相识，山海关之战后，他没有跟着大顺朝廷一起撤退，而是直接前来山东找赵应元，他劝赵应元拥立朱由棷监国，先取青州为基业，再成为山东义军的总首领，据山东而争天下。
杨玉林给赵应元规划的前景看起来的确是十分美好，但是实际执行起来只有两个字：作死。