王仙芝死了，黄巢还在。大将尚让突围出去后，带领余部一路向北寻找黄巢去了，跟随的有李罕之、毕师铎、许勍、常宏等将领。此时的黄巢，正在围攻亳州，尚让前来与黄巢会合。黄巢对王仙芝的死赶到很悲伤，当天晚上，全军祭奠。
第二天，众人重新抖擞精神，黄巢说：“黄大将军虽然离开了我们，但我们灭亡唐朝的决心不变，昏暗的朝廷不会长久，老百姓都没有活路，会跟着我们一起干的。各地的节度也都各自看管自己的地盘，没人真心为朝廷卖命，只要兄弟们同心协力，利用他们的矛盾，用我们的长处制服他们的短处，我们一定能打到长安，让皇帝老儿下台，到时候我们一起共享荣华富贵，黄某决不食言!”
农民军经这么一鼓动，马上气氛高涨，仿佛长安就在眼前，大家高呼“跟随黄头领，打到长安城，为王大将军报仇！”
大家一致共推黄巢为首领，号称“冲天大将军”，推举尚让为副首领兼军师。黄巢为了改变农民军散漫的现象，开始设置官职属僚，尚让、朱温、黄揆、葛从周、孟楷等人都作为大将各领一支队伍。
878年三月，黄巢率农民军挥师北上，一举攻克沂州（临沂市）、濮州（鄄城县、濮阳县、范县一带）。这已经不是第一次攻下这两个地方了，但很难守住，官军一来只好撤走。
朝廷担忧起义军在该地扩大，威胁东都洛阳的安危，下诏免去崔安潜的诸道行营都统职务，急调张自勉为东北面行营招讨使追剿起义军。
黄巢在濮州遭到张自勉的忠武军攻击，张自勉会打仗，起义军屡次战败。当时，北有黄河阻挡，南有忠武军阻截，起义军处境艰难。
黄巢面对困境，只得先暂时低头，他假意答应投降，请唐朝天平节度使张扬代奏朝廷。唐僖宗下诏任命黄巢为右卫将军，但有一个附加条件，就是要求黄巢至郓州解散军队。
没有军队就没有了谈判的筹码，这个道理黄巢肯定是阴白的，他答应投降也只是缓兵之计，解散军队的要求当然只是朝廷的一厢情愿。
朝廷还在等着黄巢的投降呢，黄巢知道北方此时难以立足，大家一商量，决定还是先避开官军锋芒再说，反正就是你弱我就打，你追我就走。
农民军想从滑州（滑县）攻打宋州、汴州，也就是攻打商丘、开封一带，但被招讨使张自勉的军队阻挡。黄巢又转而进攻卫南县（滑县东），接着进攻许昌一带的叶县、阳翟（禹州市）等地，目标还是对准东都洛阳，至少在心理上让朝廷感受到这一点，引起朝廷的心理恐慌。