杨行密这时的地盘并不算大，杨行密首先拿当初把老巢庐州献给孙儒的蔡俦开刀，蔡俦在孙儒死后无家可归，想投靠朱温。朱温此时还不便和杨行密翻脸，予以严拒。蔡俦无法，便和据守舒州（今安徽舒城）的倪章互为犄角。杨行密对庐州念念不忘，景福元年（892年）十一月，派李神福将“黄头军”去收复庐州。
李神福攻到城下，蔡俦不战，杨行密命田出兵宣州，自己带着“黑云都”来到庐州。原孙儒手下的偏将张颢越城来降，杨行密久闻张颢好勇斗狠，甚是喜爱，安排在亲军中任头领。城中的蔡俦知道杨行密的能耐，破城之后难逃一死，索性自杀了。
蔡俦曾经把杨行密的祖坟给刨了底朝天，蔡俦死后，部将劝杨行密也刨了蔡俦祖坟做为报复，杨行密没有同意。其实刨了蔡俦的祖坟也没什么实际意义，反而会让人觉得杨行密“睚呲必报”，没有气量，不划算。回到庐州后，杨行密即命田去收歙州（今安徽歙县）、李神福去收舒州。歙州刺史裴枢善守，田屡攻不下，便开始围城。裴枢不想打了，给杨行密写信：“放我回长安，歙州君自取之”。杨行密同意，派陶雅代裴枢守歙州，裴枢自去。不久，倪章打不过李神福，弃城逃跑，李神福进入舒州。
乾宁二年（公元895年），杨行密北上攻濠州（今安徽凤阳），这场战事没什么悬念，很快拿下。值得一提的是，杨行密在濠州遇到一个流浪儿，看到这个小孩长相清秀、眉宇间有股英气，喜欢的不得了，便问：“你是哪里人呀？叫什么名字？你爹娘呢？”这个孩子大哭：“我是徐州人，今年七岁，无名，爹娘早亡，不知葬在何处，只好浪迹江淮，讨口饭吃。”杨行密见他说的可怜，大动恻隐之心，决定收下这个孩子做义子。
不过杨行密的亲生儿子杨渥却讨厌这个孩子，当然主要是因为忌妒，此儿长相不俗，谁敢说他长大后不会对自己造成威胁（真让你猜对了！）？因老爹严察，还不敢造次，只是对杨行密表示不满，其他几个兄弟也都不希望别人来分享他们的父爱和富