杜伏威和辅公佑也算是个传奇，杜伏威和辅公佑是齐郡章丘县人，年轻时潦倒失意，也不经营谋生之业，家庭贫用不能养活自己，经常穿壁翻墙偷东西。
与辅公祏是生死之交。辅公祏的姑姑家以牧羊为业，公祏多次偷羊来送给杜伏成，公祏的姑姑心有怨恨，于是告发了他们偷盗的事倩。
郡县紧急追捕他们，杜伏威与辅公祏一起逃命，聚集了一帮人组成强盗团伙，他当时年仅十六岁。
大业九年，杜伏威逃窜到长白山地区，组织山贼，与辅国祏率众起义。
两人就近参加了一只小起义军，刚加入时只是小卒，但杜伏威十分勇猛，出则居前，入则殿后，很快就取得了大家的尊敬和信任，被推为首领，这是杜伏威势力的开始。
江淮一带隋朝的力量较为强大，杜伏威意识到自己的小部队实力太弱，如果不尽快壮大就根本无法生存，于是努力寻找机会去联合和吞并附近的其他起义军。
有个比较典型的例子，是下邳苗海潮，杜伏威派辅公祏对他们说:“现在我们共同遭受隋朝暴政之苦，各自为正义而起兵，力量分散势力薄弱，经常担心被抓获，为什么不联合起来使力量变得强大些呢，就不会担心隋军来制约我们了。
如果你能够做首领，我定当恭敬地跟随您，如果你估量自己不能胜任，可以前来听从我的指挥，不然的话，我们就打一仗来一决高低。”苗海潮害怕了，立即率领他的同伙归附了杜伏威。
之后，随着势力和地盘的增长，始有士人投靠杜伏威，依靠这些士人，杜伏威放弃了以前的流寇式战术，开始努力建设自己的地盘。
由于本身就深受赋税之苦，杜对领地内只收很低的赋税，同时，可能是出于贫苦农民对贪官污吏的先天仇恨，杜伏威下令凡官吏贪污者无论轻重一律处死，这当然是不太合理，但却使杜得到了当地百姓的支持。
大业十四年，江都兵变，宇文化及弑杀杨广，任杜伏威为历阳太守，杜伏威没有接受。