始埋头研读诸子百家之书。如此过了一段时期后，甘宁便率领以前跟着自己的八百多人，前往荆州投奔了刘表。
当时刘表身居“荆州八俊”之一，贵为荆州牧，如何能把一个劫江之贼放在眼里，所以对甘宁极为轻视。甘宁发现刘表平日里根本就不理会军事，天下大乱、群雄纷争之时，首领整日无所事事，当然终究会一事无成。此时，甘宁听说孙权在江东招贤纳士，于是决心前往投靠。他领着本部一路来到夏口，江夏太守黄祖守在这里，甘宁不能强过渡口，只好依附在黄祖那里。
此后的几年间，黄祖与孙权多次发生激战，甘宁虽然立功不小，却仍然始终不得重用。他有心想要离开黄祖，却又感觉自己心中不太舍得这许多年的功劳，因此总是忧愁苦闷，无计可施。黄祖军中的都督苏飞与甘宁一向交好，曾经数次向黄祖推荐甘宁，黄祖却道：“甘宁乃是一个劫江之贼，怎么可以赋予重权呢？”苏飞默然不语。
这天，苏飞在军中巡视，看到甘宁站在哨塔上遥望东面，心中知道他的心意，于是邀请甘宁来到自己帐中饮酒。二人酒酣之际，苏飞道：“我曾经数次推荐贤弟，可惜主上一直不肯重用您。岁月流逝，人生苦短？贤弟还是应当早做长远打算，不如寻得一位真正懂你的人，干出一番大事业！”
甘宁低头思索了一下，暗想他二人平日的关系，料定苏飞此话不是诈言，于是叹道：“其实我也想离开这里，可惜一直没有合适的机会。”
苏飞道：“不如愚兄向黄祖将军推荐贤弟去做邾县长，那里距离江东比较近，到时候是去是留，由您自己决定吧！”
甘宁起身作揖道：“若是如此，小弟感激不尽。”于是过了几日，苏飞提出让甘宁去任邾县长，黄祖应从。甘宁到了那里之后，连忙招回原来离去的手下，又募集了一些当地愿意相从的壮丁，带着他们连夜来到龙湫水口，想要投奔孙权。
众人听完吕蒙的一番叙述，张昭道：“为何甘宁不与子明一同前来。”
吕蒙道：“甘宁恐怕江东