之后又跟随李良钦学习剑术，俞大猷家里虽然屡告贫乏但他却意气自如。
父亲病逝后俞大猷放弃学业继承了百户的世袭职务，嘉靖十四年俞大猷中武举人，被任命为千户，守御金门。
这里的军民常无事取闹，告到公庭难于治理。俞大猷采取教化的方法诱导他们以礼让为先，于是诉讼也就停息。
俞大猷于是上书给提刑按察使，司按察使恼怒地说:“小军校怎配上书言事。”
将俞大猷一顿乱杖并剥夺了他千户的武职，兵部尚书毛伯温出征安南，俞大猷又上书陈述作战方略请求从军出战。
毛伯温对俞大猷的军事见解颇感惊奇，可惜正值撤兵未能立即起用。
嘉靖二十一年蒙古军大举攻略山西，皇帝下诏选举天下勇士，俞大猷于是到巡按御史那里推荐自己。
御史将俞大猷上报到毛伯温那里，毛伯温将俞大猷送到宣大总督翟鹏那里，每每被俞大猷折服。
翟鹏内疚地说:“我不该以对待武卒的态度接待你。”并离开自己的座位上前施礼致意，此举使全军震惊。
然而翟鹏终究也未重用俞大猷，俞大猷告辞而归。
而后毛伯温用俞大猷为汀州，漳州守备。俞大猷驻扎武平，建＜读易轩＞与当地读书人一起举办文会，诗词唱和，每天还教授武士击剑。
俞大猷曾多次击破海贼康老，俘斩三百余人。俞大猷官升署都指挥佥事，隶属广东都司。
嘉靖二十六年，谭元清在新兴，恩平一带屡次叛乱。总督欧阳必进将此事交给俞大猷处理，俞大猷于是让百姓各自守卫自己的地方，自己带几个随从亲自去拜访各个首领。
跟他们晓明厉害并教他们击剑，有一个叫苏青蛇的人能与猛虎格斗，俞大猷将他斩杀，让首领何老猫归还抢夺的民田又招降许多首领。
最终俞大猷不费一兵一卒平定新兴，恩平的叛乱。
嘉靖二十八年右副都御史朱纨巡视福建推荐俞大猷为备倭都指挥。