于成龙少有大志，自幼过着耕读生活，受到较正规的儒家教育。顺治十八年，已44岁的于成龙，不顾亲朋的阻拦，抛妻别子，怀着“此行绝不以温饱为志，誓勿昧天理良心”的抱负，接受清廷委任，到遥远的边荒之地广西罗城为县令。罗城新隶于清统治下不到两年，由于局势未稳，两任知县一死一逃。于成龙到罗城时，这里遍地荒草，城内只有居民六家，茅屋数间，县衙也只是三间破茅房。他只得寄居于关帝庙中。在困境中，同来的五名仆从不久或死或逃，而他以坚强的意志，扶病理事，迈开仕宦生涯的第一步。
二是两次平定“东山之乱”。于成龙举“卓异”后，被调主持武昌府政务，并将擢武昌知府。恰在这时，“三藩之乱”爆发了。在吴三桂凌厉的攻势下，贵州、湖南望风披靡。同时吴三桂派许多湖北籍部将，特封官“札书”回籍策反，制造暴乱。康熙十三年(1674年)五月，麻城县发现“伪札”，知县即以“通贼”罪名大肆滥捕，搞得人人自危。
接受了“副将伪礼”的该县曹家河人刘君孚父子乘机联络东山一带山寨发动暴乱。由于于成龙在当地很有影响，被请出来收拾局面。他以“招抚”为方针，查清事件原委后，发出安民告示，使绝大多数协从百姓归家，事态很快趋于缓和。随后，他又冒生命危险只身进入首先发难的刘君孚山寨中说服刘及300枪手(猎户)。10天之内，一场动乱顺利平息。八月，于成龙调任黄州知府，第二次暴乱又接踵而至。其时，潜入的奸细乘黄州府空虚，联络当地豪绅纷纷起事，“高山大潮，烽火相望”，声势与范围大大超过前次。
面对险恶的形势，于成龙清醒地认识到黄州府的重要性，他力排众议，制订了决不放弃黄州、组织乡勇相机主动进剿的策略。调集各乡乡勇数千人在东山黄土坳一带，与数量上占优势的暴乱分子展开激战。在他的指挥下，尤其是他身先士卒，危急关头置生死于度外，使战斗获得全胜。当场擒获暴乱首领何士荣。后又乘胜平定了其余叛乱。二十余天内又取得平乱的胜利，受到湖广总督蔡毓荣的高度褒奖。
于成龙“歧亭息盗”
清朝康熙初年，因黄冈东山一带的老百姓饱受战难之苦，民不聊生，康熙九年于成龙就任黄州府同知，镇守歧亭。歧亭位于大别山南麓，新洲、麻城、红安三县交界处，三不管地带，素有“十八蛮县”之称，白天歹徒打劫，晚上盗贼横行，可官府却置之不理，并不立案。为什么?因为这里的盗贼久盗成性，十分狡猾，难以捕获，又以报复为能事，办盗案十分棘手。若立了盗案，上司就会限期破获，如若到期不能告破，轻则遭斥责，重则丢官治罪。
这样一来，盗贼更是肆无忌惮，往往明火执仗，光天化日之下也敢抢劫杀人。百姓怨声载道，苦不堪言。歧亭为当时黄州的“二府衙门”，于成龙管辖黄州府北部黄安、麻城、罗田、新洲等几个县的剿匪除盗和社会安定。
于成龙是后来被康熙帝褒奖为“天下廉官第一”的大清官，素有“于青天”的美誉。上任伊始，于成龙便一改前弊，一方面他总是亲自访察，为了摸清盗情和每一件重大盗案，他多以“微行”的方式，扮作田夫，旅客或乞丐，到村落、田野调查疑情，从而对当地盗情了如指掌。他还特意在衣内置一布袋，专放盗贼名单，“自剧贼，偷儿踪迹无不毕具，探袋中勾捕无不得” 。
另一方面他命令将接连不断发生的盗案一一上报，并责成各县加紧侦破，违者治罪。消息传出，各县哗然，大小盗贼看了官府的捕盗告示，更是惶惶不可终日，歧亭盗贼一连数日不敢行动。于成龙“歧亭息盗”的故事至今还流传在鄂东一带。对待案犯他主张慎刑，以教为主，采取“宽严并治”和“以盗治盗”的方法，取得突出效果。于成龙推广和完善保甲法，对稳定社会治安，起了根本的作用。
于成龙铁面无私，头脑敏锐而细心，能谋善断，被新洲百姓呼为“于青天”，至今新洲当地民间还流传着“鬼有冤枉也来伸”的歌谣 。由于在黄州府同知任上的突出政绩，于成龙又深为湖广巡抚张朝珍器重，再次被举“卓异”，被调主持武昌府政务，并将擢武昌知府。
于成龙“山寨剿匪”
康熙年间，“三藩之乱”爆发了，吴三桂许多湖北籍部将纷纷响应举事造反，清军与吴三挂的叛军在湘、鄂间长期激战，黄州是平叛清军的集中地之一。湖北发生过轰轰烈烈的农民起义，这农民起义的领袖就是湖北黄石铁山人黄金龙。康熙十三年四月，黄金龙聚众400余人，联络民众，策动反清，在大冶换绦桥(三国时关羽路过此桥换绦之地)正式起义了!义军矛头直指大冶、武昌诸州县，为恶多端的乡绅闻风逃窜。清廷震恐，会集黄州等多路军队联合进攻，屠杀义军数十人，义军失败。大冶义军虽然失败，余下的铁工、农民等，跟随带着宝剑兵书的黄金龙转战到了麻城。
黄金龙一到麻城，便利用大别山区民众强烈的反清意识和原蕲黄四十八寨抗清留下的坚实基础，号召民众呼应。黄金龙与麻城刘君孚(曾在于成龙的手下当过差，在缉捕盗贼方面还有点本事)、刘青藜联合河南谭以从、周铁爪，江西杨寡妇及黄冈、黄安、大冶、英山、六安、商城、固始义士，自立将军、元帅，拥众数万，约于七月举起义旗。后提前到五月在麻城东山曹家河啸起。
