加上，海瑞很细心，重视刑狱，审案着重调查研究，注意科学证据和人情事理，几年中平反了几件冤狱。上官因为他精明，连邻县的疑难案件也调他会审了。这些案件的判决书后来都收在文集里，小说家剧作家选取了一些，加以渲染，几百年来的舞台上为人民所欣赏。《大红袍》《小红袍》《生死牌》《五彩舆》和一些公案弹词在民间流传很广，叫作公案小说。也正因为公案小说的流传，海瑞在政治上的作为反而被公案所掩盖了。

因为得罪了胡宗宪、鄢懋卿，虽然治理淳安的政绩很好，还是被排挤调职。1562年海瑞升嘉兴通判，鄢懋卿指使党羽弹劾，降职为江西兴国知县。

在兴国一年半，办了不少好事，清丈了田亩，减少了冗官，减轻了人民的负担。其中最快人心的事是反对乡官张鏊。

张鏊做过兵部尚书，在南昌养老享福。张鏊的侄子张豹、张魁到兴国买木材，作威作福，无恶不作。老百姓气愤得很。海瑞派人传讯，他们倚仗叔父威势，不肯来。一天忽然又跑到县衙门大闹。海瑞大怒，拿下张豹，送到府里，反而判处无罪。张鏊出面写信求情，海瑞不理。张鏊又四处求情设法，居然这两个坏蛋摇摇摆摆回家去了。海瑞气极，写信向上司力争，终于把这两个坏蛋判了罪。

1564年海瑞做了京官，户部云南司的主事（户部按布政使司分司，云南司是管这一政区的税收的）。

两年以后，他弄清了朝廷的情况，写信给嘉靖帝，提出严厉批评，指斥皇帝迷信道教，妄想长生，二十多年不上朝，自以为是，拒绝批评，弄得君道不正，臣职不明，吏贪将弱，暴动四起。你自号尧^[yáo]斋，其实连汉文帝也赶不上。嘉靖帝看了，气得发昏，丢在地下，想了又想，又捡起来看，觉得说中了毛病。叹口气说：“这人倒比得上比干，只是我还不是纣王啊！”

海瑞早就准备好后事，连棺材都托人买了。嘉靖帝一听说这样，倒愣住了。不过后来还是把他关在牢里。嘉靖帝死后，海瑞被释出狱。

1569年6月，海瑞以右佥都御史巡抚应天十府。应天十府包括现在江苏安徽两省大部分地方，巡抚驻在苏州。

这一年江南遭到严重水灾，夏秋多雨，田地被淹，粮食涨价，农民缺粮逃亡，情况很不好。

江南是鱼米之乡，号称全国最富庶的地方。但实际上百姓生活很困苦，因为历史的关系，粮、差的负担特别重，加上土地集中的现象这20年来特别显著，大地主占有的土地越多，人民的生活便越困苦。特别是松江，乡官田宅之多，奴仆之众，两京12省找不出第二个。一上任，告乡官夺产的老百姓就有几万人。“20年来，府县官偏听乡官、举人、监生，民产渐消，乡官渐富。”真是苦难重重，数说不完。