海瑞在淳安政绩很好，为时人所称赞。但他因为得罪了胡宗宪、鄢懋卿，原已调升嘉兴通判的海瑞，还未上任，就被鄢懋卿的同党袁淳捏造罪名弹劾而削去职务。后来经原任福建提学副吏的朱衡(此时已在京任吏部尚书)力荐，才重新委派海瑞任兴国知县。在兴国一年半时间，编制了治理兴国的《兴国八议》，又清丈田亩、裁减冗官，减轻了人民群众的负担，政绩卓著。

明穆宗隆庆三年(1569年)五月，海瑞升任应天巡抚。应天巡抚辖苏州、常州、松江、镇江、徽州、太平、宁国、安庆、池州、广德等十府，为明王朝财赋之区，号称全国最富庶的地方。

海瑞到任之前就发布一个通告，声称他上任以后决心“革黜贪官污吏，搏击豪强，矫革浮淫，鳖正宿弊。”备棺上书的海瑞，朝廷内外无人不知，百姓称这位不怕死的“海主事”为“海青天”。他的严令一颁布，有如烈日秋霜，风物顿易。十府百姓拍手称快，劣绅贪官则惶惶不可终日。有个显赫的权贵，把自己的门第漆成红色的，以示招摇，听说海瑞要来了，一夜之间就改漆成黑色的；一个太监任监江南织造，历来骄横侈纵，地方上无人敢管。听说海瑞要来了，遂将八抬大轿，改成四人肩舆，车马随从也减少了许多。有的甚至弃官解绶，远逃外省避风。海瑞在应天十府的官场中造成一种威慑的力量。海瑞到任后，吴淞江一带正闹水灾，万顷良田泡在水里，收成无望。应天十府，所谓王朝财赋之区、全国富庶之地，已是名存实亡。由于贪官污吏的盘剥，加上连年受灾，百姓粮、役负担特重，家家穷得苦不堪言。

面对着绝收的庄稼，海瑞深知上任后的当务之急：一是治水，二是救灾。

海瑞亲自赴灾区实地勘查。吴淞江是引太湖水经黄埔江人海的。但由于多年来水利官员旷职不修，吴淞江河床泥沙大量淤积，太湖的水流不出来，奔涌回溢，便造成了巨害。而地处常熟县境内的白茆河，也因多年没有疏浚，河床增高，以至水患不能流泄通过。他认为疏浚吴淞江、白茆河是“国计所需，民生所赖，修之举之，不可一日之缓也。”

海瑞同时看到，当地饥民甚多，处于饥饿无食状态。如果不修治江河，也不能看着百姓活活饿死，开仓赈济势所必然。于是他在奏疏中提出“兴工之中，兼行赈济”的以工代赈之策。

海瑞的以工代赈收到预期的效果，一方面是所有费用“不取之民，不损之官”，只用本来就应用作救济的仓库积储就能解决；另一方面，也稳定了饥民的情绪，海瑞说因为实行“兴工之中，兼行赈济，千万饥民，稍安戢矣。”更重要的是由于吴淞江、白茆河的治理，在一个时期内消除了三吴地区的水患。就连当时反对海瑞的大地主淞江人何良俊也不得不承认：“前年海刚峰任应天巡抚，遂一力开浚吴淞江。隆庆四年(1570年)、五年(1571年)这个地区皆有大水，百姓没有遭受水害，即开吴淞江之力也。如果没有海瑞倡开吴淞江，怎能取得这样大的成功呢？”就连海瑞的政敌，也不得不私下惊叹曰：“万世功被他成了。”

海瑞到任后，仍然按照旧制，每逢初二、十六这两天放告。但每次放告，都有三四千人次之多。针对这种情况，海瑞提出严禁诬告，告状必须有事实为据。同时也为告状人提供方便，他宣布除初二、十六以外，凡属人命、强盗、贪官案件随时都可来告。海瑞还规定凡是乡官、举人、监生到衙门拜见官员或派人投信投诉的，一律实行登记制度，以防止他们影响执法、干扰办案。海瑞从大量的案件中发现，告状内容大多是告乡官夺产。他上任当年的十二月份，仅华亭县告乡官侵占田产者就有几千人。多年来地方官员对于百姓告状，一直不敢受理，有的甚至偏袒保护。于是海瑞决定从逼乡官退田入手。