世宗驾崩，提牢主事听说了这个情况，认为海瑞不仅会释放而且会被任用，就办了酒菜来款待海瑞，海瑞自己怀疑应当是被押赴西市斩首，恣情吃喝，不管别的。主事因此附在他耳边悄悄说：“皇帝已经死了，先生现在即将出狱受重用了。”海瑞说：“确实吗？”随即悲痛大哭，把刚才吃的东西全部吐了出来，晕倒在地，一夜哭声不断。裕王朱载垕继位，年号隆庆，奉先帝世宗遗诏，赦免了以海瑞为代表的所有谏言诸臣。海瑞被释放出狱，官复原职，不久改在兵部任职，后来调大理寺任职，提拔为尚宝丞。

徐阶被御史齐康所弹劾，海瑞上言说：“徐阶侍奉先帝，不能挽救于神仙土木工程的失误，惧怕皇威保持禄位，实在也是有这样的事。然而自从徐阶主持国政以来，忧劳国事，气量宽宠能容人，有很多值得称赞的地方，齐康如此心甘情愿地充当飞鹰走狗，捕捉吞噬善类，其罪恶又超过了高拱。”人们赞成他的话，海瑞被调往通政司，历任左通政、右通政之职。

海瑞升调右佥都御史，外放应天巡抚。辖区包括应天、苏州、常州、镇江、松江、徽州、太平、宁国、安庆、池州十府及广德州，多为江南富庶的鱼米之乡。属吏害怕海瑞的威严，贪官污吏很多自动辞职，有显赫的权贵把门漆成红色的，听说海瑞来了，都改漆成黑色的，宦官在江南监督织造，见海瑞来了，就减少车马随从。

海瑞兴利除害，请求整修吴淞江、白茆河，通流入海，百姓得到了兴修水利的好处。海瑞早就憎恨大户兼并土地，全力摧毁豪强势力，推行“一条鞭法”，安抚穷困百姓。贫苦百姓的土地有被富豪兼并的，大多夺回来交还原主，深受百姓的爱戴，叫他“海青天”。

徐阶被罢免之后在家中居住，海瑞追究徐家也不给予优待，推行政令气势猛烈，所属官吏恐惧奉行不敢有误，豪强甚至有的跑到其他地方去躲避的。而有些奸民多乘机揭发告状，世家大姓不时有被诬陷受冤枉的人，又裁减邮传冗费，士大夫路过海瑞的辖区大都得不到很好地张罗供应，因此怨言越来越多。

都给事中舒化说海瑞迂腐滞缓，不通晓施政的要领，应当用南京清闲的职务安置他，明穆宗还是用嘉奖的语言下诏鼓励海瑞。不久，给事中戴凤翔弹劾海瑞庇护奸民，鱼肉士大夫，沽名乱政，于是海瑞被改任南京粮储。海瑞巡抚吴地才半年，平民百姓听说海瑞解职而去，呼号哭泣于道路，家家绘制海瑞像祭祀他。海瑞要到新任上去，正遇高拱掌握吏部，早就仇恨海瑞，把海瑞的职务合并到南京户部当中，海瑞因此遂因病引退，回到琼山老家。

张居正主持国政，也不喜欢海瑞，命令巡按御史考察海瑞。御史到山中审察，海瑞杀鸡做菜招待御史，房屋居舍冷清简陋，御史叹息而去，张居正惧怕海瑞严峻刚直，中外官员多次推荐，最终也不任用。张居正去世之后，吏部拟用海瑞为左通政，神宗朱翊钧向来器重海瑞的名望，召海瑞为南京右佥都御史，赴任途中，改为南京吏部右侍郎。海瑞当时已经七十二岁了，上疏言衰老垂死，愿意效仿古人尸谏的意思，列举明太祖朱元璋刑法，剥人皮装上草制成皮囊，以及定律枉法达八十贯判处绞刑的规定，说应当用这样的方法惩治贪污，其它谋划时政，言语极为切实。只有劝皇帝用暴虐刑法，当时评议认为是错误的，御史梅鹍祚弹劾海瑞，神宗虽然认为海瑞言论有过失，然而清楚海瑞的忠诚，为此免去梅鹍祚的俸禄。

神宗屡次要重用海瑞，主持国事的阁臣暗中阻止，于是任命海瑞为南京右都御史。海瑞上任后，力主严惩贪官污吏，禁止循私受贿，诸司向来苟且怠慢，海瑞身体力行，矫正弊端。有的御史偶尔戏乐，海瑞要按明太祖法规给予杖刑，百官恐惧不安，都怕受其苦。提学御史房寰恐怕被举发纠正要先告状，给事中钟宇淳又从中怂恿，房寰再次上疏诽谤诬蔑海瑞，海瑞也多次上疏请求退休，神宗下诏慰留不允许。

海瑞听闻黄光升去世，悲伤至极，带病前去晋江奔丧，后病故于南京任上。他没有儿子，所以去世后，佥都御史王用汲去主持海瑞的丧事，看见海瑞住处用葛布制成的帏帐和破烂的竹器，有些是连贫寒的文人也不愿使用的，因而禁不住为之悲泣不已，凑钱为海瑞办理丧事。海瑞的死讯传出，南京的百姓因此罢市，海瑞的灵柩用船运回家乡时，穿着白衣戴着白帽的人站满了两岸，祭奠哭拜的人百里不绝，朝廷追赠海瑞太子太保，谥号忠介。