夏言也上书替自己辩护，猛力抨击霍韬，霍韬一贯注意保持以前的印象，以便自我施展，但看到世宗生了气，就不敢辩解了，却送给夏言一封信，把他痛痛地抨击了一番，又把那封信抄录一份送交法司。夏言恼了，上书对世宗讲了这件事，并且揭发了霍韬目无君主的七条罪行，连带霍韬的来信一起交了上去。世宗大为恼火，批评霍韬诽谤、嘲笑君上，心术不正，丑化好人，就把他关进了都察院的监狱。霍韬自己从狱中上书哀求宽恕，张璁也两次上书救他，世宗都不听。南京御史邓文宪上书说应该看到霍韬的善良愿望，包涵他的戆直，并且说把天和地分开来祭祀等于是把父母安置在不同的地方，让后妃到郊外亲自养蚕就是废除了男女、内外之间应有的防范。世宗恼了，把他贬官到远方。霍韬在监狱中关了一个多月，最后世宗想到了他当初议定“大礼”的功劳，就让他捐输资财来赎罪还职。

霍韬复出，先后做过吏部左、右侍郎，当时吏部的事情大多都由尚书做主，两个侍郎一般无法干预。霍韬向尚书汪鋐争取，侍郎才获得了参议部事的机会。霍韬一向刚愎自用，多次与汪鋐争斗，汪鋐等人也很惧怕他。不多久汪鋐罢官，世宗长期不另外任命尚书，就让霍韬主持吏部的事务。内阁大臣李时有一次传达世宗的意思，要任用鸿胪卿王道中为顺天府丞。霍韬说：“内阁大臣得到过皇上指示，这本没什么可疑的，但是我们还是应当再行奏请，以便杜绝弄虚作假。”于是按照惯例，开列道中和应天府丞郭登庸两个人的名字，让世宗审定。世宗喜欢他办事照规矩来，就任用了登庸，把道中改任大理少卿。过了很久，世宗让霍韬出任南京礼部尚书去了。

霍韬此前已经和夏言结了怨，等夏言掌权以后，霍韬常常想找些事来陷害他。一次他上书说：“不久前吏部打算推举刘文光等人做给事中，没几天忽然又宣布作废了，大家都说是内阁大臣压了他们。给事中李鹤鸣在考核时被贬了官，没有几天又官复原职，大家都说是经过行贿得来的。陛下应该告诫吏部官员，叫他们不要受执政暗中指使，好让天下人看到恩惠和刑罚都在朝廷掌握中，大臣中间即使有李林甫、秦桧那样的人，也不能够在皇上身边随意捣鬼。”他的话是针对夏言而说的。于是鹤鸣上书自我表白，并列举了霍韬居住在家乡时干下的许多违法事件。世宗把两边都搁下不问。没过多久，霍韬弹劾南京御史龚湜、郭本。龚湜等为自己辩解的同时也上书弹劾霍韬，世宗又一次搁下，对双方都不追究。

朝廷选拔东宫官员时，任命霍韬以太子少保、礼部尚书的官衔掌管詹事府的事务。霍韬上书辞谢给自己的晋升，并且批评说有些大臣接受俸禄不肯谦让，晋升官职也不推辞，其中难免有拉帮结派祸国殃民的奸人，暗中巩固自己的权威。百姓的怨气引来天灾，在人事方面实际上是有原由的，他的意思还是针对夏言而发的。他自己屡次攻击夏言不能取胜，最后见郭勋与夏言有矛盾，就暗中勾结郭勋，和他一道谄害夏言。

当时，朝廷内外风言四起说明世宗又要南巡，霍韬借此上书明显地赞颂郭勋，说：“上次陛下南巡时，跟随的大臣大多都收受贿赂、不守法度。文官只有袁宗儒，武官只有郭勋没有接受馈赠。现在谣言又兴起来，应该采取一定办法加以制止。”世宗在颁布诏书稳定人心以后，才责问霍韬说：“我前次南巡你又没跟着，别人受贿的事你从哪儿听说的？如实给我奏上来。”霍韬回答时请世宗向郭勋询问此事，世宗批评他支吾其辞，务必要他切实指出来。

霍韬走投无路了，只好说：“随从大臣们无不接收馈赠，这事只要问夏言就可以了。至于各人收取贿赂的实际情况，郭勋都整个知道，应该不是骗人。如果一定要我说，请让我担任都察院的职务，顺藤摸瓜进行追查，我一定详细地列出来奏上。”他的奏章被下发给有关部门。霍韬怕自己的奏议不合世宗的意思，很快就赶到了北京，上书述说进贡鲜货的船上宦官贪婪、横暴的事情，世宗也不加查问。霍韬死在任上，终年五十四岁，朝廷追赠他为太子太保，谥文敏。