Coventry Cityn menestyksekkäimmät vuodet ajoittuivat 1980-luvulle, jolloin seura voitti FA Cupin ja pääsi UEFA Cupin välieriin. Seuran tähtipelaajiin tuohon aikaan kuuluivat muun muassa Steve Ogrizovic, Keith Houchen ja Cyrille Regis.
1990-luvulla Coventry City alkoi ajautua taloudellisiin vaikeuksiin. Seura joutui myymään parhaita pelaajiaan ja putosi mestaruussarjasta vuonna 1995. Coventry City ei ole sittemmin onnistunut nousemaan takaisin valioliigaan.
Vuonna 2007 Coventry City siirtyi pelaamaan udelle Ricoh Arenalle. Seuran taloudelliset ongelmat kuitenkin jatkuivat, ja vuonna 2017 seura asetettiin pesänselvitykseen. Coventry City pelasti konkurssilta uusi omistaja, joka siirsi seuran takaisin vanhalle Highfield Roadin stadionille.
Coventry City on tällä hetkellä Ykkösliigassa, Englannin kolmanneksi korkeimmalla sarjatasolla. Seura on tehnyt viime vuosina hyvää työtä taloutensa kanssa, ja sillä on potentiaalia nousta takaisin mestaruussarjaan lähitulevaisuudessa.