Matchen föregicks av en minuts tystnad för att hedra offren från Hillsboroughkatastrofen - men knappt sex minuter efter avspark exploderade Anfield.
Luis Suarez klev in stenhårt i en närkamp med Clichy som såg ut att springa in i en vägg. Suarez spelade vidare till Sterling som iskallt vände bort både kompany och Hart i straffområdet innan han säkert kunde sätta 1-0.
Efter knappt 20 minuter åkte City på ett bakslag när Toure tvingades kliva av med något som såg ut att vara en ljumskskada - och fem minuter senare lades ytterligare sten på börda för City.
Försvaret tappade bort Skrtel som gick upp på Gerrards hörna och kunde nickskarva in 2-0 utom räckhåll för Hart.
I andra halvlek var Liverpool inte lika effektivt inledningsvis och pendeln svängde så sakta över till Manchester City som jobbade sig in i matchen, och drygt tio minuter in i andra halvlek fick gästerna utdelning. Milner tog sig ner till kortlinjen och spelade snett inåt bakåt där Silva dök upp mellan Liverpoolförsvararna och kunde stöta in reduceringen.
Och bara fem minuter senare slog City till igen när Silva via Glen Johnson satte bollen i mål. Strax därefter tvingades Daniel Sturridge byta på grund av skada.
Men i den 77:e minuten tog matchen en ny vändning igen. Coutinho sköt då tillbaka Liverpool i ledning på Anfield.
I slutet av matchen fick Jordan Henderson lämna planen med ett rött kort efter en tuff tackling.
Dock kunde Liverpool hålla ut och vinna med 3-2 och ta tre ytterst viktiga poäng i toppstriden.
Steven Gerrard kunde inte hålla tillbaka tårarna efter slutsignalen på Anfield Road. Det säger något om hur viktig den här segern var för Liverpool.
Liverpool: Mignolet, Johnson, Sakho, Skrtel, Flanagan, Gerrard, Henderson, Coutinho, Sterling, Suarez, Sturridge.
Avb: Jones, Toure, Agger, Aspas, Moses, Allen, Lucas.
Manchester City: Hart, Zabaleta, Kompany, Demichelis, Clichy, Toure, Fernandinho, Navas, Nasri, Silva, Dzeko.
Avb: Pantilimon, Lescott, Milner, Negredo, Kolarov, Garcia, Agüero.