Tyskland gjorde fem förändringar från vinstmatchen mot Sverige. Antonio Rüdiger, Sebastian Rudy, Thomas Müller, Julian Draxler satt alla bänken - och Jerome Boateng var avstängd efter det röda kort han tog mot Sverige.
In kom Niklas Süle, Sami Khedira, Mesut Özil, Leon Goretzka och Mats Hummels.
Tyskland inledde matchen med stort bollinnehav, men hade svårt att bryta igenom ett disciplinerat, lågt stående Sydkorea.
Men det skulle vara Sydkorea som fick matchens första stora chans.
I den 19:e minuten drog Jung iväg en frispark från långt håll som Neuer såg ut att ha bra koll på. Men tysken tappade bollen, och för en stund såg det ut som att en sydkorean skulle hinna först på returen - men Neuer boxade iväg den i sista sekund. Ett par minuter senare var Tottenham-stjärnan Son nära att bryta dödläget med ett skott inifrån straffområdet.
I den 42:a minuten sköt Emil Forsbergs klubbkamrat Timo Werner i ramverket för Tyskland, men domaren valde att blåsa för en sydkoreansk frispark för en incident tidigare i speluppbyggnaden.
Resultatet 0-0 stod sig halvleken ut; där och då var Mexiko och Tyskland klara för åttondelsfinal.
Tyskland ökade tempot efter halvtidsvilan; först blev målvakten Jo stor sydkoreansk hjälte med sin reflexräddning på Goretzka nickavslut, och minuten senare var Werner nära att sätta 1-0.
Sveriges ledningsmål mot Mexiko innebar att Tyskland skickades ner på tredje plats i gruppen och därmed var ute ur VM. Det märktes på det tyska spelet på plan och Joachim Löws tankesätt utanför plan. Khedira och Goretzka ersattes av den offensiva duon Gomez och Müller.
Men Tyskland såg lika bleka ut som i premiärmatchen mot Mexiko, och kom inte närmare än Goretzkas nickavslut från första halvlek.
I stället var det Sydkorea som skulle få sista ordet. På tilläggstid gjorde Kim 1-0 för Sydkorea. Son uttökade till 2-0 i matchens sista skälvande sekunder.
Ett superfiasko för de regerande världsmästarna.
Senast Tyskland åkte ur ett VM i gruppspelet var 1938. Det är tredje raka VM-slutspelet där de regerande världsmästarna får lämna redan i gruppspelet - Italien 2010 och Spanien 2014.
Tysklands förbundskapten Joachim Löw säger efter matchen att "ansvaret ligger på" honom.
- Det är för tidigt för att svara på det, säger han som svar på frågan om att stanna kvar i sin roll.
- Alla är väldigt besvikna. Löw har precis skrivit på ett nytt kontrakt och jag antar att han kommer att vara kvar på vår resa mot nya framgångar, säger landslagets manager Oliver Bierhoff.
Mats Hummels tillägger:
- Jag finner inte ord för att beskriva det här.
- Jag har aldrig haft en lika perfekt match som denna tidigare, men självklart fick jag en hel del hjälp av mina lagkamrater. Vi gjorde det här för Sydkorea, för vårt folk, säger Sydkoreas målvakt Jo.
Resultatet innebar att Mexiko och Sverige går vidare från gruppen. Mexiko ställs mot gruppettan i grupp E, en plats som för närvarande innehas av Brasilien, och Sverige mot grupptvåan som ser ut att bli Schweiz.
Serbien-Brasilien och Schweiz-Costa Rica visas på TV4 och Sportkanalen och streamas på CMore. Avspark: 20.00.
Startelvor:
Tyskland: Neuer - Kimmich, Süle, Hummels, Hector - Kroos, Khedira - Goretzka, Özil, Reus - Werner.
Sydkorea: Jo - Lee, Yun, Kim, Hong - Lee, Jung, Jang, Moon - Koo, Son.