Arsenal hade på de tre inledande matcherna i den engelska högstaligan bara tagit fyra poäng, efter bland annat ett kryss i förra omgången mot Liverpool.
Därför var det många Arsenal-supportrar som både krävde och räknade med en vinst i bortamatchen mot Newcastle, som stod på två poäng inför lördagens kamp.
Det var också Arsenal som inledde bäst, och drygt tio minuter in i matchen skrek bortaspelarna på straff. I straffområdet gjordes Hector Bellerin ned av Florian Thauvin i vad som såg ut att vara en klar straff, men domaren valde att fria.
Kort därefter gick det dock inte lika lyckosamt för Newcastle. Efter att Aleksandar Mitrovic stämplat Francis Coquelin visades Mitrovic, som gjorde sin första hemmamatch från start för Newcastle, det röda kortet direkt.
Men trots en man mer på planen lyckades Arsenal inte spräcka målnollan i den första halvleken som slutade mållös.
Knappt tio minuter in i andra halvlek kom det så efterlängtade ledningsmålet för Arsenal. Alex Oxlade-Chamberlain sköt då från en högerposition i straffområdet ett skott som styrdes lätt på Newcastles Fabricio Coloccini och in i mål till 1-0.
Målet blev matchens enda och Arsenal tog därmed sin andra seger i årets Premier League. De står nu på sju poäng efter fyra matcher.
- Vi skapade många chanser, och kunde gjort fler mål. Defensivt var vi bra. Jag är nöjd med segern, sade Arsenals Theo Walcott i Viasats sändning.