Follow Me is samen geproduceerd met Nero en bevat invloeden van Dubstep, net zoals het nummer The 2nd Law: Unsustainable van hetzelfde album. Ook bevat het nummer elementen van de twee vorige albums van Muse: Black Holes and Revelations en The Resistance.
Aan het begin van het nummer is het hartritme van de zoon van Matthew Bellamy te horen. Dit geluid heeft hij tijdens de geboorte met zijn iPhone opgenomen. Het nummer gaat volgens Bellamy over "het hebben van een baby en wat er allemaal bij komt kijken".
Aanvankelijk werd het nummer uitgebracht als promotiesingle voor het nieuwe album, samen met Panic Station op 24 september 2012. In oktober werd bekend dat het nummer ook als single werd uitgebracht.
Daarnaast werd er een extra muziekdownload beschikbaar gesteld: Een live-versie van Follow Me is gratis te downloaden via een speciale website.[2]
