Matip speelde in de jeugd van SC Weitmar 45 tot hij in 1994 werd opgenomen in de jeugdopleiding van VfL Bochum. Die verruilde hij drie jaar later voor die van Schalke 04. Matip maakte op op 7 november 2009 zijn debuut in het betaald voetbal toen hij met het eerste elftal van Schalke 04 een wedstrijd in de Bundesliga speelde tegen Bayern München. Die wedstrijd eindigde in 1-1, na een doelpunt van Daniel Van Buyten na 34 minuten en een doelpunt van Matip in de 43e minuut. In zijn debuutseizoen kwam hij tot twintig competitieoptredens. Tijdens de seizoenen 2011/12, 2012/13 en 2013/14 speelde hij telkens meer dan 30 competitieduels mee, waarin hij steevast mocht rekenen op een basisplaats.
Matip tekende in februari 2016 na 6,5 jaar bij Schalke een contract bij Liverpool. Dat ging in op 1 juli 2016, zodat de Engelse club hem transfervrij in kon lijven.[1] In oktober 2019 verlengde de verdediger zijn contract bij The Reds tot medio 2024.[2]
Matip werd op 23 december 2009 voor het eerst opgeroepen voor het nationaal elftal van Kameroen. Eerst weigerde hij de uitnodiging, maar nadien bedacht hij zich. Zijn eerste wedstrijd voor Kameroen was een oefeninterland tegen Italië. Enkele maanden later maakte hij deel uit van de selectie op het WK in Zuid-Afrika in 2010. Vier jaar later nam hij met Kameroen ook deel aan het WK in Brazilië.
Matip is de zoon van een Duitse moeder en een Kameroens voormalig voetballer, Jean Matip. Hij is de broer van Marvin Matip, die eveneens voetbalt. Hij is de neef van 52-voudig Kameroens international Joseph-Désiré Job.