[[Bestand:Zarqawi safe house rubble, June 8 2006.jpg|thumb|250px|Resten van het huis waarin alAl-Zarqawi werd getroffen door een Amerikaanse aanval]]
[[Bestand:Zarqawi dead us govt photo.jpg|thumb|250px|Abu Musab al-Zarqawi's opgelapte gezicht na het bombardement]]
Aan het leven van alAl-Zarqawi kwam een eind op 7 juni 2006. Om zes uur 's avonds werd het huis, nabij [[Baquba (Irak)|Baquba]], waar Al-Zarqawi verbleef, onder vuur genomen door Amerikaanse F-16's. Hierbij raakte hij zwaargewond. Toen alAl-Zarqawi werd gevonden door Amerikaanse troepen, zou hij zijn overgedragen aan de Irakezen. Vlak na de overdracht zou Al-Zarqawi aan zijn verwondingen zijn overleden. Op 9 juni werd bekend dat ook zijn anderhalf jaar oude zoontje was omgekomen bij het bombardement. Dit was een kind uit een tweede huwelijk van Al-Zarqawi met een [[Palestijnen|Palestijnse]] vrouw. Zij is weer een dochter van [[Yassin Jarrad]], die op [[29 augustus]] [[2003]] de [[Iraaks]]e [[sjiitisch]]e geestelijke [[ayatollah]] [[Baqer Hakim]] heeft doodgeschoten. Waarschijnlijk is ook nog een van de drie echtgenotes van Al-Zarqawi omgekomen.
Volgens een anoniem bericht op een website die veel door Alal-Qaida gebruikt wordt, werd [[Abu Hamza al-Muhajir]] de nieuwe leider van al-Qaida in Irak.
Al-Zarqawi is op [[2 juli]] [[2006]] begraven op een geheime plek in [[Bagdad]], nadat het verzoek van zijn familie om hem in Jordanië te begraven was afgewezen, vanwege zijn betrokkenheid bij een bomaanslag op een hotel in dat land.
