Ibrahimović est tout d'abord refusé en équipe nationale de Bosnie-Herzégovine. Il choisit alors l'équipe nationale suédoise. Il est sélectionné pour la première fois en équipe nationale le 31 janvier 2001 face aux Îles Féroé. Il est remplaçant lors de la Coupe du Monde 2002, malgré quelques apparitions et devient titulaire de l'équipe à la veille de l'Euro 2004, associé en attaque à Henrik Larsson.