Jeden z najlepszych i najbardziej znanych serbskich piłkarzy jacy biegali po włoskich boiskach. Swoją karierę zaczynał w Vojvodinie, następnie grał w Crvenie, Romie, Sampdorii i Lazio. Z Rzymskiego klubu trafił o Interu w 2004 roku za sprawą trenera Roberto Manciniego z którym grali i pracowali w Lazio, kiedy Mancini objął stanowisko trenera.
Uznawany był za jednego z najlepszych wykonawców rzutów wolnych w historii. W ciągu 14 sezonów strzelił w Serie A 27 bramek z rzutów wolnych, co jest rekordem ligi.
Po dwóch sezonach gry dla Interu, w Mediolanie zakończył swoją piłkarską karierę i został asystentem trenera Manciniego. Kiedy Mancini odszedł z Interu, Mihajlović postanowił spróbować swoich sił jako samodzielny trener. Pracował m.in. w Bolognie, Catanii, Fiorentinie i reprezentacjii Serbii.