Trafił do Interu w trakcie sezonu 2003-2004. Wcześniej zespół prowadził Hector Raul Cuper. Zaccheroni został zatrudniony w celu uratowaniu sezonu, który nie zapowiadał się dobrze. Jego przygoda z naszym klubem nie była oszałamiająca, jednak udało mu się zakwalifikować z Interem do Ligi Mistrzów, zajmując 4. miejsce w Serie A. Wydawało się, że to sprawi iż dostanie szansę pracy w kolejnym sezonie, jednak Massimo Moratti nie zaufał Zaccheroniemu i postawił na młodszego, Roberto Manciniego i jak się później okazało była to dobra decyzja.
Zaccheroni obok ładnych zwycięstw jak przeciwko Juventusowi w Turynie (Juventus 1-3 Inter), miewał i wpadki jak mecz z Arsenalem na własnym boisku przegrany 1-5.