Od wczesnych lat życia, Mudingayi mieszkał w Belgii. Pierwszym zawodowym klubem urodzonego w Kongo gracza było trzecioligowe Union - Saint Gilloise. Zanim dołączył do występującego w Jupiler League - Gent, spędził w Brukseli dwa udane lata. Był to jednak przedsmak przyszłych sukcesów czarnoskórego piłkarza, który w trakcie trwania czteroletniej przygody w De Buffalos w 2003 roku otrzymał propozycję gry dla reprezentacji Belgii, którą przyjął bez chwili zawahania. Tego samego roku zadebiutował w kadrze narodowej.
W styczniu 2004 roku dołączył do włoskiego Torino, grającego wówczas na arenie Serie B. Po roku walnie przyczynił się do uzyskania przez Turyńczyków awansu do Serie A, jednak z powodu bankructwa klubu w 2005 roku, podążył tropem reszty kolegów, zamieniając stolicę Piemontu na stolicę Italii. Nowym pracodawcą 24-letniego wówczas pomocnika zostało Lazio, a transfer zamknął się w kwocie 300 tysięcy euro.
Pierwszego, a zarazem jedynego gola dla Rzymian udało mu się strzelić w wygranym 4:1 meczu przeciwko Ascoli. Jego przygoda ze Stadio Olimpico trwała aż do 2008 roku. Wtedy właśnie został sprzedany do Bolonii, gdzie zanotował udział w ponad 100 grach z udziałem Rossoblu w Serie A.
W drugiej połowie lipca 2012 roku Inter Mediolan za pośrednictwem oficjalnej strony ogłosił, że Gaby Mudingayi wzmocnił drużynę na zasadzie rocznego wypożyczenia z opcją pierwokupu.
Sezon 2013-2014 nie należał do udanych w wykonaniu Belga, który większą część czasu spędzał poza kadrą meczową lub w gabinetach lekarskich. W sumie rozegrał w owym sezonie zaledwie 3 mecze.