A szakember két ciklusban, 1991 és 1998, valamint 2007 és 2011 között irányította a Rangerst, mellyel tíz alkalommal nyerte meg a bajnokságot, ötször a kupát és hatszor a ligakupát is sikerült elhódítania.
Smith 2008-ban UEFA Kupa-döntőbe vezette a Rangerst, ahol csapata 2–0-s vereséget szenvedett az orosz Zenittel szemben. 1998 és 2002 között az angol Premier League-ben szereplő Evertont is irányította.
2004 decemberében a német Berti Vogtsot váltotta a skót válogatott szövetségi kapitányi posztján, hazájában pedig kétszer is az év edzőjének választották.
