Nació en Govan, Glasgow, Escocia, el 31 de diciembre de 1941.
Fue jugador y luego, director técnico, función en la que fue reconocido como uno de los mejores entrenadores de la historia, ello por los años que estuvo al frente del Aberdeen y después del Manchester United.
Como futbolista jugó desde 1957, debutando en el Queen's Park. Luego pasó por el St. Johnstone, Dunfermline Athletic, Rangers, Falkirk y Ayr United, donde se retiró como futbolista en 1974.
En ese mismo año comenzó su carrera como técnico en el East Stirlingshire, donde estuvo un año, hasta que paso al Saint Mirren, club que en ese tiempo se encontraba en la tercera categoría del futbol escocés. En el transcurso de esos tres años lo hizo ascender a la máxima categoría en 1976, dirigiéndolo hasta 1978.
En ese año firmó con el Aberdeen, en el que estuvo hasta 1986 , y con el que ganó tres ligas (1979-80, 1983-84 y 1984-85), la Drybrough Cup de 1980, cuatro copas de Escocia (1982,1983, 1984 y 1986), una Copa de la Liga de Escocia(1986), Recopa de Europa y una Supercopa de Europa (estas últimas dos en 1983).
Durante el último año en que dirigió al Aberdeen también entrenó al mismo tiempo a la selección escocesa por 10 partidos, en reemplazo de Jock Stein. El equipo clasificó para el mundial de 1986, campeonato durante el cual también lo dirigió en la máxima cita disputada en México.
En noviembre de 1986 llegó al Manchester United al cual dirigió durante 27 años ganando 13 títulos de Premier League (1992-93,1993-94, 1995-96, 1996-97, 1998-99, 1999-00, 2000-01, 2002-03, 2006-07, 2007-08, 2008-09 y 2010-11), dos ligas de campeones(1999 y 2008), un Mundial de clubes(2008), una Copa Intercontinental(1999), una Supercopa de Europa(1991), una Recopa de Europa (1991), diez Community Shield (1990-91, 1993-94, 1994-95, 1996-97, 1997-98, 2003-04, 2007-08, 2008-09 , 2010-11 y 2011-12),cinco FA Cup (1989-90, 1993-94, 1995-96, 1998-99 y 2003-04) y cuatro Copas de la Liga(1991-92, 2005-06, 2008-09 y 2009-10).
Dirigió al United hasta 2013, año en el que dejó la dirección técnica.
Hasta el momento actual es el entrenador más ganador de la historia, con 50 títulos en su carrera como director técnico.