Karl Aage Rasmussen naît à Kolding (Danemark) et étudie l'histoire de la musique, la théorie et la composition au Conservatoire de Musique d'Aarhus, avec Pelle Gudmundsen-Holmgreen et Per Nørgård.

Rasmussen cite souvent trois compositeurs qui l'ont particulièrement marqué, à savoir Ives, Kagel et Stravinsky, avec lesquels il partage des qualités de clarté, d'invention et d'humour. Rasmussen est aussi d'accord avec Stravinsky qui disait qu'«un bon compositeur n'emprunte pas - il vole» ; ainsi, beaucoup des pièces de Rasmussen reconstituent des oeuvres célèbres pour offrir a l'auditeur une composition nouvelle et complètement individuelle.

Outre sa carrière très dense de compositeur, Rasmussen est professeur au Conservatoire d'Aarhus et au Conservatoire Royal de Copenhague. Il est très connu pour ses écrits sur les sujets musicaux et collabore à de nombreux magazines scandinaves et internationaux.

Il compte également à son actif la création en 1975 de l'ensemble «The Elsinore Players» et ses activités de fondateur et directeur artistique du Festival NUMUS. En 1983, il est nommé directeur artistique et administratif des tournées Internationales de la Musique ISCM, à Aarhus.