Durch seine uralte Kultur blickt die Indische Musik auch auf eine äußerst lange Musikgeschichte zurück, welche bis in das sechste Jahrtausend vor Beginn unserer Zeitrechnung zurückgeht und ist somit in jedem Fall die älteste Musikkultur dieser Erde. Laut den altindischen mythologischen und historischen Werken, den sogenannten „Puranas“, ist die Entwicklung der Musik auf die Urform der Klänge der Schöpfung zurückzuführen. Diese besagen, dass die Erschaffung der Welt durch den Gott Shiva, der tanzend und flöte spielend durch den Kosmos wirbelte, geschah und dieser Gott wiederum später den Menschen auch das Musizieren und das Tanzen lehrte.
Andere Quellen, die keinen mythologischen Ansatz haben, geben an, dass der Ursprung 2000 v. Chr. in den vedischen Gesängen zu finden ist.

Die vedischen Arier (ein indogermanisches, nomadisches Volk, dessen Urheimat in den Steppen westlich des Urans war) ließen sich im 3. Jahrtausend v. Chr. in Nordindien nieder und brachten eine Religion, Sprache und Kultur mit. Unter anderem brachten sie die Veden, die religiöse Hymnen enthalten und damit zu den wichtigsten Schriften des Hinduismus zählen. Das Ergebnis der allmählichen Verschmelzung war bzw. ist die Hindu- oder brahmanische Kultur Nordindiens mit ihrer Vielzahl von Gottesdarstellungen und Symbolen.
Der Einfall der Perser und Mongolen in Nordindien zu Beginn des 12. Jahrhunderts war eine schwere Prüfung für den Fortbestand der indischen Musikkultur. Sie konnte sich jedoch dank ihrer starken Ausdruckskraft trotz aller Widrigkeiten und dem Widerstand diverser Kaiser, bzw. Anfang des 14. Jh. rein persischen Hofes in Delhi, durchsetzen. Ausgehend von den mystisch populären Gesängen des 13. bis 15. Jh. und der Absorption arabischer und persischer Elemente, ging das hervor, was man heute als „Klassische Nordindische Musik“ oder „Hindustani Musik“ (wörtlich: die Musik Indiens) bezeichnet.
Weiteres erlebte die Kompositionsform des Dhrupad , dessen Ursprung in der hinduistischen Bhakti Tradition liegt, im 16./17. Jh. an den Höfen der Mogulkaiser eine lange Blütezeit. Dazu trat im 18. Jh. der Khyal (nach dem arabischen Wort für „Idee, Vorstellung oder Phantasie“ benannt), der dem Sänger eine blühendere Improvisationstechnik und üppige arabeske Ornamentik erlaubte als der anspruchsvolle und formal strenge Dhrupad. Khyal und Dhrupad sind die beiden wichtigsten Kompositionsformen in der nordindischen Musik.

Die Drawida-Kultur Südindiens, die sich bis heute weitgehend autonom entwickelte, trug nach und nach andere Elemente hinzu. Die südindische oder karnatische Musik
(wörtlich: alt, traditionell, in der Sprache Tamil) bedient sich, wie die klassische nordindische Musik, des Systems von Raga und Tala, führt diese allerdings anders aus, aufgrund ihres Tempelmusik-Charakters und festgelegten Formen bei der Komposition.
So können wir heute in Indien zwei große Musiksysteme unterschieden, das südliche und das nördliche, in denen wir zwei sehr vermischte Traditionen erkennen können:
die alte autochthon-shivaistische und die arisch-vedische Tradition. Man spricht auch von der nordisch-klassischen und der südindisch-karnarischen Musik.
Außer den beiden großen genannten Musikrichtungen gibt es noch Überreste völlig anders gearteter Musiksysteme. Dies sind die der Volksstämme der Santal, der Gond und der Toda in den sündindischen Bergen, sowie die der Ahir, einer über Nordindien verbreiteten Viehzüchter- und Hirtenkaste.