Det område som nu kallas Karnataka blev en delstat 1956 genom att den tidigare delstaten Mysore utökades med andra kannadatalande områden. Delstaten fick dock sitt nuvarande namn först 1 november 1973. Innan britterna tog över 1831 härskade maharadjan av Mysore över stora delar av området.

Så sent som 1898 härjade en pestepidemi.

Delstatens namn kommer av Karnata eller Karnataka som är sanskritisk namnform (egentligen ett dravidiskt ord med betydelsen "svart land") för det folk av dravidisk stam i Sydindien som vanligen går under benämningen Kanarese, numera kannada, och ett gammalt hindurike som sträckte sig från Gandigama till Kap Comorin och upplöstes på 1000-talet.

I Brittiska Indien omfattade "Karnatik" södra delen av presidentskapet Bombay, med huvudort Hubli och omfattande det gamla Karnata jämte Chola och Pandya och var en del av det av Vetala grundade rajputriket Vijayanagar med huvudstaden Vijayavanpura, som i mitten på 1500-talet erövrades av de muslimska härskarna av Bijapur och Golconda och sedan införlivades med Aurangzebs (1686) rike. Omkring 1750 var Karnataka en nästan självständig småstat under nawaben av Arcot; 1856 införlivades det med det brittisk-indiska riket.

Karnatik var även namn på ett landskap i presidentskapet Madras vid Bengaliska viken som omfattade distrikten Nellore, Chengalpat, norra och södra Arcot, Salem, Trichinopoly, Tanjore, Madurai och Tinnivelli, där befolkningen i allmänhet talade tamil och telugu.

Baindoor var ett mindre furstendöme som uppstod efter Vijayanagars fall. Det ingår nu i Karnataka.