Harmonikaen fandt sin nuværende form i 1800-tallet.
Opfindelsen tilskrives tyske Friedrich Buschmann, som udviklede en slags mundharmonika med en blæsebælg i 1822.
Buschmann nævner sit nye instrument i sine optegnelser, men han tog aldrig patent på det, og i stedet fik den armenske klaver- og orgelmager Cyrill Demian patent på den første harmonika i 1829.
Harmonikaen har spillet op til dans siden 1800-tallet.
Udviklingen af forskellige harmonikatyper tog fart efter Demians patent, og instrumentet blev hurtigt populært rundt om i Europa.
Da europæiske immigranter drog til Nord- og Sydamerika midt i 1800-tallet, fulgte harmonikaen med.
Modsat klassiske musikinstrumenter som violin og klaver blev den opfattet som mere folkelig og i høj grad brugt i lokal musik som bl.a. tango og polka.
Blandt klassiske musikere var der dog stor modstand imod instrumentet.
I det danske “Tonekunstens leksikon” fra 1865 lød det:
“Harmonikaen er det skrækkelige instrument, hvormed hankønsvæsener i lømmelalderen er bevæbnet og gør gaderne usikre”.