Harmonikka sai nykyisen muotonsa 1800-luvulla. Sen keksijäksi mainitaan saksalainen Friedrich Buschmann, joka kehitti vuonna 1822 eräänlaisen huuliharpun, jossa oli palkeet.
Buschmann mainitsee soittimen muistiinpanoissaan, mutta hän ei koskaan patentoinut keksintöään.
Ensimmäinen harmonikkapatentti myönnettiin armenialaiselle pianoja ja urkuja valmistaneelle Cyrill Demianille vuonna 1829.