Choć harmonijki to powszechnie znane instrumenty, których charakterystyczny dźwięk jest błyskawicznie rozpoznawalny nawet przez laików, ich historia nie jest długa. Ich pierwsze egzemplarze zostały skonstruowane w Europie na początku XIX wieku. Inspiracją był tutaj starożytny chiński instrument o nazwie szeng, dość powszechnie używany we wschodniej Azji, skąd przywędrował na Stary Kontynent, spotykając się ze sporym zainteresowaniem muzyków. Wczesne wersje harmonijek były dużymi instrumentami, a konstrukcje różnych wynalazców konkurowały ze sobą na rynku, wprowadzając różnego typu innowacje.