Qarmoşka sözü rus dilindən (“гармошка”) gəlmişdir və əslində "qarmon"un qısa, daha danışıq üslubunda işlənən formasıdır. Azərbaycan dilinə rus dilindən keçmiş bu söz, ikiqat hava qutulu, klavişləri olmayan, ağızdan çəkilən musiqi aləti olan qarmonu bildirir.
Qarmonun, və deməli qarmoşkanın səs çıxarma mexanizmi, bir-birinə qarşı hərəkət edən iki sıra metal dilciyin titrəməsinə əsaslanır. Hava qutularının hərəkəti, hava axınının bu dilciklərin üzərinə yönəldilməsini təmin edir və beləcə müxtəlif notlar əldə edilir. Qarmoşka, qarmonla müqayisədə adətən daha kiçik ölçülərə və daha sadə quruluşa malik olur.
Mir Cəlal Paşa evin əsərlərində qeyd edildiyi kimi, qarmoşka sadəliyi və səs mənbəyinin daşınabilməsi ilə seçilir. Bu xüsusiyyət onu xalq arasında geniş yayılmasına səbəb olmuşdur. İvanın kamançanı deyil, qarmoşkanı seçməsi, kamançanın daha klassik, daha çox peşəkarlıq tələb edən bir alət olmasına, qarmoşkanın isə daha sadə, daha çox əyləncə məqsədi daşıyan bir alət kimi qəbul edilməsinə işarə edir. Bu, həm də müəllifin müasir və ənənəvi musiqi alətlərinə münasibətinə işıq tutur.
Beləliklə, “qarmoşka” sözü sadəcə bir musiqi alətinin adı deyil, həm də o dövrün sosial-mədəni həyatına, musiqi zövqlərinə dair məlumat verən bir termindir. Onun istifadəsi, dilin canlılığını və inkişafını göstərən bir nümunədir.