Således hade varje större europeisk stad högutbildade, professionella judiska band. Dessa band, tillsammans med Rom (zigenare) band, reste i syfte att tjäna sitt uppehälle. Tvingas ut ur Spanien, Portugal och Centraleuropa (Tyskland i synnerhet), 17th century judar befann sig flyttade till det Osmanska riket i Pale av förlikningen. Där utländska musiker som reser på handelsvägar injicerade judisk musik med turkiska, grekiska, armeniska och Mellanöstern influenser, vilket bidrar till bildandet av tidig Klezmer.
Den kännetecknades av: 1) en extremt hög nivå av musicerande; 2) unika instrument; 3) Mellanöstern polyrhythms. Initialt begränsad till tystare instrument klarinett och violin, Klezmer musiker adeptly utforskade sina musikaliska förmåga, utveckla ett känslomässigt djup och uttryck mönstrade efter den mänskliga sångrösten (en framträdande egenskap fortfarande inneboende i Klezmer idag).
Med den 18-talet Hasidic tradition (dyrkan genom ökad känsla) och frisläppandet av judar som tjänstgör i den tsaristiska armén föra in mer militaristiska instrument, (trumpeter, tromboner, konsert snara eller "lilla" trummor ["tshekal"], monterade bastrummor ["puk" aka "poik" eller "Baraban"], cymbaler ["Tats"], tamburiner, träskivor, cowbells och andra slageffekter) ljudet av modern Klezmer började växa fram. När 19-talets europeiska regeringar som införts ännu ännu fler svårigheter på Pale of Settlement, emigration till USA blev det logiska valet för en stor del av den judiska befolkningen.
Under åren 1880-1924, judiska invandringen till Amerika (särskilt New York City) överskridas mer än två miljoner människor, vilket Klezmer till den nya världen. I början av 20-talet kom flera Klezmer musiker i förgrunden, bland de mest respekterade vara clarinetists Naftule Brandwein och Dave Tarras. Dessutom, bandledare som Harry Kandel producerade en mängd Klezmer inspelningar, vilket gör Klezmer tillgängligt för framt