Lange Zeit vor 1907 hatte es in Plittersdorf schon eine Musikkapelle gegeben. Sechs Mitglieder aus der ehemaligen Feuerwehrkapelle trafen sich im Mai 1907 und gaben den Anstoß zur Gründung der Harmonie. Im Gasthaus zum Kreuz fand am 15.07.1907 dann die konstituierende Versammlung statt, zu der sich insgesamt 79 Personen in die aufgelegte Liste eintrugen. Erster Vorsitzender des jungen Vereins wurde Edmund Voegtle.
Schon wenige Jahre nach der Gründung kam der 1. Weltkrieg, in den die Mehrzahl der Vereinsmitglieder einrücken musste. Vier aktive und sechs passive Mitglieder kehrten nicht wieder nach Hause zurück. Fünf Jahre ruhten die Instrumente, bevor im Mai 1919 der Verein wieder zum Leben erweckt wurde. Im Juni desselben Jahres fanden dann Neuwahlen statt, aus denen Wendelin Müller als 1. Vorsitzender hervorging.
Das erste größere Fest des Vereins fand im Mai 1927, anlässlich des 20jährigen Bestehens statt. Im Juni 1937 fand laut Protokollbuch ein Tag der Deutschen Volksmusik auf dem Niedersand in Plittersdorf statt. Es gab dort ein Gemeinschaftskonzert von Gesangverein Liederkranz und Musikverein Harmonie. Im gleichem Jahr fand in Karlsruhe ein Reichsmusikfest statt, bei dem auch der Musikverein Harmonie teilnahm.
Bis zum Jahre 1947 gab es keine weiteren Eintragungen im Protokollbuch. Sechs Vereinsmitglieder fanden während des 2. Weltkriegs den Tod.
Da man sich erst 1947 wieder neu formierte, war man noch nicht in der Lage, das 40-jährige Stiftungsfest zu veranstalten. Dies wurde dann 1949 glanz- und prunkvoll nachgeholt. Laut Protokollbuch war in Plittersdorf bis dato eine noch nie gesehene Menschenmenge bei einem Festzug zu sehen.
Zum 60jährigen Stiftungsfest im Jahr 1967 wurde neue Musikerkleidung angeschafft. Die Kapelle zählte in jener Zeit 32 aktive und rund 180 passive Mitglieder. Den Verein leitete in jener Zeit Christian Müller, der von 1960 – 1970 und von 1981 bis 1985 erster Vorsitzender war. In die 2. Amtsperiode fiel auch das 75jährige Stiftungsfest, das in gekonnter und großartiger Weise ein weiterer Meilenstein der Vereinsgeschichte wurde.
In den Jahren danach fand ein sogenannter Generationenwechsel in der Vereinsführung statt. Jüngere Personen zeigten Verantwortung und lösten verdiente Verwaltungsmitglieder ab. 1. Vorsitzender wurde 1985 Gerhard Lorenz, unter dem auch das 90jährige Stiftungsfest ein voller Erfolg wurde.
Im Jahr 2000 nahm Günter Haas das Amt des 1. Vorsitzenden an.
Heute hat der Musikverein mehr als 50 aktive und ca. 300 passive Mitglieder. Der Verein ist stolz darauf, auf eine erfolgreiche Jugendarbeit zurückgreifen zu können, da wie schon in den 80er Jahren und auch heute noch der Generationenwechsel anhält und wir alle wissen, dass die heutige Jugend die Zukunft des Vereins ist.