Pirkanmaan musiikkiopisto aloitti toimintansa 6.9.1970 johtajanaan diplomiurkuri Matti Hannula. Opisto on YMCA Tampereen (Tampereen NMKY r.y.) ylläpitämä ja opetus tapahtuikin aluksi pääosin sen tiloissa Puisto-Emmauksessa Hämeenpuisto 14:ssä.
Toiminta laajeni hyvin pian ympäristökuntiin käsittäen parhaimmillaan parisenkymmentä opetuspistettä kahdeksassa eri kunnassa. Vuosien kuluessa toiminta on keskittynyt, ja tällä hetkellä opiston opetuskuntia ovat Tampereen lisäksi Hämeenkyrö, Kangasala, Pirkkala ja Ylöjärvi. Ylöjärvi ja Hämeenkyrö tulivat mukaan, kun Länsi-Pirkanmaan musiikkiopisto yhdistettiin PMO:oon 1.1.2015. Opisto laajeni jälleen 1.1.2019 Tampereen Suzukikoulun opetustoiminnan siirryttyä osaksi PMO:a.
Tampereen toimitilana on vuodesta 1984 ollut Eteläpuisto 4:ssä sijaitseva v. 1905 valmistunut jugend-rakennus, joka paikkakunnalla tunnetaan myös historiastaan ruotsinkielisten naisten vanhainkotina nimellä De Gamlas Hem.
Matti Hannulan jälkeen opiston rehtoreina ovat toimineet Väinö Lehto, Vesa Ruotonen ja Liisa Valkama sekä pitkäaikaisimpana Markku Kojo 1985–2009. Kojon jäätyä eläkkeelle väliaikaisena rehtorina toimi apulaisrehtori Timo Saarinen lukuvuoden 2009–2010. Nykyinen rehtori Jouni Auramo aloitti tehtävässään 1.9.2010.
Vuosien saatossa opistosta on kehittynyt monipuolinen yhtye- ja orkesteritoimintaan keskittynyt oppilaitos, jossa opiskelee n. 1700 oppilasta yli 90 opettajan johdolla.
Poimintoja ensimmäisestä toimintakertomuksesta
Pirkanmaan musiikkiopisto toiminta alkoi v. 1970 nimellä Tampereen NMKY:n Musiikkiopisto. Tällöin kaupungissa toimi jo Tampereen Musiikkiopisto eli nykyinen Tampereen konservatorio. Kasvavan kaupungin tarpeisiin toinen musiikkiopisto oli toivottu ja jo ensimmäisenä vuonna oppilasmäärä oli yli 700.
”Kun Tampereen NMKY:n Musiikkiopisto v. 1970 perustettiin, oli tärkeimpänä tehtävänämme saattaa eri ikäisiä musiikinharrastajia säännöllisen ja mahdollisimman hyvän opetuksen piiriin. Alusta alkaen olemme myös halunneet varata kyvykkäille oppilaillemme mahdollisuuden suorittaa kurssitutkintoja Sibelius-Akatemian vaatimusten mukaisesti ja näin helpottaa tulevia ammattiopintoja.”
Lukuvuonna 1971–72 suoritettiin yhteensä 134 erilaista kurssitutkintoa, joka oli opiston lyhyen toiminnan huomioiden huomattavan suuri määrä.