تاريخيًا، وُضع حجر الأساس لبناء معهد الموسيقى في عام ١٩١٤م، وتم افتتاحه عام ١٩٢٣م في عهد جلالة الملك فؤاد الأول، وعُقد أول مؤتمر عالمي للموسيقى العربية عام ١٩٣٢م.

وكان المعهد أكاديمية لتعليم الموسيقى العربية، تخرج منها عشرات الفنانين المعروفين حتى انتقال التدريس منه إلى المعهد العالي للموسيقى العربية في الستينات.

أُغلق المعهد بعد ذلك، إلى أن أُعيد افتتاحه قبل عشرين عامًا (٢٠٠٢م)، ومن يومها والمعهد يحمل مسؤولية حفظ التراث الموسيقي العربي على مسرحه، من خلال عرضه للآلات الموسيقية بمتحفه.

كما أهدت حرم الموسيقار الراحل محمد عبدالوهاب مقتنياته للمعهد، ليقيم بها متحف محمد عبدالوهاب.