Inicialmente, la ley del Presupuesto General de la República para 1962 contempló su creación como Colegio Nacional de Varones del Rímac, con alumnos procedentes del Colegio Bentín y otros excedentes, y funcionó en un local ubicado en la Urbanización El Manzano desde abril de ese año.
En 1963 se trasladó a Condevilla Señor en San Martín de Porres, y en julio de ese año fue inaugurado oficialmente como Gran Unidad Escolar, el primer director y fundador del colegio fue el doctor Pedro Grados Bruno.
El lugar que ocupa el colegio desde entonces, era muy espacioso y polvoriento y no contaba con medios de transporte, luz o agua potable pero esto no impidió que las ganas del colegio en su conjunto continué por la senda de la superación que la historia le había trazado es así que bajo la conducción del Dr. Pedro Grados Bruno, y con el esfuerzo de profesores, padres de familia y alumnos grandinos se construyó la pared circundante, se instaló el séptimo pabellón pre fabricado, se adquirieron los instrumentos para la banda de música y un ómnibus para el transporte del personal, posteriormente se instituyó la biblioteca y los gabinetes de Física y Química.
El glorioso colegio de la Gran Unidad Escolar “José Granda” por ser una institución del estado que albergaba en esos tiempos a mas de 6 000 alumnos, tenía limitaciones de logística e infraestructura pero eso no era impedimento para los Grandinos que por su tesón y perseverancia lograron ubicar en el sitial que le correspondía al colegio UN GRANDE EN LA EDUCACION, en sus casi 45 años de existencia ha contribuido a la formación de miles de jóvenes que pasaron por sus aulas y ahora destacan en diversas profesiones y áreas del quehacer humano y contribuyen dinámicamente al desarrollo de nuestro Perú y del mundo, por mencionar algunos el caso del Dr. Vicente Rojas actual embajador de Perú en el Ecuador, el Ing. Coronel Chauca en la NASA (EE.UU.), el Dr. Franklin Rojas Ministro Consejero, el Coronel EP Hugo Robles quien comandó el rescate de los rehenes en la embajada del Japón, así hay muchos grandinos en todo lugar dejando bien en alto el nombre de este glorioso colegio del distrito de SMP.
En la Ciencia y el deporte también la G.U.E. José Granda tuvo mucha connotación y fue CAMPEON de muchos eventos, fue muchas veces CAMPEON EN MATEMATICA en uno de esos torneos el grandino Victor Coronel Chauca (NASA) fue campeón nacional de matemática y luego fue Primer puesto en el ingreso a la Universidad Nacional de Ingeniería (UNI), otro destacado alumno en ciencias es el Ing. Artemio Guorronero (NASA) -disculpen si obviamos algún otro destacado alumno que por falta de información desconocemos, sería bueno que quien conosca a uno mas deje su comentario, que de hecho hay muchísimos grandinos destacados - también Campeones en básquet, en los campeonatos Inter. Escolar de fútbol tuvo grandes equipos como son las selecciones de los años 60 y 70s, y fue 2 veces CAMPEON NACIONAL en 1972 y 1980 derrotando en ambas finales al colegio Ricardo Bentín
Esto es una breve reseña del sentimiento e historial inmenso del glorioso colegio José Granda alma mater del distrito de SMP.