Devenu seul directeur de l’école du Parangon en 1897, Henri Rousseau était apprécié des élèves, même si sa très petite taille lui valait quelques sobriquets, comme ceux de Petit Bout ou Mégot. Il recevait chaque semaine dans son salon certains pensionnaires, pris parmi les plus méritants, et, outre des rafraîchissements, leur proposait de la musique et des récitations de vers. La remise des prix annuelle fin juillet ou début août, instituée par son père et poursuivie par son frère, devint, au fil des années, un véritable évènement, largement couvert par la presse hebdomadaire ou quotidienne.

La transformation de l’école du Parangon en une école pratique coloniale, à partir de 1899, est l’œuvre majeure d’Henri Rousseau. Elle aura un important impact dans l’opinion publique.

La création d’un enseignement colonial partit d’une réflexion que la France, qui venait de conquérir Madagascar, le Tonkin et l'Annam s’ajoutant à la Cochinchine, la Guinée, le Dahomey, la Côte d'Ivoire ou le Congo qui complétaient ainsi l’empire français, déjà composé des Antilles, de l'Algérie, de la Tunisie et du Sénégal. Pour les partisans de cette expansion coloniale, c’est-à-dire la plupart des partis républicains et une grande partie des milieux économiques, il fallait désormais mettre en valeur ces régions.

Le Dr Rousseau soutenait qu’on ne s’improvise pas colon, et qu’il faut encourager des départs, non dans l’illusion de faire fortune, amis pour accéder à un emploi rémunérateur. Il expliquait son intention : « J'ai limité le rôle colonial de mon établissement à la seule formation d'un colon travailleur, exploitant par lui-même, ou se mettant au service d’exploitations ». L'élève colon trouvait dans le domaine une ferme, un atelier et un jardin potager qui lui fournissaient les instruments propres à sa formation pratique. L’enseignement du Parangon était, par cet axe professionnel, nettement différencié des formations offertes par les chambres de commerce, et encore plus de celui de l'École coloniale, qui avait pour objet l’éducation des fonctionnaires. Si l’artisanat n’était pas négligé, le Parangon s’intéressait en priorité aux agriculteurs.

La clientèle de départ était constituée de jeunes gens, en particulier des campagnes, pour lesquels le Dr Rousseau négociait des subventions auprès des conseils généraux. Outre un apprentissage de langues étrangères, le programme des études comprenait la géographie, la botanique, la chimie agricole et industrielle, l'agriculture avec l'arboriculture, l'horticulture et la viticulture, la comptabilité et les principaux éléments du commerce, l'électrotechnique, la météorologie, l'hygiène et des notions de médecine humaine et vétérinaire, l’entretien et l’usage des machines ainsi que le dessin. Selon ses La Quinzaine coloniale, « Un élève qui sortira de Joinville-le-Pont ne saura pas tous les métiers à fond, mais il saura un peu de tous les métiers. Il sera en mesure de forger un écrou, de manœuvrer un appareil télégraphique, de débiter une pièce de bois, de lever un plan, de conduire une machine à vapeur; il saura faire du beurre et du fromage, préparer une peau et la tanner. »

Le Dr Rousseau devient une personnalité du monde colonial, recevant beaucoup de délégations, participant aux banquets et congrès et s’exprimant dans la presse de ce milieu. L’orientation agricole de l’enseignement fait qu’à partir de 1907, une proportion croissante des élèves va venir des populations indigènes, avec neuf jeunes originaires de l’Indochine ou de la Chine françaises, dont le prince Myngoon, fils du roi déchu de Birmanie Min Doon, réfugié à Hanoï.

Le soutien de l'Alliance française élargit le recrutement à quelques zones d’Afrique, comme Fernand Paraiso, originaire du Dahomey et descendant d’esclave, futur officier de l’armée française et résistant à l’occupation allemande. Un nombre limité d’autres élèves sont venus des Antilles ou d’Afrique du Nord.

Dans l'école du Parangon