Gaston Rébuffat découvre l'escalade dans les calanques de Marseille (notamment l'escalade artificielle avec pitons, mousquetons et étriers) puis, à seize ans, il s'inscrit au Club Alpin Français (section Haute-Provence) avec lequel il découvre la haute montagne et fait la connaissance d'Henri Moulin qu'il considère comme « son grand frère de l'alpinisme ». Il découvre ensuite les Alpes et le massif du Mont-Blanc qui devient son terrain de jeu. En 1940, il s'engage à Jeunesse et Montagne où il rencontre Lionel Terray qui devient son ami. C'est dans le centre « École, jeunesse et montagne » du Valgaudemar que la passion des montagnes s'ancre profondément en lui. Il déménage ensuite pour Chamonix où il travaille dans la ferme de son ami Lionel Terray, en attendant d'être coopté à la Compagnie des Guides de Chamonix.

En 1942, Gaston Rébuffat réussit son brevet de guide de haute montagne malgré son jeune âge (21 ans alors que l'âge requis était de 23 ans). Il poursuit son activité de moniteur à « Jeunesse et montagne », et en 1944 devient instructeur à l'École Nationale d'Alpinisme, ainsi qu'à l'École Militaire de Haute Montagne. En juin 1945, il intègre la prestigieuse Compagnie des Guides de Chamonix sous la tutelle d'Alfred Couttet. Il devient alors le troisième « étranger » de la Compagnie, après Roger Frison-Roche et Édouard Frendo, alors que, traditionnellement, il fallait être né dans la vallée pour pouvoir y entrer. Modeste skieur, il est guide à la belle saison, mais au lieu d'être moniteur de ski l'hiver, il s'essaie à l'écriture. Il participe à la première ascension de l'Annapurna en 1950 avec, entre autres, Jean Couzy, Lionel Terray, Maurice Herzog, Louis Lachenal, Marcel Ichac, Marcel Schatz, Jacques Oudot et Francis de Noyelle. Cet exploit restera une étape difficile de sa vie. Il n'est pas allé jusqu'au sommet, mais, avec Terray, il a secouru Lachenal et Herzog en perdition. Comme Lachenal, et contrairement à Herzog, il ne se sentait investi d'aucune mission patriotique ni mystique en gravissant ce sommet. Cet exploit lui valut à titre collectif avec les autres membres de l'équipe le Prix Guy Wildenstein de l'Académie des sports la même année. Il ne put raconter sa propre version de l'expédition d'Annapurna, le Comité de l’Himalaya ayant par contrat interdit aux membres de l'expédition d'en faire des récits : seuls des récits officiels, comme Annapurna premier 8 000 de Maurice Herzog, étant autorisés.

En 1958, il est le réalisateur dédié à la montagne dans le film de Walt Disney Pictures, "Le Troisième Homme sur la Montagne" (1959), tourné à Zermatt en Suisse, au pied du Cervin. Principalement résident à Chamonix, il est aussi un hôte assidu de Sainte-Maxime, ville natale de son épouse, fille de l'architecte René Darde. Auteur de nombreux ouvrages sur la montagne dont certains à but pédagogique, il œuvre pour la vulgarisation des techniques d'alpinisme et du milieu montagnard qui suscite de nombreuses vocations chez les plus jeunes. Également conférencier, Gaston Rébuffat fait découvrir le monde de l'altitude dans les régions de France grâce aux projections dans le cadre des conférences « Connaissance du Monde ». Un an avant sa mort d'un cancer, en 1984, il est fait officier de la Légion d'Honneur.