L’histoire nous emmène dans la vie de Shirô Emiya, un jeune homme élevé par un mystérieux magicien après la mort tragique de ses parents. Shirô est devenu un lycéen solitaire capable de réparer les objets d'instinct et de lancer quelques sorts. Au cours d’une nuit mouvementé, il est entraîné dans une féroce bataille entre deux magiciens mais Shirô réussi à invoquer Saber, une redoutable épéiste pour le protéger. Il se retrouve alors dans une guerre impitoyable pour la quête du Saint Graal, une relique qui exaucerait les vœux.

Fate/Zero se déroule dix ans avant les évènements de Fate/stay Night qui raconte en détails ce qui s'est passé lors de la quatrième guerre du Saint Graal dans la ville de Fuyuki. À la suite de trois guerres sans vainqueurs, la quatrième guerre débute enfin…

Cette guerre se fait affronter par les familles Einzbern, Matō, et Tōsaka depuis des siècles. Bien que Kiritsugu qui est au côté de Saber, ait longtemps désiré être un héros aux yeux de tous, il a définitivement abandonné le Saint Graal lorsqu'il a réalisé que ceci entraînait forcément la mort d'une autre vie. Pour le bien de l'humanité, il sera prêt à détruire quiconque se mettra en travers de la paix.