在虛構的日本地方都市・冬木市，有7組魔術師「御主」驅策各自召喚來的傳說中的人物（英靈）做為「從者」，週而復始地進行「聖杯戰爭」。過去歷經三次聖杯戰爭，從未出現能使用聖杯力量的人。

1990年秋天，第四次聖杯戰爭開始。主角「衛宮切嗣」接受魔術師的名門愛因茲貝倫（アインツベルン）家族的徵召，召喚劍兵（セイバー，Saber）職階的從者，與妻子「愛麗絲菲爾·馮·愛因茲貝倫」、助手「久宇舞彌」一道投身聖杯戰爭。基於自身過去的經歷，切嗣欲以聖杯實現世界和平，迫切求勝的他奉行冷酷無情的行動方針。其他參戰的御主有：來自英國魔術師總部「時鐘塔」的「肯尼斯·艾爾梅洛伊·阿其波盧德」及其學生「維瓦·維爾維特」，分別操縱槍兵（ランサー，Lancer）、騎兵（ライダー，Rider）。定居於冬木市的「遠坂時臣」及其弟子「言峰綺禮」，分別操縱弓兵（アーチャー，Archer）、暗殺者（アサシン，Assassin）。痛恨遠坂的速成魔術師「間桐雁夜」操縱狂戰士（バーサーカー，Berserker）。最後參戰的是連續殺人魔「雨生龍之介」，操縱法師（キャスター，Caster）。

切嗣主打牽制戰，運用槍械一類的熱兵器作戰，拒絕進行堂堂正正的魔術師對決。不擇手段的作風，使其主從關係相當惡劣，彼此信任蕩然。其後，他們與其他陣營合作打敗法師陣營，又解決了槍兵陣營。另一方面，遠坂陣營發生內亂，綺禮在弓兵的慫恿下殺害時臣，並與弓兵締結新契約。綺禮又唆使間桐陣營綁走聖杯的容器－人造人愛麗絲菲爾，舞彌則在反抗中遇害。

其後，騎兵被弓兵擊敗，狂戰士被劍兵擊敗。切嗣與綺禮做為僅存的御主，展開對決。儘管切嗣贏得勝利並獲得聖杯，但聖杯的真相與他的想像相去甚遠。聖杯只能通過毀滅人類來實現世界和平。失望的切嗣命令劍兵摧毀聖杯，不料導致聖杯的力量化作污泥外溢，引發大火，燒毀大部分的冬木市，死傷枕藉。在切嗣尚未告知聖杯的本質、意義之前，劍兵也因為戰爭結束而消失。

失去一切的切嗣，在火災中救出一名奄奄一息的男孩「士郎」，將他收為養子。另一方面，弓兵與綺禮受到聖杯污泥的影響，在現世原地復活。魔術師御三家－愛因茲貝倫、遠坂、間桐都錯過聖杯，靜靜地等待下次的機會。殘留的禍根與因緣，就這樣逐漸結成十年後第五次聖杯戰爭的惡果。