Im Bereich der Grand Banks fand während des letzten Gletschermaximums eine ausgedehnte Vereisung statt. Vor etwa 13.000 Jahren war der größte Teil des Eises geschmolzen, so dass die Grand Banks als mehrere hundert Kilometer lange Inseln freigelegt wurden. Es wird angenommen, dass der steigende Meeresspiegel diese vor etwa 8.000 Jahren untergetaucht hat.
Während aus der Zeit zwischen der kurzlebigen grönländischen Besiedlung von L’Anse aux Meadows im Jahr 1000 n. Chr. und John Cabots Transatlantiküberquerung im Jahr 1497 keine archäologischen Beweise für eine europäische Präsenz in der Nähe der Grand Banks erhalten sind, deuten einige Hinweise darauf hin, dass Reisende aus dem Baskenland und England (insbesondere aus Bristol) und andere Cabot vorausgingen. Im 15.Jahrhundert beziehen sich einige Texte auf ein Land namens Bacalao, das Land des Kabeljaus, das möglicherweise Neufundland ist. Innerhalb weniger Jahre nach Cabots Reise wurde die Existenz von Fischgründen an den Grand Banks in Europa allgemein bekannt. Schiffe aus Frankreich und Portugal waren dort Pioniere der Fischerei, gefolgt von Schiffen aus Spanien, während Schiffe aus England in den frühen Jahren knapp waren. Dies änderte sich bald, insbesondere nach Bernard Drakes Neufundland-Expedition im Jahr 1585, die die spanische und portugiesische Fischereiindustrie in diesem Gebiet praktisch auslöschte. Die Fischbestände wurden wichtig für die frühen europäischen Siedlerwirtschaften Ostkanadas und Neuenglands.Am 18. November 1929 verursachte ein schweres Erdbeben (bekannt als das Grand Banks Earthquake von 1929) im südwestlichen Teil der Grand Banks an der Grenze zum Laurentian Channel einen Unterwasser-Erdrutsch, der zu erheblichen Schäden an transatlantischen Kabeln führte und einen seltenen Atlantik-Tsunami verursachte, der die Südküste von Neufundland traf und 29 Menschenleben auf der Burin-Halbinsel forderte.Technologische Fortschritte in der Fischerei (wie der Einsatz von großen Fabrikschiffen und Sonar) sowie geopolitische Streitigkeiten über die Grenzen des Küstenmeeres und der ausschließlichen Wirtschaftszone (AWZ) führten ab etwa 1990 zu Überfischung und einem ernsthaften Rückgang der Fischbestände der Grand Banks. Die Canadian Grand Banks Fishery wurde 1993 geschlossen.Kanadas AWZ deckt derzeit die Mehrheit der Großbanken ab, mit Ausnahme der lukrativen „Nase“ (östliches Ende, in der Nähe der Flämischen Kappe) und des „Schwanzes“ (südliches Ende) der Westbank. Der Vertrag von Paris von 1783 gab den Vereinigten Staaten gemeinsame Rechte, in diesen Gewässern zu fischen, aber dieser Abschnitt des Vertrags ist nicht mehr in Kraft. Die ausschließliche Wirtschaftszone des französischen Territoriums Saint Pierre und Miquelon nimmt einen stiftförmigen Abschnitt am westlichen Rand der Grand Banks ein, mit dem 22 Kilometer (12 nmi; 14 Meilen) Radius Kopf des Stiftes um die Inseln und die Nadel in Richtung Süden für 348 km (188 nmi; 216 Meilen).