omfattande glaciation ägde rum i området Grand Banks under det senaste glaciala maximumet. För cirka 13 000 år sedan hade majoriteten av isen smält och lämnade Grand Banks utsatta som flera öar som sträckte sig i hundratals kilometer. Man tror att stigande havsnivåer sänkte dessa för cirka 8000 år sedan.
även om inga arkeologiska bevis för en europeisk närvaro nära Grand Banks överlever från perioden mellan den kortlivade grönländska Norska bosättningen vid L ’Anse aux Meadows I CE 1000 och John Cabot’ s transatlantiska korsning 1497, tyder vissa bevis på att resande från baskiska regionen och England (specifikt från Bristol) och andra föregick Cabot. På 15-talet hänvisar vissa texter till ett land som heter Bacalao, torskfiskens land, vilket möjligen är Newfoundland. Inom några år efter Cabot resa förekomsten av fiskevatten på Grand Banks blev allmänt känd i Europa. Fartyg från Frankrike och Portugal var pionjärer för fiske där, följt av fartyg från Spanien, medan fartyg från England var knappa under de första åren. Detta förändrades snart, särskilt efter Bernard Drakes Newfoundland-Expedition 1585, som praktiskt taget utplånade de spanska och portugisiska fiskeindustrierna i detta område. Fiskbestånden blev viktiga för de tidiga europeiska bosättningsekonomierna i östra Kanada och New England.
den 18 November 1929 orsakade en stor jordbävning (känd som 1929 Grand Banks jordbävning) på den sydvästra delen av Grand Banks som gränsar till Laurentian Channel ett jordskred under vattnet vilket resulterade i omfattande skador på transatlantiska Kablar och genererade en sällsynt Atlantisk tsunami som slog södra kusten av Newfoundland och hävdade 29 liv på Burinhalvön.
tekniska framsteg inom fiske (som att använda stora fabriksfartyg och ekolod), liksom geopolitiska tvister om territorialhav och exklusiv ekonomisk zon (EEZ) gränser, ledde till överfiske och en allvarlig nedgång i fiskbestånden i Grand Banks från omkring 1990. Canadian Grand Banks fiske stängdes 1993.
Kanadas EEZ täcker för närvarande majoriteten av Grand Banks förutom den lukrativa ”näsan” (östra änden, nära den flamländska mössan) och ”svansen” (södra änden) av fiskebanken. Parisfördraget 1783 gav USA delade rättigheter att fiska i dessa vatten, men den delen av fördraget är inte längre i kraft. Den exklusiva ekonomiska zonen i det franska territoriet Saint Pierre och Miquelon upptar en stiftformad sektion vid västra kanten av Grand Banks, med de 22 kilometer (12 nmi; 14 mi) radiushuvudet på stiftet som omger öarna och nålen på väg söderut i 348 km (188 nmi; 216 mi).