Grand Banksin alueella tapahtui laaja jäätiköityminen viimeisen jääkauden maksimikaudella. Noin 13 000 vuotta sitten suurin osa jäästä oli sulanut, jolloin Grand Banksit paljastuivat useiksi satojen kilometrien pituisiksi saariksi. Merenpinnan nousun uskotaan upottaneen nämä noin 8 000 vuotta sitten.
vaikka mitään arkeologisia todisteita eurooppalaisten läsnäolosta Grand Banksin lähellä ei ole olemassa lyhytikäisen Grönlannin norjalaisen siirtokunnan L ’ Anse aux Meadowsin CE 1000: n ja John Cabotin vuonna 1497 tekemän Atlantin ylityksen väliseltä ajalta, jotkut todisteet viittaavat siihen, että cabotia edelsivät baskialueelta ja Englannista (erityisesti Bristolista) tulleet merimatkailijat. Jotkut tekstit viittaavat 1400-luvulla Bacalao-nimiseen turskakalan maahan, joka on mahdollisesti Newfoundland. Muutaman vuoden kuluttua Cabotin matkasta Grand Banksin kalastusalueiden olemassaolo tuli yleisesti tunnetuksi Euroopassa. Ranskasta ja Portugalista tulleet laivat olivat siellä kalastuksen edelläkävijöitä, ja sen jälkeen espanjalaiset Laivat, kun taas Englannista tulleet laivat olivat alkuvuosina vähissä. Tilanne muuttui pian, varsinkin Bernard Draken Newfoundlandin retken jälkeen vuonna 1585, joka käytännössä hävitti espanjalaisten ja portugalilaisten kalastusteollisuuden tältä alueelta. Kalakannoista tuli tärkeitä Itä-Kanadan ja Uuden-Englannin varhaisille eurooppalaisille uudisasukkaille.
18.marraskuuta 1929 suuri maanjäristys (vuoden 1929 Grand Banksin maanjäristys) Grand Banksin lounaisosassa Laurentian kanaalin tuntumassa aiheutti vedenalaisen maanvyöryn, joka aiheutti laajoja vaurioita Atlantin ylittäville kaapeleille ja synnytti harvinaisen Atlantin tsunamin, joka iski Newfoundlandin etelärannikolle vaatien 29 ihmisen hengen Burinin niemimaalla.
kalastuksen tekninen kehitys (kuten suurten tehdasalusten ja kaikuluotainten käyttö) sekä geopoliittiset kiistat aluemeren ja talousvyöhykkeiden rajoista johtivat liikakalastukseen ja Grand Banksin kalakantojen vakavaan vähenemiseen vuoden 1990 paikkeilla. Canadian Grand Banksin kalastus lopetettiin vuonna 1993.
Kanadan talousvyöhyke kattaa tällä hetkellä suurimman osan suurpankista lukuun ottamatta kalastuspankin tuottoisaa ”nenää” (itäinen ääripää, lähellä Flanderin lakkia) ja ”pyrstöä” (eteläinen ääripää). Vuonna 1783 solmittu Pariisin sopimus antoi Yhdysvalloille yhteiset oikeudet kalastaa näillä vesillä, mutta kyseinen Sopimuksen kohta ei ole enää voimassa. Ranskan territorion Saint-Pierre ja Miquelonin yksinomaisella talousvyöhykkeellä on Grand Banksin länsireunalla nuppineulan muotoinen osuus, jonka säde on 22 kilometriä (12 nmi; 14 mi) saaria ympäröivän nuppineulan säde ja etelään 348 kilometriä (188 nmi; 216 mi).