Roger Sherman var en av de mest inflytelserika medlemmarna i Konstitutionskonventionen. Han är inte känd för sina handlingar vid konventet eftersom han var en ”kortfattad, ineloquent talare” som aldrig höll ett personligt register över sin erfarenhet, till skillnad från andra framstående personer vid konventet som James Madisonoch vid 66 års ålder var Sherman den näst äldsta medlemmen vid konventet efter Benjamin Franklin (som var 81 år vid den tiden). Men som en av de mest aktiva medlemmarna i konventet gjorde Sherman rörelser eller sekunder med hänvisning till Virginia-Planen 160 gånger. Hans motståndare Madison gjorde rörelser eller sekunder 177 gånger.
Roger Sherman kom in i konventet utan avsikt att skapa en ny konstitution. Sherman, en ursprunglig undertecknare av artiklarna i Confederation, såg konventionen som ett sätt att ändra den redan befintliga regeringen. En del av hans hållning handlade om det offentliga överklagandet. Han försvarade ändringen av artiklarna och förklarade att det var i folkets bästa och det mest troliga sättet att folket skulle acceptera ändringar i en konstitution. Sherman såg ingen anledning till en tvåkammar lagstiftare, som föreslagits av Virginia Plan. ”Problemet med den gamla regeringen var inte att den hade handlat dumt eller hotat någons friheter, utan att den helt enkelt inte hade kunnat genomdriva sina förordningar”. Sherman avancerade vidare tanken att den nationella regeringen helt enkelt behövde ett sätt att öka intäkterna och reglera handeln. Sherman var en stor försvarare av en unicameral lagstiftare. Han försvarade unicameral legislature of the Articles of Confederation genom att säga att de stora staterna inte hade ”lidit i händerna på små stater på grund av regeln om lika röstning”. I slutändan, när Sherman såg sina ursprungliga mål för konventet som ouppnåeligt organiserade han kompromisser och erbjudanden för att anta en del av sin önskvärda lagstiftning.Sherman var från en särskilt isolationistisk stat-Connecticut fungerade nästan utan mycket behov från andra stater och använde sina egna hamnar för att handla med Västindien istället för att använda hamnar i Boston – och fruktade det ”…massan av människor saknade tillräcklig visdom för att styra sig själva och önskade således att ingen gren av den federala regeringen skulle väljas direkt av folket”.Sherman, Elbridge Gerry (själv senare erkänd som namnet på amerikansk politisk gerrymandering) och andra var av den delade uppfattningen att den valda sammansättningen av den nationella regeringen bör reserveras för omröstning av statliga tjänstemän och inte för val av folkets vilja. Sherman var försiktig med att tillåta vanliga medborgare deltagande i den nationella regeringen och uppgav att folket ”borde ha så lite att göra som kan vara om regeringen. De vill ha information och kan ständigt vilseledas”.
de två föreslagna alternativen för bildandet av lagstiftningsgrenen framkom i överläggningarna. En var att bilda en tvåkammar lagstiftare där båda kamrarna hade representation proportionell mot befolkningen i staterna, som stöddes av Virginia plan. Den andra var att ändra den unicameral lagstiftaren som hade lika representation från alla stater, som stöddes av New Jersey-Planen. Roger Sherman var en hängiven anhängare av en unicameral lagstiftande församling, men när han såg det målet som ouppnåeligt han vinkade att kompromissa. När det gäller valsätt ”Sherman flyttade för att tillåta varje statlig lagstiftare att välja sina egna senatorer”. Dessutom föreslog Sherman i huset ursprungligen att Representanthusets rösträtt skulle räknas enligt ”antalet fria invånare” i varje stat.
i denna plan, utformad för att vara acceptabel för både stora och små stater, skulle folket representeras proportionellt i en gren av lagstiftaren, kallad representanthuset (det lägre lagstiftande huset). Staterna skulle vara representerade i ett annat hus som heter senaten (överhuset). I underhuset hade varje stat en representant för varje delegat. I överhuset var varje stat garanterad två senatorer, oavsett storlek.Sherman är också minnesvärd för sin inställning mot papperspengar med sin författande av artikel i, Avsnitt 10 i USA: s konstitution och hans senare motstånd mot James Madison över ”Bill of Rights” – ändringarna av den amerikanska konstitutionen i sin tro att dessa ändringar skulle minska staternas roll och makt över folket.
Mr Wilson & Mr Sherman flyttade för att infoga efter orden ”myntpengar” orden ”eller emittera räkningar av kredit eller göra något annat än guld & silvermynt ett anbud vid betalning av skulder” vilket gör dessa förbud absoluta, istället för att göra åtgärder tillåtna (som i XIII art) med samtycke av lagstiftaren i USA … Herr Sherman tyckte att detta var en gynnsam kris för att krossa papperspengar. Om lagstiftarens samtycke skulle kunna tillåta utsläpp av det, skulle papperspengarnas vänner göra varje ansträngning för att komma in i lagstiftaren för att licensiera den.”
När det gäller verkställande Sherman hade mycket lite intresse av att ge verkställande mycket auktoritet. Sherman föreslog att ingen konstitutionell bestämmelse behövde göras för verkställande eftersom det var ”inget annat än en institution för att genomföra lagstiftarens vilja i kraft”.ursprungligen motsatt till slaveri på grund av hans personliga tro och puritanska åsikter, använde Sherman frågan om slaveri som ett verktyg för förhandlingar och allians. Sherman ansåg att slaveriet redan gradvis avskaffades och trenden rörde sig söderut. Sherman såg att frågan om slaveri kunde vara en som hotade framgången med den konstitutionella konventionen. Därför beslutade Sherman att hjälpa till att anta lagstiftning för att gynna slavstater för att få osannolika allierade från South Carolina. De två krafterna gick samman eftersom de båda, på grund av deras hemstaters ekonomier, gynnades av att det inte fanns någon exportskatt.Sherman motsatte sig utnämningen av undertecknaren Gouverneur Morris som minister till Frankrike eftersom han ansåg att den levande Patrioten var av ”irreligiös natur”.