Roger Sherman war eines der einflussreichsten Mitglieder des Verfassungskonvents. Er ist nicht bekannt für seine Aktionen auf dem Kongress, weil er ein „knapper, unredlicher Redner“ war, der im Gegensatz zu anderen prominenten Persönlichkeiten auf dem Kongress wie James Madison nie eine persönliche Aufzeichnung seiner Erfahrungen führte, und mit 66 Jahren war Sherman das zweitälteste Mitglied auf dem Kongress nach Benjamin Franklin (der damals 81 Jahre alt war). Doch als eines der aktivsten Mitglieder des Konvents machte Sherman 160 Mal Anträge oder Sekunden in Bezug auf den Virginia-Plan. Sein Gegner Madison machte Bewegungen oder Sekunden 177 mal.Roger Sherman kam in den Konvent ohne die Absicht, eine neue Verfassung zu schaffen. Sherman, ein ursprünglicher Unterzeichner der Artikel der Konföderation, sah in der Konvention ein Mittel zur Änderung der bereits bestehenden Regierung. Ein Teil seiner Haltung betraf den öffentlichen Appell. Er verteidigte die Änderung der Artikel und erklärte, dass dies im besten Interesse des Volkes und der wahrscheinlichsten Art und Weise sei, wie das Volk Änderungen einer Verfassung akzeptieren würde. Sherman sah keinen Grund für eine Zweikammergesetzgebung, wie vom Virginia-Plan vorgeschlagen. „Das Problem mit der alten Regierung war nicht, dass sie dumm gehandelt oder jemandes Freiheiten bedroht hatte, sondern dass sie einfach nicht in der Lage war, ihre Dekrete durchzusetzen. Sherman brachte die Idee weiter voran, dass die nationale Regierung einfach einen Weg brauchte, um Einnahmen zu erzielen und den Handel zu regulieren. Sherman war ein großer Verteidiger einer Einkammer-Legislative. Er verteidigte die Einkammergesetzgebung der Artikel der Konföderation mit der Feststellung, dass die großen Staaten nicht „durch die Hände kleiner Staaten wegen der Regel der gleichen Abstimmung gelitten“ hätten. Letztendlich, als Sherman seine anfänglichen Ziele der Konvention als unerreichbar ansah, organisierte er Kompromisse und Vereinbarungen, um einige seiner wünschenswerten Gesetze zu erlassen.Sherman stammte aus einem besonders isolationistischen Staat – Connecticut operierte fast ohne großen Bedarf von anderen Staaten aus und nutzte seine eigenen Häfen, um mit Westindien Handel zu treiben, anstatt Häfen in Boston zu nutzen – und befürchtete das „…die Masse der Menschen fehlte Weisheit genug, um sich selbst zu regieren und wollte daher keinen Zweig der Bundesregierung direkt vom Volk gewählt werden“.Sherman, Elbridge Gerry (selbst später als Namensgeber des amerikanischen politischen Gerrymandering anerkannt) und andere waren der gemeinsamen Meinung, dass die gewählte Zusammensetzung der nationalen Regierung der Stimme von Staatsbeamten und nicht der Wahl durch den Willen des Volkes vorbehalten sein sollte. Sherman war vorsichtig, normale Bürgerbeteiligung an der nationalen Regierung zu erlauben, und erklärte, dass die Leute „so wenig zu tun haben sollten, wie über die Regierung sein kann. Sie wollen Informationen und werden ständig in die Irre geführt“.
Die beiden vorgeschlagenen Optionen für die Bildung der Legislative ergaben sich in den Beratungen. Eine bestand darin, eine Zweikammer-Legislative zu bilden, in der beide Kammern proportional zur Bevölkerung der Staaten vertreten waren, was durch den Virginia-Plan unterstützt wurde. Die zweite bestand darin, die Einkammergesetzgebung zu ändern, die aus allen Staaten die gleiche Vertretung hatte, was durch den New Jersey-Plan unterstützt wurde. Roger Sherman war ein frommer Anhänger einer Einkammergesetzgebung, aber als er dieses Ziel als unerreichbar ansah, deutete er auf Kompromisse hin. In Bezug auf die Modi der Wahl „Sherman bewegt, damit jeder Staat Gesetzgeber, um seine eigenen Senatoren zu wählen“. Darüber hinaus schlug Sherman im Repräsentantenhaus ursprünglich vor, dass das Wahlrecht des Repräsentantenhauses nach der „Anzahl der freien Einwohner“ in jedem Staat berechnet werden sollte.In diesem Plan, der sowohl für große als auch für kleine Staaten akzeptabel sein sollte, würde das Volk proportional in einem Zweig der Legislative vertreten sein, dem Repräsentantenhaus (dem unteren Legislativhaus). Die Staaten würden in einem anderen Haus namens Senat (Oberhaus) vertreten sein. Im Unterhaus hatte jeder Staat einen Vertreter für jeden Delegierten. Im Oberhaus wurden jedem Staat unabhängig von seiner Größe zwei Senatoren garantiert.Sherman ist auch denkwürdig für seine Haltung gegen Papiergeld mit seinem Verfassen von Artikel I, Abschnitt 10 der Verfassung der Vereinigten Staaten und seine spätere Opposition gegen James Madison über die „Bill of Rights“ Änderungen der US-Verfassung in seinem Glauben, dass diese Änderungen die Rolle und Macht der Staaten über die Menschen verringern würden.
Mr. Wilson & Mr.Sherman bewegte sich, um nach den Worten „Münzgeld“ die Worte „noch emittieren Rechnungen von Krediten, noch machen etwas anderes als Gold & Silbermünze ein Angebot zur Zahlung von Schulden“ machen diese Verbote absolut, anstatt die Maßnahmen zulässig zu machen (wie in der XIII art) mit Zustimmung des Gesetzgebers der USA… Herr Sherman hielt dies für eine günstige Krise, um Papiergeld zu vernichten. Wenn die Zustimmung des Gesetzgebers Emissionen davon genehmigen könnte, würden die Freunde des Papiergeldes alle Anstrengungen unternehmen, um in den Gesetzgeber zu gelangen, um es zu lizenzieren.“
In Bezug auf die Exekutive hatte Sherman sehr wenig Interesse daran, der Exekutive viel Autorität zu geben. Sherman schlug vor, dass keine Verfassungsbestimmung für die Exekutive getroffen werden müsse, weil sie „nichts anderes als eine Institution sei, um den Willen der Legislative in Kraft zu setzen“.Sherman war ursprünglich aufgrund seiner persönlichen Überzeugungen und puritanischen Ansichten gegen die Sklaverei und nutzte das Thema Sklaverei als Instrument für Verhandlungen und Allianzen. Sherman war der Meinung, dass die Sklaverei bereits allmählich abgeschafft wurde und der Trend nach Süden ging. Sherman sah, dass die Frage der Sklaverei eine sein könnte, die den Erfolg des Verfassungskonvents bedrohte. Daher beschloss Sherman, Gesetze zu verabschieden, die Sklavenstaaten zugute kommen, um unwahrscheinliche Verbündete aus South Carolina zu gewinnen. Die beiden Kräfte schlossen sich zusammen, weil sie beide aufgrund der Wirtschaft ihrer Heimatstaaten davon profitierten, dass es keine Exportsteuer gab.Sherman widersetzte sich der Ernennung von Mitunterzeichner Gouverneur Morris als Minister nach Frankreich, weil er diesen hochlebenden Patrioten für „irreligiös“ hielt.