Roger Sherman był jednym z najbardziej wpływowych członków Konwencji Konstytucyjnej. Nie jest dobrze znany ze swoich działań na konwencji, ponieważ był „zwięzły, nieomówny mówca”, który nigdy nie prowadził osobistego rekordu swojego doświadczenia, w przeciwieństwie do innych wybitnych postaci na konwencji, takich jak James Madison, a w wieku 66 lat, Sherman był drugim najstarszym członkiem na konwencji PO Benjaminie Franklinie (który miał 81 lat w tym czasie). Mimo to, jako jeden z najaktywniejszych członków Konwentu, Sherman 160 razy odwoływał się do planu Virginii. Jego przeciwnik Madison wykonał ruchy lub sekundy 177 razy.
Roger Sherman wszedł na konwent bez zamiaru stworzenia nowej konstytucji. Sherman, oryginalny sygnatariusz artykułów Konfederacji, postrzegał konwencję jako sposób na modyfikację już istniejącego rządu. Część jego stanowiska dotyczyła apelu publicznego. Bronił poprawek w artykułach deklarujących, że jest to w najlepszym interesie narodu i najbardziej prawdopodobny sposób, w jaki lud zaakceptuje zmiany w konstytucji. Sherman nie widział powodu do dwuizbowego legislatury, zgodnie z planem Virginii. „Problem ze starym rządem nie polegał na tym, że działał głupio lub zagrażał niczyjej wolności, ale że po prostu nie był w stanie wyegzekwować swoich dekretów”. Sherman dalej rozwijał pomysł, że rząd narodowy po prostu potrzebował sposobu na zwiększenie dochodów i regulację handlu. Sherman był wielkim obrońcą jednoizbowej władzy ustawodawczej. Bronił jednoizbowej legislatury artykułów Konfederacji, stwierdzając, że duże państwa nie „ucierpiały z rąk małych państw z powodu zasady równego głosowania”. Ostatecznie, gdy Sherman widział swoje początkowe cele Konwencji jako nieosiągalne, organizował kompromisy i umowy w celu uchwalenia niektórych z jego pożądanych przepisów.
Sherman pochodził ze szczególnie izolacjonistycznego stanu-Connecticut operował niemal bez większych potrzeb ze strony innych stanów, wykorzystując własne porty do handlu z Indiami Zachodnimi zamiast wykorzystywać porty w Bostonie-i obawiał się tego „…masa ludzi nie miała wystarczającej mądrości, aby rządzić sobą i dlatego nie życzyła sobie, aby żadna gałąź rządu federalnego była wybierana bezpośrednio przez ludzi”.Sherman, Elbridge Gerry (sam później uznany za imiennika amerykańskiej polityki gerrymandering) i inni byli zdania, że wybrany skład rządu narodowego powinien być zarezerwowany dla głosowania urzędników państwowych, a nie dla wyborów z woli ludu. Sherman był nieufny w dopuszczaniu do udziału zwykłych obywateli w rządzie narodowym i stwierdził, że ludzie ” powinni mieć tak mało do zrobienia ,jak może być o rządzie. Chcą informacji i ciągle mogą być wprowadzani w błąd”.
w obradach wyłoniły się dwa proponowane warianty utworzenia oddziału legislacyjnego. Jednym z nich było utworzenie dwuizbowej legislatury, w której obie izby miały reprezentację proporcjonalną do populacji Stanów, co zostało poparte planem Wirginii. Drugim było zmodyfikowanie jednoizbowego ustawodawcy, który miał równą reprezentację ze wszystkich stanów, co było wspierane przez plan New Jersey. Roger Sherman był gorliwym zwolennikiem jednoizbowej władzy ustawodawczej, ale kiedy zobaczył ten cel jako nieosiągalny, skierował się na kompromis. Jeśli chodzi o tryb wyborów „Sherman postanowił umożliwić każdej legislaturze stanowej wybór własnych senatorów”. Dodatkowo, w Izbie Sherman pierwotnie zaproponował, aby wybory do Izby Reprezentantów były ustalane według „liczby wolnych mieszkańców” w każdym stanie.
w tym planie, który ma być akceptowalny zarówno dla dużych, jak i małych Stanów, ludzie będą reprezentowani proporcjonalnie w jednej gałęzi ustawodawcy, zwanej Izbą Reprezentantów (niższą Izbą ustawodawczą). Stany będą reprezentowane w innej Izbie zwanej Senatem (izba wyższa). W izbie niższej każdy stan miał swojego przedstawiciela na każdego delegata. W izbie wyższej każdemu stanowi gwarantowano po dwóch senatorów, niezależnie od jego wielkości.
Sherman jest również pamiętny ze swojego stanowiska przeciwko papierowym pieniądzom z jego autorstwem artykułu I, sekcja 10 Konstytucji Stanów Zjednoczonych i jego późniejszy sprzeciw wobec Jamesa Madisona nad poprawkami „Bill of Rights” do Konstytucji Stanów Zjednoczonych w jego przekonaniu, że te poprawki zmniejszą rolę i władzę Stanów nad narodem.
Pan Wilson & Pan Sherman przeniósł się, aby wstawić po słowach „Money money” słowa „ani nie emitują weksli kredytowych, ani nie robią niczego poza złotem & srebrna moneta przetarg na spłatę długów” czyniąc te zakazy absolutnymi, zamiast podejmowania środków dopuszczalne (jak w XIII art.) za zgodą ustawodawcy USA … Pan Sherman uważał to za korzystny kryzys dla rozdrabniania papierowych pieniędzy. Gdyby zgoda ustawodawcy mogła zezwalać na jego emisję, przyjaciele pieniądza papierowego podejmowaliby wszelkie wysiłki, aby dostać się do ustawodawcy w celu uzyskania licencji.”
Sherman zasugerował, że żaden przepis Konstytucyjny nie musi być wykonany dla władzy wykonawczej, ponieważ był „niczym więcej niż instytucją do wykonywania woli ustawodawcy w życie”.
początkowo sprzeciwiał się niewolnictwu ze względu na swoje osobiste przekonania i purytańskie poglądy, Sherman używał kwestii niewolnictwa jako narzędzia negocjacji i sojuszu. Sherman był zdania, że niewolnictwo zostało już stopniowo zniesione, a trend przesuwał się na południe. Sherman widział, że kwestia niewolnictwa może zagrażać sukcesowi Konwencji Konstytucyjnej. W związku z tym Sherman postanowił pomóc w uchwaleniu przepisów, które przyniosłyby korzyści stanom niewolniczym w celu pozyskania mało prawdopodobnych sojuszników z Karoliny Południowej. Obie siły połączyły się ze sobą, ponieważ obie, ze względu na gospodarkę swoich państw, skorzystały z braku podatku eksportowego.
Sherman sprzeciwił się mianowaniu gouverneura Morrisa ministrem Francji, ponieważ uważał tego wysoko żyjącego patriotę za „niereligijną naturę”.