Roger Sherman était l’un des membres les plus influents de la Convention constitutionnelle. Il n’est pas bien connu pour ses actions à la Convention parce qu’il était un « orateur laconique et inéloquant » qui n’a jamais tenu de compte personnel de son expérience, contrairement à d’autres personnalités de la convention telles que James Madison, et à 66 ans, Sherman était le deuxième membre le plus âgé de la convention après Benjamin Franklin (qui avait 81 ans à l’époque). Pourtant, en tant que l’un des membres les plus actifs de la Convention, Sherman a fait des motions ou des secondes en référence au Plan de Virginie 160 fois. Son adversaire Madison a fait des mouvements ou des secondes 177 fois.
Roger Sherman est entré à la Convention sans l’intention de créer une nouvelle constitution. Sherman, l’un des premiers signataires des Articles de la Confédération, voyait dans la convention un moyen de modifier le gouvernement déjà existant. Une partie de sa position concernait l’appel public. Il a défendu la modification des articles déclarant que c’était dans le meilleur intérêt du peuple et la manière la plus probable pour le peuple d’accepter des modifications d’une constitution. Sherman ne voit aucune raison pour une législature bicamérale, comme le propose le Plan de Virginie. « Le problème avec l’ancien gouvernement n’était pas qu’il avait agi bêtement ou menacé les libertés de quiconque, mais qu’il avait simplement été incapable d’appliquer ses décrets ». Sherman a avancé l’idée que le gouvernement national avait simplement besoin d’un moyen d’augmenter les revenus et de réglementer le commerce. Sherman était un grand défenseur d’une législature monocamérale. Il a défendu la législature monocamérale des Articles de la Confédération en déclarant que les grands États n’avaient pas « souffert aux mains des petits États en raison de la règle de l’égalité de vote ». En fin de compte, lorsque Sherman a vu ses objectifs initiaux de la convention comme inaccessibles, il a organisé des compromis et des accords afin de promulguer certaines de ses lois souhaitables.
Sherman venait d’un État particulièrement isolationniste – le Connecticut opérait presque sans grand besoin d’autres États, utilisant ses propres ports pour commercer avec les Antilles au lieu d’utiliser les ports de Boston – et craignait que « …la masse du peuple manquait de sagesse suffisante pour se gouverner et souhaitait donc qu’aucune branche du gouvernement fédéral ne soit élue directement par le peuple « .Sherman, Elbridge Gerry (lui-même reconnu plus tard comme l’homonyme du gerrymandering politique américain) et d’autres étaient d’avis partagé que la composition élue du gouvernement national devrait être réservée au vote des représentants de l’État et non à l’élection par la volonté du peuple. Sherman se méfiait de permettre la participation des citoyens ordinaires au gouvernement national et a déclaré que le peuple « devrait avoir aussi peu à faire que possible à propos du gouvernement. Ils veulent des informations et sont constamment susceptibles d’être induits en erreur « .
Les deux options proposées pour la formation du pouvoir législatif ont émergé au cours des délibérations. L’une consistait à former une législature bicamérale dans laquelle les deux chambres étaient représentées proportionnellement à la population des États, ce qui était soutenu par le plan de Virginie. La seconde consistait à modifier la législature monocamérale qui avait une représentation égale de tous les États, ce qui était soutenu par le plan du New Jersey. Roger Sherman était un fervent partisan d’une législature monocamérale, mais quand il a vu que cet objectif était inaccessible, il a fait signe de faire un compromis. En termes de modes d’élection, « Sherman a décidé de permettre à chaque législature de l’État d’élire ses propres sénateurs ». De plus, à la chambre, Sherman a proposé à l’origine que le suffrage de la Chambre des représentants soit calculé en fonction du « nombre d’habitants libres » dans chaque État.
Dans ce plan, conçu pour être acceptable pour les grands et les petits États, le peuple serait représenté proportionnellement dans une branche de la législature, appelée Chambre des représentants (la chambre législative inférieure). Les États seraient représentés dans une autre chambre appelée le Sénat (la chambre haute). À la chambre basse, chaque État avait un représentant pour chaque délégué. À la chambre haute, chaque État se voyait garantir deux sénateurs, quelle que soit sa taille.
Sherman est également mémorable pour sa position contre le papier-monnaie avec son auteur de l’article I, section 10 de la Constitution des États-Unis et son opposition ultérieure à James Madison sur les amendements à la « Déclaration des droits » de la Constitution des États-Unis dans sa conviction que ces amendements diminueraient le rôle et le pouvoir des États sur le peuple.
M. Wilson &M. Sherman a décidé d’insérer après les mots « pièce de monnaie » les mots « ni émettre de lettres de crédit, ni faire autre chose que de l’or &pièce d’argent une offre en paiement de dettes » rendant ces interdictions absolues, au lieu de faire la monnaie d’argent une offre en paiement des dettes » mesures admissibles (comme dans le XIII art) avec le consentement de la législature des États-Unis… M. Sherman pensait qu’il s’agissait d’une crise favorable à l’écrasement du papier-monnaie. Si le consentement de la Législature pouvait en autoriser les émissions, les amis du papier-monnaie feraient tout leur possible pour entrer dans la Législature afin de l’autoriser. »
En ce qui concerne l’exécutif, Sherman avait très peu d’intérêt à donner beaucoup d’autorité à l’exécutif. Sherman a suggéré qu’aucune disposition constitutionnelle ne devait être prise pour l’exécutif car ce n’était « rien de plus qu’une institution pour mettre en œuvre la volonté du Législateur ».
Initialement opposé à l’esclavage en raison de ses croyances personnelles et de ses opinions puritaines, Sherman a utilisé la question de l’esclavage comme un outil de négociation et d’alliance. Sherman était d’avis que l’esclavage était déjà progressivement aboli et que la tendance se déplaçait vers le sud. Sherman a vu que la question de l’esclavage pouvait menacer le succès de la convention constitutionnelle. Par conséquent, Sherman a décidé d’aider à adopter une législation au profit des États esclavagistes afin d’obtenir des alliés improbables de la Caroline du Sud. Les deux forces se sont unies parce qu’elles bénéficiaient toutes les deux, en raison des économies de leurs États d’origine, de l’absence de taxe à l’exportation.
Sherman s’opposa à la nomination de son collègue Gouverneur Morris comme ministre en France parce qu’il considérait que ce patriote de haut niveau était de » nature irréligieuse « .