en af de store konflikter inden for arbejderbevægelsen eksisterede mellem fagforeningerne og de industrielle fagforeninger. Da American Federation of Labor angav modvilje mod at organisere ufaglærte arbejdere, oprettede John L. Levis Udvalget for industriel organisation inden for AFL i 1935. I det følgende år, uvillig til at imødekomme CIO ‘ s krav, udviste AFL medlemmerne af CIO, der organiserede sig i Kongressen for industrielle organisationer to år senere.Da han indså, at enhver gevinst, der blev vundet for minearbejdere, kunne gå tabt, hvis han ikke organiserede sådanne “fangede miner” som dem, der ejes af stålproducenternes United States Steel Company, der alene beskæftigede 170.000 arbejdere. Fordi det betød at inkludere ufaglærte såvel som faglærte arbejdere, var mange af fagforeningerne inden for AFL imod bestræbelserne på at organisere masseproduktionsindustrier. CIO viste sig at være meget succesrig og havde inden for få år organiseret stort stål, bil, gummi og andre større industrier. Det forværrede skismaet inden for AFL, som nægtede at acceptere de nye fagforeninger, fordi de så ned på både industriarbejdere og industrielle fagforeninger som ufaglærte arbejdere. da han ikke så nogen fremtid for industrielle fagforeninger inden for AFL-rammen, trak han dem tilbage og oprettede Kongressen for industrielle organisationer i 1938, hvoraf han blev den første præsident. Ved stiftelseskonventionen, der blev afholdt i Pittsburgh, Pennsylvania, fra 14.til 18. November 1938, anerkendte han Samuel Gompers bestræbelser på at organisere arbejdskraft på et tidligere tidspunkt i den amerikanske økonomi, men påpegede AFL ‘ s manglende evne til at organisere masserne af arbejdere i de store industrivirksomheder.På samme tid, mindre end et år før krigsudbruddet i Europa, mindede han de økonomiske og erhvervsledere i Amerika om, at når, som da syntes sandsynligt, at Amerika ville blive trukket ind i en verdenskonflikt, ville det være arbejdskraft, ikke Ledelse og ikke ejerne, der ville bevare demokratiet ved deres service.In 1940, i et forsøg på at bruge sin prestige til at svinge præsidentresultatet, lovede han at træde tilbage som CIO-præsident, hvis Franklin Roosevelt blev genvalgt. Roosevelt havde oprindeligt støttet Roosevelt i sine to første perioder, men begyndte senere at føle sig demokrat Roosevelt støttede ikke fagforeninger, og hvis en republikansk kandidat blev valgt ved hjælp af Labour-stemmer, ville fagforeningen blive belønnet. Efter at have opfyldt sit løfte gik formandskabet til Philip Murray, præsident for De Forenede stålarbejdere. Murray bevarede sin stilling indtil sin død i 1952. De Forenede bilarbejdere blev den sidste præsident for CIO forud for dens historiske fusion med AFL.Medlemskabet i CIO steg fra fire millioner i 1938 til seks millioner i 1945. I 1949 og 1950 udviste CIO 11 tilknyttede fagforeninger for at have kommunistiske bånd. Selvom næsten 650.000 medlemmer havde været i disse fagforeninger, sluttede mange sig til CIO i fagforeninger, der var etableret som alternativer til dem, som det anså for at være kommunistisk domineret.Sondringen mellem en rent håndværksforening AFL og den primært industrielle union CIO, sløret gennem årene. På grund af uenigheder mellem fraktioner blev fagforeningerne i nogle brancher opdelt i en AFL-union og en CIO-union. Det International Ladies Garment Arbejderunion var en af de oprindelige CIO fagforeninger, men det vendte snart tilbage til AFL.Således i 1952, det år, hvor præsidenterne for både AFL og CIO døde, havde afl næsten halvdelen af sit medlemskab i industrielle fagforeninger. Over tid blev trangen til at fusionere stærkere, og i 1955 fusionerede de to organisationer gennem Reuther ‘ s indsats til AFL-CIO. Fra 2005 omfattede federation of AFL-CIO mere end 13 millioner amerikanske arbejdere i 58 medlemsforeninger i næsten alle sektorer i den amerikanske økonomi.