Varmevekslere kan være laget av en rekke forskjellige materialer, selv om metaller, for eksempel rustfritt stål, ofte brukes på grunn av deres evne til å absorbere og lede varme. I tillegg til metaller, keramikk, metall og keramikkbaserte kompositter og plast kan brukes til å lage varmevekslere. Hvert av disse materialene har sine egne fordeler, noe som gjør dem egnet for forskjellige bruksområder.
Metaller tilbyr god termisk ledningsevne, varmeabsorpsjon og høy temperaturbestandighet, men keramikk kan brukes til høyere temperaturapplikasjoner på over 1000 grader, noe som vil smelte metaller som kobber, jern og stål. Keramikk brukes også med høy- og lavtemperaturslipende og korrosive væsker.
Plast, eller polymerer, kan også motstå korrosjon og begroing, i tillegg til å være rimeligere og lettere enn metaller. Selv om de kan konstrueres for å ha god varmeledningsevne, er plast generelt ikke egnet for høytemperaturapplikasjoner. Men med kjøligere applikasjoner, som oppvarming av svømmebasseng eller dusj, fungerer plastvarmevekslere utmerket.
Komposittvarmevekslere leverer fordelene til sine grunnmaterialer, som den lavere vekten og korrosjonsmotstanden til plast med den termiske ledningsevnen og varmebestandigheten til en keramikk eller metall.
Andre materialer blir også utforsket for bruk i varmevekslere, for eksempel bittesmå karbon nanorør, som brukes som varmefjernende kjøleribber for elektroniske enheter på grunn av deres utmerkede varmeledende egenskaper.