Teoretycznym i praktycznym ojcem pomp ciepła jest W. Thomson (alias Lord Kelvin). On jako pierwszy przedstawił podstawy teoretyczne pomp ciepła, skonstruował pierwsza pompę a wyniki swoich badań opublikował w 1898 r. w Blasberg (Niemcy). Pompa Kelvina służyła do warzenia soli.

Z Niemiec zainteresowanie konstrukcją i możliwościami pompy przeniosło się do Szwajcarii i ten kraj przez wiele lat był potentatem tej technologii. W 1914 r. w Szwajcarii jedna z pierwszych pomp ciepła była używania w farbiarni. Pierwsza pompę, która służyła do ogrzewania domu zbudowano w 1928 r. W kolejnych latach urządzenia te zyskały sobie dużą popularność. Służyły głównie do ogrzewania dużych budynków: w Zurychu (1938 r.) ratusza i politechniki, w Los Angeles (1931 r.) biurowca.

Po II wojnie światowej najbardziej rozpowszechniły się w USA, gdzie wykorzystywano te technologie do ogrzewania domów, a także przy instalacjach klimatyzacyjno-chłodzących. Boom na pompy ciepła nastąpił w 1973 r. po wielkim kryzysie energetycznym.

Dziś najwięcej pomp ciepła zainstalowanych jest w Niemczech i Szwecji. W obu tych krajach rządy krajowe jak i poszczególnych regionów od lat prowadzą politykę wspierającą inicjatywy proekologiczne, a więc i dotyczące instalowania pomp ciepła. Jednym z najjaskrawszych przykładów wykorzystania tej technologii jest choćby 100-tysięczne osiedle Ropsten w Sztokholmie - ogrzewane pompami ciepła wykorzystującymi ciepło i energię wody oraz przybrzeżnych fal morskich.

W Polsce pierwsze pompy ciepła zrealizowano w 1995 r. Rok później powstał pierwszy polski podręcznik dotyczący zasad działania i montażu tych instalacji.