Heinrich Friedrich Karl Reichsfreiherr vom und zum Stein wurde am 25. Oktober 1757 in Nassau an der Lahn als Sohn von Karl Philipp Reichsfreiherr vom und zum Stein und seiner Frau Henriette Karoline Langwerth von Simmern geboren. Stein wuchs im Familienschloss in der Ortsmitte von Nassau auf. Er war das zweitjüngste Kind von insgesamt neun Geschwistern. Steins Familie besaß entlang des Rheins und der Lahn mehrere kleine Güter. Durch die häufige dienstliche Abwesenheit des Vaters lag die frühe Erziehung Steins überwiegend in den Händen der Mutter. Karl vom Stein war der Lieblingssohn der Mutter.
Im Alter von sechzehn Jahren nahm Stein ein Studium der Jura, Geschichte und Kameralwissenschaften an der Universität Göttingen auf. Wie damals für Studenten adeligen Standes üblich war, verließ er die Universität 1777 ohne Abschluss. Da sein Studium vor allem auf den Reichsdienst ausgerichtet war, absolvierte Stein anschließend ein Praktikum beim Reichskammergericht in Wetzlar. Dort trat er auch einer Freimaurerloge link* bei. 1780 trat Stein in den preußischen Staatsdienst ein. Als Referendar wurde er in Berlin beim Bergwerks- und Hüttendepartment des Generaldirektoriums angestellt. Stein absolvierte eine entsprechende Fachausbildung, teilweise an der sächsischen Bergakademie in Freiberg. Ausgedehnte Dienstreisen mit dem Minister vervollständigten seine Kenntnisse. Als Direktor der Bergämter Wetter an der Ruhr und Ibbenbüren war Stein ab 1784 für den Wegebau, den Ruhrkanal und die Organisation des unter staatlicher Aufsicht betriebenen Bergbaus zuständig.
Im Jahr 1786 machte er eine Reise nach England, um dort den Bergbau, Kanalbau und die Anfänge der industriellen Revolution zu studieren. Die erworbenen Kenntnisse konnte er nach seiner Rückkehr teilweise im Ruhrbergbau umsetzen. Im Jahr 1787 wurde Stein Leiter der märkischen Kriegs- und Domänenkammern in Hamm. In dieser Zeit war er für die Schiffbarmachung der Ruhr verantwortlich, ließ als einer der ersten in Deutschland einige Meilen befestigter Chausseen anlegen. Außerdem sorgte er für eine Beschränkung der Steuern und eine Liberalisierung der Verkehrs- und Gewerbebestimmungen. Seit 1793 war er zusätzlich Präsident der Kammer des Herzogtums Kleve mit Sitz in Kleve. In demselben Jahr heiratete er Gräfin Wilhelmine von Wallmoden. Sie war Tochter von einem hannoverschen General. Mit ihr hatte Stein drei Töchter.
Als leitender Beamter war Stein in seinen Provinzen für eine umfassende Steuerreform zuständig, die für die Einwohner einer Verringerung der Abgaben bedeutete. Im Jahr 1796 wurde Stein zum Oberkammerpräsidenten aller westlichen preußischen Territorien ernannt. Im Auftrag Berlins sorgte er für eine Förderung der Wirtschaft durch Abbau von Vorschriften, Zöllen und ähnlichen ökonomischen Hemmnissen. Zwischen Bielefeld und Osnabrück ließ er eine befestigte Straße erbauen und sorgte für die Verbesserung des Schiffsverkehrs auf der Weser.
1804 wurde Stein als königlicher Finanz- und Wirtschaftsminister ins Generaldirektorium nach Berlin berufen, wo er für das Akzise-, Zoll-, Fabrik- und Kommerzialwesen zuständig war. Der für Preußen mißlungene Feldzug gegen Napoleon führte zur Flucht des Hofes nach Königsberg. Dabei sorgte Stein für die Rettung der Staatskassen. Infolge der verlorenen Schlacht bei Jena und Auerstedt war der preußische Staat zu Veränderungen gezwungen. Stein empfahl, den Krieg gegen Napoleon mit allen Kräften fortzusetzen, forderte grundlegende Reformen in der Struktur des Staates und plädierte für ein Staatsministerium aus verantwortlichen Ministern, die mit dem Monarchen zusammenarbeiten.
Die Aufforderung, das Außenministerium anzunehmen, um den Frieden zu erreichen, lehnte Stein schroff ab, was zu seiner Entlassung führte. Stein zog sich nach der Entlassung auf seine Besitzungen in Nassau zurück. 1807 verfasste Stein die Nassauer Denkschrift link* als Reformprogramm für den preußischen Staat. Im Zentrum stand die Reform der Verwaltung. Dazu gehörte die Forderung nach Selbstverwaltung für Provinzen, Kreise und Gemeinden. Im Juli 1807 wurde Stein zum Staatsminister berufen. In den nächsten vierzehn Monaten wurden die wichtigsten Reformgesetze erlassen oder vorbereitet. Besonders deutlich war Steins Handschrift in der neuen Städteordnung vom November 1808. Im Bereich der staatlichen Verwaltung ließ Stein das bisherige Generaldirektorium auflösen. An dessen Stelle trat ein Staatsministerium mit fünf Fachministern für Inneres, Finanzen, Auswärtiges, Krieg und Justiz. Als beratendes Gremium war zusätzlich ein Staatsrat vorgesehen.
Anfangs setzte Stein auf eine Erfüllungs- und Koexistenzpolitik gegenüber Napoleon. Mit der Zeit setzte Stein auf einen allgemeinen Volksaufstand im nördlichen Deutschland und ein Bündnis mit Österreich. Die oppositionelle Haltung Steins gegenüber den Besatzern kam in einem abgefangenen Brief zum Ausdruck, der in der französischen Regierungszeitung abgedruckt wurde. Napoleon erklärte Stein zu einem Feind Frankreichs und befahl, die Besitzungen Steins zu beschlagnahmen und Stein erschießen zu lassen. Friedrich Wilhelm III., der keinen Bruch mit Frankreich riskieren wollte, entließ Stein 1808 mit Dank für die geleisteten Dienste und der Fortzahlung seines Ministergehalts für ein Jahr. Stein flüchtete nach Böhmen und verbrachte dort mehr als drei Jahre. Mit großer Sympathie beobachtete er den Aufstand der Tiroler um Andreas Hofer link*. Im Exil entwarf er verschiedene Verfassungskonzepte für eine deutsche Verfassung.
Im Zusammenhang mit dem drohenden Krieg mit Frankreich begann Zar Alexander I. Napoleons Gegner an seinen Hof zu ziehen. Zu diesen gehörte auch Stein, der zu einem Berater des Zaren wurde, ohne in ein offizielles Dienstverhältnis zu treten. Er begann für den antinapoleonischen Widerstand zu werben. Stein unterstützte Justus von Gruner link*, der von Prag aus ein Spionage- und Agentennetz aufbaute. Er selbst entwickelte in seiner Petersburger Denkschrift 1812 einen Plan für einen erfolgreichen Krieg in Deutschland und legte auch seine Ideen für eine zukünftige politische Gestaltung Deutschlands vor. Mit dem Hauptquartier des Zaren zog Stein in Richtung der preußischen Grenze. Auf ostpreußischem Gebiet ließ Stein im Auftrag des Zaren sofort Landwehreinheiten bilden.
Im März 1813 schloss Friedrich Wilhelm III., vermittelt durch Stein, ein Bündnis mit Russland, und der Befreiungskrieg wurde proklamiert. In dieser Zeit präzisierte Stein seine Verfassungsvorstellungen. Um das Übergewicht Österreichs nicht zu groß werden zu lassen, forderte Stein eine Stärkung Preußens. Während des Krieges und nach dem Sieg der Alliierten legte Stein zahlreiche Vorstellungen zur Neuordnung Deutschlands und Europas vor. Sowohl seine Kritik am russischen Plan, in Polen einen abhängigen Staat zu errichten, wie auch seine Forderung nach einer Verschiebung der französischen Grenze nach Westen wurden abgelehnt. Zwar war er als russischer Gesandter auf dem Wiener Kongress, doch war sein Einfluss gering.
Im Jahr 1816 hatte Stein seine Herrschaft in der Provinz Posen gegen die Güter und das Gebäude des ehemaligen Klosters Cappenberg in Westfalen getauscht. Zusätzlich erwarb er 1823 das ehemalige Kloster Scheda. Zusammen mit Cappenberg wurden die Besitzungen Steins 1826 zu einer Standesherrschaft erhoben. Dieser Titel war dabei an seine Person gebunden und nicht erblich. Gelebt hat Stein mit seiner Familie zunächst überwiegend in Frankfurt. Nach dem Tod seiner Frau im Jahr 1819 machte er mit seinen Töchtern ausgedehnte Reisen in die Schweiz und nach Italien. Seinen Frankfurter Wohnsitz gab er 1824/25 auf und hielt sich seither entweder in Nassau oder auf Cappenberg auf. Die Position eines Bundestagsgesandten, die ihm sowohl von Österreich wie auch von Preußen angetragen wurde, lehnte Stein ab. Er unterstützte teilweise mit erheblichen Geldbeträgen die Freiheitsbewegung in Griechenland und stand vergleichbaren nationalen Bewegungen, etwa in Polen oder in Süd- und Mittelamerika, positiv gegenüber. Scharf kritisierte er die belgische Revolution, da er in dem neuen Staat eine „Pöbelherrschaft“ befürchtete.
Steins Interessen galten der Geschichte. 1819 fand die Gründung der „Gesellschaft für ältere deutsche Geschichtskunde“ in Steins Wohnung in Frankfurt statt. Präsident der Gesellschaft wurde Stein. Bis 1824 leitete er die Arbeiten, kümmerte sich auch weiter um die Organisation des Projekts. Der erste Band mit Quellen zur Karolingerzeit erschien 1826. In seinen letzten Lebensjahren litt Stein an einem Lungenleiden und Herzkrankheiten. Am 29. Juni 1831 starb er im Alter von 73 Jahren in Cappenberg. Begraben liegt Stein in der Familiengruft in Frücht bei Bad Ems, die er selber bauen ließ.
Zum Gedenken an den Freiherr vom und zum Stein wurden zahlreiche Schulen, Plätze und StraSen nach ihm benannt. Ebenso gibt es viele Denkmäler in Berlin oder am Rathaus von Wetter/ Ruhr. So ist er auch Ehrenbürger der Stadt Frankfurt am Main. 1952 wurde die Freiherr-vom-Stein-Gesellschaft gegründet, die sich mit den Ideen und Gedanken des Freiherrn auseinandersetzt, um sie der Öffentlichkeit zugänglich zu machen. Einige Auszeichnungen erinnern heute an diese Persönlichkeit, solche wie die „Freiherr- vom- Stein- Medaille“, eine Auszeichnung für Bürger, “die sich durch ehrenamtliche Tätigkeit oder als kommunale Ehrenbeamte verdient gemacht haben“. Diese Auszeichnung wird regelmäßig für “pionierhafte Leistungen auf wirtschaftlichem, sozialem, und kulturellem Gebiet sowie im Bereich der bürgernahen oder kommunalen Selbstverwaltung“ verliehen.
Die Verleihung findet immer am Geburtstag des Namengebers statt. Seine Geburtsstadt Nassau an der Lahn feierte 2007 seinen 250. Geburtstag mit einem Freiherr-von-Stein Jahr.