Jacob Grimm wurde am 4. Januar 1785 in Hanau als das älteste Kind einer calvinistischen Beamten- und Pastorenfamilie geboren. Der Vater Philipp Wilhelm Grimm starb 1796 an einer Lungenentzündung. Zwei Jahre nach dem Tod ihres Mannes schickte Dorothea Grimm ihre beiden ältesten Söhne zum Lyceum Fridericianum in Kassel. 1802 begann zunächst Jacob Grimm, ein Jahr später auch sein Bruder Wilhelm mit einem Jurastudium an der Universität in Marburg. Aber ihre Fähigkeiten zu lernen waren so riesig, dass die beiden nicht nur Jura studierten, sondern auch viele Sprachen und die Abstammung der Sprachen zusammen mit Geschichte und Literaturwissenschaft. In ihrer Freizeit gestallteten sie immer mit Kollegen Lesegruppen, oder studierten die Forschung der Geschichte und Literatur. Sie betrachteten den Lehrplan der Universität sehr kritisch und machten lieber allein ihr Studium.
Professor Carl Friedrich von Savigny*, einer der Lehrer der Brüder, gewährte den wissenshungrigen Studenten Zugang zu seiner Privatbibliothek und brachte ihnen die Werke der Romantik und des Minnesangs näher, da sie mit den Werken von Schiller und Goethe bereits vertraut waren. Wesentlichen Einfluss auf Wilhelm und Jacob Grimm übte auch Johann Gottfried Herder aus. Die Brüder erforschten die geschichtliche Entwicklung der deutschsprachigen Literatur, Sagen, Dichtung und Urkunden. Da zu ihrer Zeit irische, schottische und englische Quellen in Mode waren, dehnten die Brüder ihr Arbeitsgebiet auf Spanien, Serbien, Skandinavien, die Niederlande und Finnland aus.
Savigny machte die Gebrüder auch mit der Literatur der Romantik bekannt. Clemens Brentano und Achim von Arnim brachten sie in den Heidelberger Kreis der Romantiker*, dessen Mitglieder sich für Geschichte und Kultur ihres Landes interessierten. Die beiden Brüder entwickelten schnell ein großes Interesse an der "herrlichen altdeutschen Literatur".
1808, nach dem Tod der Mutter, wurde Jacob Grimm Privatbibliothekar des westfälischen Königs Jérome Bonaparte. Längst hatten die Gebrüder Grimm ihr Interesse an Mythen, Sagen, Märchen und Volksliedern entdeckt. 1812 veröffentlichten sie den ersten Band der von ihnen gesammelten Kinder- und Hausmärchen. Vier Jahre später folgte der erste Band deutscher Sagen. Als Wegbereiter der Volkskunde gingen die Brüder Grimm durch ganz Deutschland, um Volksmärchen zu finden. Sie sprachen mit Dienstmädchen, Zimmermännern, Schäfern, Freunden von der Universität und fast mit jedem, der eine Geschichte zu erzählen hatte. In den folgenden Jahren veröffentlichten die Gebrüder so viele Werke, dass sie sich mit 30 Jahren bereits eine herausragende Stellung erarbeitet hatten, obwohl sie nicht viel damit verdienten. Doch hatten sie Förderer und Gönner, die ihnen die Publikationen ermöglichten.
Die beiden Brüder waren bis 1829 an der Bibliothek in Kassel beschäftigt, Jacob war von 1816 Bibliothekar. In diese schöpferische Zeit in Kassel fiel die Arbeit Jacob Grimms an der „Deutschen Grammatik“. Es handelt sich hier nicht um eine trocken-schematische Beschreibung des Aufbaus der zeitgenössischen Sprache. Jacob wollte „ein historisches Leben mit allem Fluss freudiger Entwickelung in sie zaubern“. Das umfangreiche Werk bezieht sich auf sämtliche germanischen Sprachen, ihre Zusammenhänge und ihre geschichtliche Entwicklung. Der erste Band beschäftigte sich zunächst mit Flexion, der zweite mit Wortbildung. Bis 1822 überarbeitete Jacob den ersten Band, so dass dieser eher die Lautbildung zum Inhalt hatte. In diesem bahnbrechenden Werk verfolgte Jacob als erster die Entwicklung der heute „indoeuropäisch“ genannten Sprachen und die Gesetze des Lautwechsels bei Vokalen und Konsonanten. Damit legte er das Fundament für die moderne Etymologie. Im Jahr 1814 übersetzte Jacob die serbische Grammatik und versah sie mit einer Einführung in slawische Sprachen und ihre Literatur. Ebenso bahnbrechend war Jacobs Studie „Deutsche Rechtsaltertümer“ (1828), in der er sich nicht mit Gesetzesvorschriften, sondern mit mittelalterlicher Rechtspraxis und Rechtsanschauung befasste. Sie wurde Anlass zu entsprechenden Untersuchungen in anderen Ländern.
1825 vermählte sich Wilhelm Grimm mit der Apothekerstochter Henrietta Dorothea Wild, die von da an ihren gemeinsamen Haushalt führte. Jacob heiratete nie. Für ihn war es genug, Onkel zu sein. Glücklicherweise mochte Dortchen Jacob, und alle wohnten glücklich zusammen.
Weil Jacob Grimm nach dem Tod des Oberbibliothekars in Kassel nicht befördert wurde, zogen er und sein Bruder 1829 frustriert nach Göttingen. Jacob war hier an der Universität seit 1830 ordentlicher Professor. Jacob veröffentlichte bis 1837 zwei weitere Bände der „Deutschen Grammatik“. Im Jahr 1834 konnte er auch den 1811 begonnenen „Reinhart (Reineke) Fuchs“ fertig stellen und 1835 ein Werk über „Deutsche Mythologie“. In diesem Werk untersuchte Jacob vorchristliche Glaubensvorstellungen und Aberglauben und stellte sie klassischer Mythologie und christlichen Legenden gegenüber. Auch dieses Werk hatte enormen Einfluss, dieses Mal auf die Mythenforschung. 1838 begannen Jacob und Wilhelm Grimm ihre gemeinsame Arbeit am „Deutschen Wörterbuch“.
Am 1. November 1837 hob König Ernst August II. von Hannover das Grundgesetz seines Staates auf. Dagegen protestierten die "Göttinger Sieben" *: Jacob und Wilhelm Grimm, der Historiker Friedrich Christoph Dahlmann*, der Orientalist Heinrich Ewald der LiteraturhistorikerGeorg Gottfried Gervinus *, der Staatsrechtler Wilhelm Eduard Albrecht* und der Physiker Wilhelm Weber*. Die Professoren wurden deshalb ihrer Ämter enthoben und Jakob wurde des Landes verwiesen. 1848 wurde Jacob zum Mitglied der Frankfurter Nationalversammlung gewählt, wo er sich als gemäßigter Liberaler der Erbkaiserpartei anschloss. Jacob und Wilhelm Grimm kehrten nach Kassel zurück.
Während die Brüder Grimm ohne Anstellung waren, machten die Leipziger Verleger Karl Reimer und Salomon Hirzel ihnen den Vorschlag für das „Deutsche Wörterbuch“. Sie arbeiteten das Wörterbuch bis zum Buchstaben D (Wilhelm) bzw. F (Jacob) aus. Die Brüder konzipierten das Wörterbuch als Sammlung sämtlicher Wörter aus der Zeit „von Luther bis Goethe“. Im Mittelpunkt der einzelnen Wortartikel steht die Bedeutungsgeschichte des jeweiligen Wortes; die historische Verwendungsweise wird anhand von Belegzitaten aus Hunderten von literarischen Werken, aber auch aus Fachsprachen und aus dem Alltagsgebrauch nachvollzogen. Bei der Sammlung der Belege standen den Brüdern Grimm zahlreiche Helfer zur Seite, die zumeist zum Kreis ihrer Freunde und wissenschaftlicher Kollegen gehörten oder ihnen von Freunden und Kollegen vermittelt wurden. Die Sammlung der Belege wurde ebenso wie die Ausarbeitung des Wörterbuchs durch den Verlag bezahlt.
Bettina von Arnim, Alexander von Humboldt, Friedrich Carl von Savigny, Karl Lachmann* und andere setzten sich dafür ein, dass König Friedrich Wilhelm IV. von Preußen* die Gebrüder Grimm 1840 nach Berlin einlud, wo sie an die Akademie der Wissenschaften als Professoren berufen wurden und ihren eigenen Studien nachgingen. Die Brüder waren nicht nur Sammler, Nacherzähler und Herausgeber der "Kinder- und Hausmärchen" sowie der "Deutschen Sagen". Sie gelten auch als Begründer der germanischen Philologie. In Berlin konnten sie durch die Unterstützung der Leipziger Verleger Reimer und Hirzel an ihrem "Deutschen Wörterbuch" und an der "Deutschen Grammatik" arbeiten. Ihr Wörterbuch wurde später ein Vorbild für das „Oxford English Dictionary“. Die Brüder wollten das Wörterbuch für ganz Deutschland schreiben, nicht nur für Literaturwissenschaftler. Aber die ersten Folgen waren für alle Leute gar nicht so praktisch. Sie waren für die Bürgerlichen ziemlich kompliziert, und deswegen wurden nicht viele Bücher am Anfang verkauft. Aber dann änderte Jacob das Wörterbuch ein bisschen. Er erweiterte die Zahl der im Wörterbuch enthaltenen Wörter mit fachlichen Ausdrücken von Jägern, Kunsthandwerkern, und Händlern. Er schloss da auch Schimpfwörter ein. Obwohl das Wörterbuch in mehreren Folgen verlegt wurde, war es vor dem Tod der Brüder noch nicht fertig. Die späteren Literaturwissenschaftler schrieben das Wörterbuch erst im Jahre 1960 fertig. Viele Institutionen in ganz Europa waren stolz, dass sie die Brüder zu ihren (Ehren-)Mitgliedern zählen konnten.
Jacob Grimm starb am 20. September 1863 in Berlin.