Ferdinand Graf von Zeppelin wurde am 8. Juli 1838 als Sohn des württembergischen Hofmarschalls Friedrich Jérôme Wilhelm Carl Graf von Zeppelin und dessen aus der Genfer Fabrikantenfamilie Macaire stammenden Ehefrau in Konstanz geboren. Zusammen mit seinen Geschwistern wuchs er im Schloss Girsberg in Emmishofen (Kreuzlingen) auf, das er bis zu seinem Tod auch bewohnte.
Zwei Jahre lang besuchte Ferdinand von Zeppelin die Dorfschule von Emmishofen, später erhielt er Privatunterricht von Hauslehrern. Im Alter von 15 Jahren zog er nach Cannstatt bei Stuttgart und besuchte dort das Polytechnikum. 1855 wechselte er als Kadett zur Kriegsschule in Ludwigsburg. Drei Jahre später, kurz nach seiner Beförderung zum Leutnant, ließ sich Ferdinand von Zeppelin vom Militär beurlauben, um in Tübingen Staatswissenschaft, Chemie und Maschinenbau zu studieren. 1859 aber musste er wegen des begonnenen Krieges gegen Frankreich und Sardiniendes das Studium abbrechen und sich beim Ingenieurkorps in Ulm melden. Er wurde zum Ingenieurkorps einberufen. Von April bis Dezember 1863 hielt er sich als Beobachter in Nordamerika auf und kämpfte auf der Seite der Nordstaaten im Bürgerkrieg. In dieser Zeit überredete er den Erfinder John H. Steiner, ihn in St. Paul, Minnesota, mit einem Heißluftballon aufsteigen zu lassen.
Nach Deutschland zurückgekehrt, setzte von Zeppelin seinen Militärdienst fort. Er wurde bald zum Adjutanten des Königs von Württemberg ernannt, zum Hauptmann befördert und zum Großen Generalstab in Berlin versetzt, wo er 1869 Erzieher des Prinzen Wilhelm von Württemberg, des späteren Königs von Württemberg, wurde. 1869 vermählte sich Ferdinand Graf von Zeppelin in Berlin mit Isabella Freiin von Wolff aus Livland. Ihr einziges Kind, die Tochter Helene („Hella“), wurde zehn Jahre später geboren.
Wenige Tage nach dem Beginn des Deutsch-Französischen Krieges im Juli 1870 unternahm Ferdinand von Zeppelin einen wagemutigen Erkundungsritt hinter die feindlichen Linien. Während der Belagerung von Paris bemerkte er, dass die Franzosen Ballons zur Aufklärung und zum Nachrichtenaustausch einsetzten. Da die Ballons jedoch häufig vom Ziel abkamen, begann er über eine lenkbare Alternative zu Gas- oder Heißluftballons nachzudenken.
Nach dem Krieg setzte er seine militärische Karriere fort. 1882 bis 1885 war Zeppelin Kommandeur des Ulanenregiments in Ulm. Er brachte es zum General und vertrat das Königreich Württemberg von 1885 bis 1890 als Gesandter beim Deutschen Bundesrat in Berlin. Ende 1890 nahm er seinen Abschied. Erst jetzt konnte er sich seinem Traum widmen, ein Luftschiff zu bauen. Im August 1898 erteilte Zeppelin das kaiserliche Patentamt ein Patent. Der österreichisch-ungarische Erfinder David Schwarz stieg 1897 auf dem Tempelhofer Feld in Berlin auf, musste notlanden und ging dabei zu Bruch. Ferdinand von Zeppelin, der unter den Zuschauern war, kaufte der Witwe die Entwürfe und Patente ab und gründete 1898 die »Gesellschaft zur Förderung der Luftschiffahrt«. Zusammen mit den Ingenieuren Th. Kober und L. Dürr baute Ferdinand von Zeppelin in einer 140 m langen und 30 m hohen schwimmenden und in den Wind drehbaren Montagehalle in der Bodenseebucht von Manzell einen 128 m langen, mit 11 000 Kubikmeter Wasserstoff gefüllten und von zwei Daimler-Verbrennungsmotoren mit je 10,4 kW Leistung über vier Propeller angetriebenen starren Flugkörper mit Aluminiumskelett. Das war „LZ 1“ (Luftschiff Zeppelin).
Dieses Luftschiff stieg im Juli 1900 vor 12 000 Schaulustigen erstmals 400 m hoch über den Bodensee auf. Nach 18 Minuten musste das Schiff notlanden, dabei wurde es beschädigt. Da Ferdinand von Zeppelin auch mit zwei weiteren Testfahrten keine Interessenten überzeugen konnte, liquidierte er die »Gesellschaft zur Förderung der Luftschiffahrt«, deren Kapital aufgebraucht war. Um ein zweites Luftschiff bauen zu können, rief Ferdinand Graf von Zeppelin das deutsche Volk 1903 zur finanziellen Unterstützung und Beteiligung an einer von ihm eingerichteten Lotterie auf. Der „LZ 2“ stieg in die Luft 1906, musste auch notlanden und wurde in der Nacht durch einen Orkan zerfetzt.
1906 wurde Zeppelin zum General der Kavallerie befördert. Trot z der Fehlschläge gab er aber seine Versuche nicht auf. Er verwendete alle brauchbaren Teile aus den Wracks von „LZ 1“ und „LZ 2“ setzte das Familienvermögen ein und 1906 war der „LZ 3“ fertig. Dieses Modell erfüllte seine Erwartungen. Nach 45 Fahrten über eine Gesamtstrecke von 4398 km erwarb die Militärverwaltung das Luftschiff. Für militärische Zwecke ließ Ferdinand von Zeppelin den „LZ 4“ anfertigen. In einer Augustnacht 1908 brannte aber das Luftschiff aus. Das Unglück löste eine Welle von Unterstützung für den inzwischen populären Luftfahrtpionier aus, und es wurden 6 Millionen Mark gespendet. Damit gründete er die „Luftschiffbau Zeppelin GmbH“. Mit der erfolgreichen Fahrt von „LZ 3“ 1908 erwarb er sich jedoch wieder die Gunst von Kaiser Wilhelm II., der ihn den "größten Deutschen des 20. Jahrhunderts" nannte. Anlässlich seines 70. Geburtstages wurde Ferdinand Graf von Zeppelin mehrfach geehrt, und Kaiser Wilhelm II. verlieh ihm den Hohen Orden vom Schwarzen Adler.
Die „Deutsche Luftschiffahrts AG“ (DELAG), die erste Luftschiff-Reederei der Welt, beförderte von ihrer Gründung 1909 bis zum Ausbruch des Ersten Weltkriegs 1914 mit sieben Luftschiffen auf 1 588 Fahrten 34 028 Personen, von denen keine zu Schaden kam. Im Ersten Weltkrieg übernahmen die Militärs die verbliebenen Luftschiffe von der DELAG und ließen Hunderte dazu bauen. Diese Luftschiffe waren dafür geeignet, große Bombenlasten zu transportieren und abzuwerfen. Dazu kamen ihre überlegene Reichweite und die Möglichkeit, über einer bestimmten Stelle zu schweben.
Ferdinand Graf von Zeppelin gründete während des Kriegs eine Werft und eine Zahnradfabrik in Friedrichshafen, ein Gaswerk in Staaken bei Berlin und die Ballonhüllen-Gesellschaft in Berlin-Tempelhof. 1916 ging der 77jährige zum letzten Mal an Bord eines Luftschiffes. Am 8. März des Jahres 1917 starb er an einer Lungenentzündung in Berlin. Sein Grab befindet sich in Stuttgart auf dem Pragfriedhof. Ferdinand Graf von Zeppelin ist Ehrenbürger der Städte Friedrichshafen (1907), München (1909), Stuttgart (1908), Baden-Baden (1910) und Ulm (1912). In Konstanz gibt es ein Zeppelindenkmal am Gondelhafen.
Das Zeppelinmuseum Friedrichshafen würdigt den Zeppelinbau. Bei Echterdingen steht ein Gedenkstein, der an den Brand des LZ4 erinnert. Deutschland ehrte Zeppelin 1992 zu seinem 75. Todestag mit der Herausgabe einer Sonderbriefmarke. Außerdem gab es 1992 eine Marke aus der Reihe "Historische Luftpostbeförderung" mit einer Abbildung des LZ 127 „Graf Zeppelin, 2000 die Marke "100 Jahre Zeppelin-Luftschiffe" mit der Abbildung des LZ1 sowie 2007 die Marke "Historischer Luftschiffverkehr nach Südamerika" mit einer Abbildung des LZ 127 „Graf Zeppelin“.
Mit der Zeit wurde sein Name zum aufgrund des Erfolgs zum Synonym für den Begriff Luftschiff. Hugo Eckener überführte 1924 persönlich den ersten für die USA gebauten Zeppelin („LZ 126“) in einer 81 Stunden dauernden Luftfahrt von Friedrichshafen nach Lakehurst bei New York. Der als nächstes gebaute „LZ 127“, der den Namen »Graf Zeppelin« erhielt und 1928 aufstieg, umrundete 1929 als bisher einziges Luftschiff die Erde. Um die populären Luftschiffe für Propagandazwecke verwenden zu können, gründete Reichsluftfahrtminister Hermann Göring 1935 die staatliche „Deutsche Zeppelin-Reederei“. Der „LZ 129“, das mit 245 m Länge das größte Luftschiff aller Zeiten war, wurde 1936 auf den Namen des zwei Jahre zuvor verstorbenen Reichspräsidenten Paul von Hindenburg link* getauft. Bei einer Landung im Jahre 1937 ging der „Hindenburg“ in Flammen auf. 36 Personen kamen dabei ums Leben. Diese Katastrophe beendete die Epoche der Luftschiffe. Nach dem Zweiten Weltkrieg tauchten Prallluftschiffe vereinzelt als Werbeträger und Transportmittel für Rundflüge am Himmel auf.