Rudolf Diesel wurde am 18. März 1858 als zweites Kind von Theodor Diesel und dessen vier Jahre älterer Ehefrau Elise in Paris geboren. In Paris arbeitete Theodor Diesel, der  gelernte Buchbinder, zunächst in einer Lederwarenfabrik und gründete dann einen kleinen Betrieb zur Herstellung von Lederwaren, der jedoch ständig vom Bankrott bedroht war. Als Frankreich wegen des Deutsch-Französischen Krieges alle Ausländer auswies, mussten 1870 auch Theodor und Elise Diesel mit ihren drei Kindern Louise, Rudolf und Emma das Land verlassen.

Sie zogen nach London, wo Elise Diesel vor der Eheschließung als Hausdame tätig gewesen war. Aus finanziellen Gründen schickten die Diesels den zwölfjährigen Rudolf einige Wochen später allein nach Augsburg, zu seinem Onkel und seiner Tante. Rudolf Diesel, der zunächst noch besser französisch als deutsch sprach, besuchte in Augsburg die Königliche Kreisgewerbeschule. Mit vierzehn Jahren teilte er seinen Eltern mit, dass er Ingenieur werden wolle. Nachdem er 1873 die Gewerbeschule mit Auszeichnung abgeschlossen hatte, wechselte er zur neu gegründeten Industrieschule in Augsburg und ließ sich 1875 als Stipendiat an der Königlich Bayerischen Technischen Hochschule in München immatrikulieren, gegen den Willen seiner Eltern. Wegen einer Typhuserkrankung konnte Rudolf Diesel 1879 am Examen nicht teilnehmen. Während er auf den nächsten Prüfungstermin wartete, sammelte er bei der Maschinenfabrik der Gebrüder Sulzer in Winterthur praktische Erfahrungen. 1880, im Alter von 22 Jahren, schloss er sein Ingenieursstudium mit dem besten Ergebnis ab, das an dieser Akademie je erreicht worden war. Danach reiste er nach Paris, half beim Aufbau einer Eisfabrik und brachte es dort innerhalb eines Jahres zum Direktor. In diesen Jahren verdiente er gut und hatte Geld für seine Erfindungen, so wurde ihm die Bezahlung eines Zeichners möglich. Dieser hat für ihn Modelle und Versuchsmotoren aufs Papier gebracht, mit denen er experimentierte. Die Prototypen und Geräteteile gab er bei diversen Unternehmen in Auftrag, damit er seine Erfindung geheim halten konnte.

Im Februar 1881 traf sich Rudolf Diesel mit Heinrich Buz, dem Direktor der Maschinenfabrik Augsburg (ab 1908: Maschinenfabrik Augsburg-Nürnberg AG, MAN) und vereinbarte mit ihm eine Zusammenarbeit beim Bau einer Versuchsanlage für die Herstellung von Klareis in Flaschen. Für das Verfahren erhielt Rudolf Diesel ein kaiserliches und ein französisches Patent. Zwei Jahre später wurde die Anlage in Paris fertig gestellt. 1883, als der Betrieb schon lief, vermählte sich Rudolf Diesel mit Martha Flasche, der Tochter eines Notars in Remscheid, die er im Jahr zuvor in Gent kennen gelernt hatte. 1890 zog Rudolf Diesel mit seiner Frau und den Kindern Rudolf, Heddy und Eugen nach Berlin, übernahm die Leitung des technischen Büros der Gesellschaft für Linde's Eismaschinen und wurde in den Vorstand der neu gegründeten Aktiengesellschaft für Markt- und Kühlhallen gewählt. Weil er die gemachten Erfindungen nicht für eigene Zwecke nutzen durfte, suchte Rudolf Diesel nach einem anderen Gebiet, auf dem er seine Ideen selbst verwerten konnte. Seit er in den Vorlesungen Carl von Lindes* gehört hatte, dass die Dampfmaschine gerade einmal 6 bis 10 Prozent der Energie des Brennstoffes in Leistung umsetzt, dachte er über Wärmekraftmaschinen mit besseren Wirkungsgraden nach.

1885 hatten Gottlieb Daimler und Ernst Wilhelm Maybach in Cannstatt bei Stuttgart einen  vor kurzem patentierten Verbrennungsmotor als Antrieb eines zweirädrigen, hölzernen Versuchsfahrzeuges ausprobiert.  Ein Jahr später hatte Karl Friedrich Benz in Mannheim ein Fahrzeug mit einem ähnlichen Motor zum Patent angemeldet („Patentmotorwagen“). Den drei Konstrukteuren war es gelungen, den 1876 zum Patent angemeldeten atmosphärischen Gasverbrennungsmotor („Ottomotor“) zum schnell laufenden Benzinmotor weiterzuentwickeln. Während es Gottlieb Daimler und Ernst Wilhelm Maybach vor allem auf den Motor ankam, hatte Karl Friedrich Benz das Ziel verfolgt, ein motorisiertes Straßenfahrzeug, ein Automobil, zu bauen. In einer 1893 veröffentlichten Schrift  unter dem Titel „Theorie und Construktion eines rationellen Wärmemotors zum Ersatz der Dampfmaschine und der heute bekannten Verbrennungsmotoren“ legte Rudolf Diesel seine Idee einer neuen rationellen Wärmekraftmaschine dar, für die er 1892 Patentschutz angemeldet hatte und ihn ein Jahr später erhielt. In seinem Buch beschrieb Diesel sechs Versuchsreihen, die von 1893 bis 1897 dauerten.

Rudolf Diesel entwickelte sein Konzept unter finanzieller Beteiligung der Firma Friedrich Krupp* bei der Maschinenfabrik Augsburg und schloss auch mit der Maschinenfabrik der Gebrüder Sulzer in Winterthur einen Kooperationsvertrag. 1893 reichte Rudolf Diesel ein weiteres Patent für seinen Motor ein. Dieselmotoren laufen nicht mit Benzin, sondern mit einem billigeren Zwischenprodukt der Erdöl-Raffinerien, einem Leichtöl, das nach dem Erfinder des Motors „Diesel“ genannt wird. Der Weg von der patentierten Erfindung bis zum funktionstüchtigen Motor war jedoch noch weit. Erst nach zwei Jahren Forschung und Entwicklung zeichneten sich erste Erfolge ab, und 1895 lief der erste Versuchsmotor im Dauertest. Auch der zweite Prototyp funktionierte und wurde 1897 offiziell abgenommen. 1898 wurden die Dieselmotorenfabrik Augsburg und die Allgemeine Gesellschaft für Dieselmotoren gegründet, aber der Betrieb in Augsburg musste bereits im Jahr darauf wieder schließen. Rudolf Diesel war zwar ein genialer Ingenieur, aber kein erfolgreicher Unternehmer.

Überlastung, Fehlspekulationen, finanzielle Sorgen, jahrelange Patentstreitigkeiten und Angriffe von Wissenschaftlern zerrütteten Rudolf Diesels Gesundheit. Nach einem Nervenzusammenbruch 1898 verbrachte er einige Zeit in der Heilanstalt Neuwittelsbach bei München. Ein Jahr später litt er erneut unter heftigen Kopfschmerzen und Erschöpfungszuständen. Auf der Weltausstellung 1900 in Paris wurde der Dieselmotor mit dem Grand Prix ausgezeichnet. Österreichische, französische, englische, schottische und amerikanische Unternehmen schlossen Lizenzverträge für den Bau von Dieselmotoren ab. Das brachte Rudolf Diesel mehrere Millionen ein. Er pflegte einen großbürgerlichen Lebensstil und bezog mit seiner Familie 1901 eine repräsentative Villa in München-Bogenhausen. Er hatte vor, ein Teil seines Geldes einem sozialen Zweck zu  überreichen. Rudolf Diesel bedankte sich herzlichst bei der Augsburger Maschinenfabrik, welche ihm das alles ermöglicht hatte.    

Er schrieb das Buch „Solidarismus, natürliche wirtschaftliche Erlösung der Menschen“, das 1903 veröffentlicht wurde. In demselben Jahr erlebte Rudolf Diesel die Jungfernfahrt des französischen Kanalboots „Petit Pierre“, des ersten Fahrzeugs der Welt, das mit einem Dieselmotor angetrieben wurde. 1907 gründete Rudolf Diesel eine Gesellschaft für Thermolokomotiven. 1913 erfolgte die erste Probefahrt mit der ersten Diesellokomotive, die von einem 1000 PS starken Dieselmotor angetrieben wurde. In Serie produziert wurde diese Lok ab 1914 für die Preußische Staatseisenbahn. 1912 lief die dänische „Selandia“, der erste Ozeandampfer mit Dieselantrieb, vom Stapel. Ab 1912 wurden die ersten Dieselaggregate in Automobile verbaut. Der erste Diesel-LKW mit Direkteinspritzung wurde im Dezember 1924 auf der Berliner Automobil-Ausstellung von der MAN der Öffentlichkeit vorgestellt.

1913 fuhr der Fünfundfünfzigjährige zu einem Treffen in London und zur Einweihung einer Fabrik für Dieselmotoren in Ipswich auf. Als ihn seine Begleiter am 30. September morgens während der Überfahrt von Antwerpen nach Harwich auf dem Postdampfer „Dresden“ wecken wollten, fanden sie seine Kabine leer und sein Bett unbenützt vor. Am 10. Oktober entdeckte die Besatzung des niederländischen Regierungslotsenbootes „Coertsen“ eine männliche Leiche im Meer. Einige aus dem Wasser gefischte Gegenstände – Portemonnaie, Taschenmesser, Pastillendose, Brillenetui – wurden drei Tage später von Rudolf Diesels Söhnen wiedererkannt. War der Erfinder ermordet worden?  Man glaubt aber, dass es ein Selbstmord war. 1936 ging der PKW-Dieselmotor erstmals in Serie. Er wurde in den Mercedes-Benz, Typ 260-D, eingebaut. Dies hatte Rudolf Diesel jedoch nicht mehr erlebt.