Rudolf Diels kam am 16. Dezember 1900 in Berghausen (Rheinland-Pfalz) als Sohn eines Großbauern zur Welt.

Er studierte Jura, wurde 1930 Regierungsrat im preußischen Innenministerium und heiratete Hildegard Mannesmann. Bereits im August 1932 beförderte man ihn zum Oberregierungsrat, und Rudolf Diels übernahm die Leitung der politischen Abteilung der preußischen Polizei. Dass er in dieser Funktion Kontakte zu Hermann Göring knüpfte, kam ihm zugute, als dieser nach Hitlers Machtübernahme zunächst als kommissarischer preußischer Innenminister und ab 10. April 1933 als Ministerpräsident die preußische Polizei umstrukturierte. Mit einem Erlass vom 26. April 1933 gliederte Göring die Politische Polizei als Geheimes Staatspolizeiamt (Gestapa) aus dem Polizeiapparat aus und unterstellte sie dem Innenministerium direkt. Rudolf Diels wurde mit der Leitung des Gestapa betraut und im Juli zum Ministerialrat befördert.

Ab 30. November 1933 berichtete die Geheime Staatspolizei (Gestapo) dem Ministerpräsidenten unmittelbar. Aber es kam auch zu einem Machtkampf zwischen Hermann Göring und Heinrich Himmler, der die Kontrolle über den

gesamten Polizeiapparat in Deutschland anstrebte. Rudolf Diels geriet zwischen die Fronten, wurde von Göring entlassen und floh in die Tschechoslowakei. Hermann Göring holte ihn nach kurzer Zeit zurück und ernannte ihn am 18. November 1933 zum Polizeipräsidenten von Berlin. Elf Tage später übernahm Rudolf Diels auch wieder die Leitung der Gestapo. Aber im April 1934 löste ihn Heinrich Himmler an der Spitze der Gestapo ab, und Rudolf Diels wurde als Regierungspräsident nach Köln abgeschoben. Im Sommer 1936 wechselte er nach Hannover. Dort trat er am 1. September 1937 in die NSDAP ein.

Hermann Göring protegierte Rudolf Diels auch weiterhin und machte ihn 1941 zum Generaldirektor und Vorstandsvorsitzenden der Holdinggesellschaft Reichswerke AG für Binnenschifffahrt „Hermann Göring“.

Die Ehe von Rudolf und Hildegard Diels war 1936 geschieden worden. Am 16. August 1938 hatte die Schauspielerin Gudrun Genest in Konstanz die von Diels gezeugte Tochter Corinna geboren. Und am 17. Januar 1943 heiratete er Ilse Göring, die in erster Ehe mit Hermann Görings Bruder Karl Ernst Göring (1885 – 1932) verheiratet gewesen war.

Am 3. Mai 1945 wurde Rudolf Diels festgenommen. Von Herbst 1945 bis Sommer 1947 trat er in den Nürnberger Prozessen als Zeuge auf.

Nach seiner Freilassung im Jahr 1948 wurde er vom Land Niedersachsen als „Beamter zur Wiederverwendung“ besoldet, bis er am 18. November 1957 bei einem Jagdausflug durch einen versehentlich ausgelösten Schuss ums Leben kam.

In dem von Matti Geschonnek nach Motiven des Buches „Das Zeugenhaus“ von Christiane Kohl gedrehten Film ist Rudolf Diels eine der Hauptfiguren und wird von Tobias Moretti dargestellt: „Das Zeugenhaus“.