24 Ekim 1924’te Bitlis’te doğdu. 1943-1951 yılları arasında İstanbul Üniversitesi Edebiyat Fakültesi Şarkiyat Enstitüsü’nde İslami Bilimler ve Orientalistik alanında öncü bir yere sahip olan Alman orientalist Hellmut Ritter (1892 - 1971)’in yanında öğrenim gördü. Hocasının, bilimlerin temelinin İslam bilimlerine dayandığını söylemesiyle bu alana yöneldi. 1954'te Arap Dili ve Edebiyatı bölümünde Buhari’nin Kaynakları adlı doktora tezini tamamladı. Bu teziyle o, hadis kaynağı olarak İslam kültüründe önemli bir yere sahip olan Buhari (810-870)’nin biraraya getirdiği hadislerde bilinegeldiğinin aksine sözlü kaynaklara değil İslam’ın erken dönemine, hatta 7. yüzyıla kadar geri giden yazılı kaynaklara dayandığı tezini ortaya attı. Bu tez Avrupa merkezli orientalist çevrelerde hala tartışılmaktadır. 1954 yılında İslam Araştırmaları Enstitüsü’nde doçent oldu. Burada Zeki Velidi Togan ile çalıştı.

27 Mayıs 1960 askeri darbesi sırasında üniversiteden uzaklaştırılan ve 147’likler diye bilinen akademisyenler arasındaydı. 1961 yılında Almanya’ya giden Fuat Sezgin Frankfurt Üniversitesi'nde önce misafir doçent olarak dersler verdi. 1965 yılında Frankfurt Üniversitesi’nde profesör oldu. Oradaki bilimsel çalışmalarının ağırlık noktası Arap-İslam kültür çevresinde tabii bilimler tarihi alanı olmuştur ve bu alanda 1965 yılında habilitasyon çalışmasını yapmıştır. Henüz İstanbul’da iken başladığı 7./14. yüzyıldan itibaren gelişen Arap-İslam edebiyatı tarihi çalışmasına (Geschichte des arabischen Schrifttums) Almanya’da da devam ederek, orientalistik çalışmaları için kaynak eser haline gelmiş ve hala aşılamamış 13 ciltlik eserinin ilk cildini 1967 son cildini ise 2000 yılında yayınladı. Geschichte des arabischen Schrifttums İslam’ın ilk döneminde uğraşılmış, dini ve tarihi edebiyattan coğrafya ve haritacılığa kadar bütün ana ve yan bilim dallarını konu edinmektedir. Prof. Sezgin Suudi Arabistan Kral Faysal Vakfı’nın İslami bilimler ödülünü 1978 yılında ilk alan kişidir. Bu ve başka desteklerle Sezgin, 1982 yılında J.W.Goethe Üniversitesi’ne bağlı Arap-İslam Bilimleri Tarihi Enstitüsü’nü ve 1983’de buranın müzesini kurdu, buranın direktörlüğünü yürüttü. Enstitüye bağlı olarak kurduğu müzede Sezgin, İslam kültür çevresinde Müslüman bilginler tarafından yapılmış aletlerin ve bilimsel araç ve gereçlerin yazılı kaynaklara dayanarak yaptırdığı numunelerini sergilenmektedir. Müzede bulunan objeleri tanıtmak ve İslam kültür çevresindeki bilimsel gelişmeyi göstermek için hazırladığı Wissenschaft und Technik im Islam isimli kataloğu 2003 yılında yayınladığı.

Prof.Dr. Fuat Sezgin son olarak, Arap-İslam Bilimleri Enstitüsü için hazırlardığı bilimsel araç ve gereçlerin benzerlerini yaptırarak, açılışını 25 Mayıs 2008 tarihinde Başbakan Tayyip Erdoğan'ın yaptığı İstanbul İslam, Bilim ve Teknoloji Müzesi'nin açılmasına önayak olmuştur.

Prof. Dr. Fuat Sezgin meslektaşı Dr. Ursula Sezgin'le evli idi. Sezin 2018 yılında vefat etti. Kızı Hilal Sezgin, Almanya'da yaşayan bir gazeteci ve yazardır.