Die Gründungsgeschichte des I. reicht bis in die frühen fünfziger Jahre des 20. Jahrhunderts zurück, als sich einige Hamburger Bürger engagierten, um die geretteten reichen Archivbestände der jüdischen Gemeinden (→Archiv) im Hamburger Raum wissenschaftlich auszuwerten.
→Salomon Heine erbot sich 1839, die gesamte Summe für den Bau eines neuen Hospitals der jüdischen Gemeinde zu übernehmen. Der Bau des 80-Betten-Hauses erfolgte zwischen 1841 und 1843.
Die Anfänge der neu gegründeten G. nach dem Zweiten Weltkrieg lassen sich urkundlich auf den 8. Juli 1945 bestimmen. An diesem Tag fand eine Besprechung von zwölf Überlebenden statt, die einen vorläufigen Arbeitsausschuss und eine Kultuskommission einsetzten. Etwa 80 Juden hatten zu dieser Zeit ihr Interesse bekundet, die zerstörte G. wiederzubegründen.