Na de Kristallnacht (9 november 1938) nam de directie nog 30 kinderen van joodse vluchtelingen op in het weeshuis, naast de ongeveer vijftig kinderen die er verbleven. Op 20 oktober 1942 deporteerden de Duitsers kinderen en personeel van het weeshuis.
De dertig Duits-joodse vluchtelingetjes werden direct op transport naar kamp Westerbork gezet. De andere vijftig kinderen en het personeel werd in eerste instantie gedeporteerd naar Amsterdam en vandaar naar kamp Westerbork. De (eveneens joodse) directie van het weeshuis kreeg de gelegenheid te ontsnappen maar verkoos bij de kinderen te blijven. De meeste kinderen zijn op 5 maart 1943 in Sobibor vermoord.
Het pand aan de Nieuwe Gracht 92 is na de oorlog gaan fungeren als zorginstelling. Het Wilhelmina Kinderziekenhuis heeft het pand in 1999 verlaten. Nu is in het voorste deel van het gebouw een verpleegafdeling van het Leger des Heils gevestigd en het achterste deel van het gebouw (aan de Magdalenenstraat) is eigendom van de Liberaal Joodse Stichting Merkaz. Bij het openbreken van een deel van de zolder werd een complete synagoge teruggevonden.
In 1992 is een hardstenen herdenkingsplaquette aan de ingang van Nieuwe Gracht 92 onthuld met als tekst: Het kind is niet meer. Gen. 37.30. In dit gebouw was sinds 1871 gevestigd het Centraal Israëlitisch Weeshuis. Joodse weeskinderen vonden hier een veilig thuis. In 1942 werden zij, hun begeleiders en hun directeur van hier weggevoerd. Zij keerden nimmer weer. Mogen hun zielen gebundeld worden in de bundel van het eeuwige leven.
In 2010 zijn in het trottoir van Nieuwe Gracht 92 gedenktekens geplaatst die gemaakt zijn door de Duitse kunstenaar Gunter Demnig.