Im Durchgang zum niedriger gelegenen IV. Hof befindet sich eine kleine Gedenkstätte. Auf einer Tafel sind die Namen der Konzentrationslager festgehalten, in die Häftlinge aus der Kleinen Festung deportiert wurden.
In einem kleinen Gebäude gegenüber, in dem früher die Verwaltung des IV. Hofes untergebracht war, wird heute hinter Glaswänden Erde aus den Lagern aufbewahrt. In diesem kleinen Gebäude war die Verwaltung des IV. Hofes untergebracht.
Ein dunkles Tor führt hinunter auf den Appellplatz des sogenannten IV. Hofes, der von den Häftlingen zwischen zwei Befestigungswällen in den Jahren 1943 und 1944 gebaut werden musste, als die anderen Höfe die wachsenden Häftlingsmassen nicht mehr aufnehmen konnten. Hunderte von Häftlingen des sogenannten Baukommandos, das der Aufseher Soukup kommandierte, wurden hier eingesetzt. Bei dieser Arbeit wurden viele Menschen, vor allem jüdische Häftlinge, getötet.
