Die Wachmannschaften wurden in der Anfangszeit aus Gestapoangestellten und Mitgliedern der Schutzpolizei (Schupo) gebildet. Dann wurde zur Bewachung der steigenden Zahl von Häftlingen in der Kleinen Festung die 1. Kompanie des SS-Wachbatallions „Böhmen und Mähren“ eingesetzt. Im April 1942 wurde sie durch die 2. Kompanie des SS-Wachbatallions „Prag“ ausgewechselt. Gegen Kriegsende wurden einige SS-Männer aus der Wachmannschaft durch Feldgendarmen aus dem Banat ersetzt. Die Mitglieder der Wachmannschaften stellten in der Regel das Hinrichtungskommando unter Leitung von J. Zelinsky, der nach dem Krieg vom Volksgericht in Litoměřice zum Tode verurteilt und hingerichtet wurde. An den Hinrichtungen nahmen oftmals jedoch auch Aufseher teil.
Zu den Aufgaben des Wachpersonals gehörte auch die Begleitung der außerhalb der Kleinen Festung eingesetzten Arbeitskommandos. Die Kaserne der Wachmannschaften war ein großes inmitten der Kleinen Festung liegendes Gebäude zwischen dem Prager Tor und dem Werkstatthof. Vor dem Gebäude befindet sich ein kleiner Park. Heute ist hier das Museum des Gestapogefängnisses untergebracht, im zweiten Stockwerk werden Originalmaterialien aus der Gefängniszeit aufbewahrt.
