Der Gedenkstein hat seinen Platz vor dem ehemaligen Gestapo-Gefängnis in Ahlem gefunden, aus dem genau 52 Jahre vor der Einweihung des Mahnmals mehr als 250 hannoversche Sinti und Roma in das Vernichtungslager Auschwitz-Birkenau deportiert wurden.
Zudem wurde im März 1995 in den Kellerräumen, in denen sich von 1943 bis 1945 die Gefängniszellen befanden, ein Gedenkraum eingerichtet, in dem die Namen von über 4.000 Opfern aus den ehemaligen Regierungsbezirken Hannover und Hildesheim, darunter auch deutsche Sinti, aufgeführt sind.