Na de Duitse inval op 10 mei 1940 begon de bezetter direct met de bestrijding van de politieke oppositie en van allerlei activiteiten die als gevaarlijk werden beschouwd voor de Duitse zaak. Hanns Albin Rauter, de Generalkommissar für das Sicherheitswesen, stond aan het hoofd van het veiligheidsapparaat dat voor de repressie verantwoordelijk was. Ook de Duitse en Nederlandse politiediensten vielen onder zijn gezag. Duitse rechtbanken werden ingesteld voor de berechting van verzetsdaden tegen de Duitse overheid. Bovendien werden delicten die het algemeen belang schade toebrachten, vooral de voedselvoorziening, voor deze rechtbanken in behandeling genomen.
Nederlanders die een tuchthuisstraf kregen opgelegd, werden naar tuchthuizen in Duitsland overgebracht. Wie door een Duitse rechtbank een gevangenisstraf tegen zich hoorde eisen, werd opgesloten in een Duitse afdeling van een Nederlandse gevangenis, zoals de beruchte strafgevangenis in Scheveningen (het Oranjehotel). Hier hebben naar schatting 26.000 tot 30.000 mannen en vrouwen gevangen gezeten. Een groot aantal was betrokken bij het verzet, anderen waren opgepakt wegens verboden radiobezit of omdat zij Joden of geallieerde piloten hadden geholpen. Ook in het beruchte Scholtenhuis, in Groningen, werden honderden verzetsstrijders gevangengenomen, verhoord en gemarteld, voordat zij vaak elders werden gefussileerd.
Hoewel de Sicherheitspolizei en Sicherheitsdienst in bijvoorbeeld Scheveningen hele cellenblokken in gebruik genomen had, bleek de capaciteit spoedig onvoldoende en werden gevangenkampen ingericht waar Nederlandse arrestanten ondergebracht konden worden. In totaal werden vijf kampen in gebruik genomen: bij Schoorl, Ommen, Vught, Amersfoort en Westerbork. Tot de eerste gevangenen in Schoorl behoorden leden van de Communistische Partij Nederland en van de Anti-Revolutionaire Partij. In de herfst van 1941 werd het kamp verplaatst nabij Amersfoort, waar het grotere Polizeiliches Durchgangslager was ingericht. Hier zaten uiteenlopende groepen gevangenen opgesloten: politieke gevangenen, Joden, Jehovas getuigen, smokkelaars en asocialen. In het kamp werd veel honger geleden en er werd op grote schaal geweld gebruikt. Verscheidene gevangenen, vooral Joden, zijn er doodgeslagen of anderszins vermoord. Voorjaar 1943 werd het kamp ontruimd en werden de gevangenen overgebracht naar kamp Vught. In de tweede fase van zijn bestaan, vanaf mei 1943, diende Amersfoort als doorgangskamp voor onderduikers van de Arbeidsinzet. In de korte tijd van zijn bestaan zaten in kamp Erika bij Ommen vooral gevangenen die veroordeeld waren wegens economische delicten, zoals zwarte handel. Begin 1943 werd bij Vught het Konzentrationslager Herzogenbusch in gebruik genomen, het enige SS-concentratiekamp in bezet West-Europa. In kamp Vught, dat rechtstreeks onder bevel stond van het SS-hoofdkwartier in Berlijn, werden de uit Amersfoort afkomstige gevangenen ondergebracht in het Schutzhaftlager. In mei 1943 kwam er een aparte afdeling voor vrouwelijke gevangenen en een speciaal Judendurchgangslager.
Kamp Westerbork nam een aparte positie in, omdat dit kamp vrijwel uitsluitend diende als doorgangskamp voor Joden naar de kampen in het Oosten. Vanuit Westerbork is het merendeel van de ongeveer 107.000 Joden weggevoerd. Ook enige honderden Sinti en Roma, en enige tientallen niet-Joodse verzetsstrijders zijn via dit kamp gedeporteerd. Op 1 juli 1942 had Westerbork zijn officiële status gekregen als doorgangskamp en het ressorteerde voortaan onder de Befehlshaber der Sicherheitspolizei und des SD. De kampbewaking was aanvankelijk in handen van het SS-Wachbataljon, dat vooral uit Nederlandse vrijwilligers bestond. Later werden zij afgelost door eenheden van de Nederlandse marechaussee, die op hun beurt na verloop van tijd werden vervangen door het Politiebataljon Amsterdam, waarvan vooral Schalkhaarders deel uitmaakten.
Een aparte categorie gevangenen van de Duitsers vormden de gijzelaars. In juli en oktober 1940 namen de Duitsers ongeveer vierhonderd mensen gevangen om het gouvernement in Nederlands-Indië onder druk te zetten de daar geïnterneerde Duitsers goed te behandelen. De zogenoemde Indische gijzelaars, onder wie verlofgangers uit Nederlands-Indië, werden overgebracht naar het Duitse concentratiekamp Buchenwald bij Weimar en in november 1941 geïnterneerd in het Grootseminarie Haaren in Noord-Brabant. In mei en juli 1942 werden nog eens honderden anti-verzetsgijzelaars vastgezet om de bevolking bij een eventuele geallieerde invasie van grootscheepse verzetsacties te weerhouden. Deze groep werd vastgehouden in het in de buurt van Haaren gelegen Kleinseminarie Beekvliet in Sint-Michielsgestel. Nadat het Grootseminarie Haaren in de loop van 1942 steeds meer dienst ging doen als gevangenis van de Sicherheitsdienst (SD) werden de Indische gijzelaars opgesloten in de voormalige jongenskostschool De Ruwenberg te Sint Michielsgestel. In totaal werden bijna tweeduizend personen in gijzeling genomen.
