Vrijwel direct nadat de Duitsers Nederland hadden bezet, begon de bezetter met het uitsluiten van de Joden uit de Nederlandse samenleving.Vanaf eind augustus mochten er geen Joodse ambtenaren meer worden benoemd en in oktober 1940 volgde de Ariërverklaring, die door vrijwel alle ambtenaren werd ingevuld. Diezelfde maand kondigde de bezetter aan dat alle Joodse ambtenaren moesten worden ontslagen, wat tot een staking onder studenten leidde.
Het jaar daarop werd Joden de toegang tot openbare gelegenheden zoals bioscopen en theaters ontzegd en moesten zij zich laten registreren. Na de Februaristaking in 1941 kwam de vervolging van Joden echt op gang met de oprichting in Amsterdam van de Zentralstelle für jüdische Auswanderung. Opgezet als kantoor voor vrijwillige emigratie, was zij bedoeld als orgaan voor algehele deportatie. Ook vonden de eerste razzias plaats. Bovendien werden werkloze Joodse mannen, die veelal door de uitsluitingsmaatregelen hun baan waren kwijtgeraakt, vanaf begin 1942 overgebracht naar werkverschaffingskampen in Noord- en Oost-Nederland. In mei 1942 werd de Jodenster verplicht en steeds meer Joden moesten, in afwachting van deportatie, van buiten de hoofdstad naar Amsterdam verhuizen.
In februari 1941 was de Joodse Raad opgericht, die in theorie een bemiddelende rol speelde tussen de Duitsers en de Joodse bevolking maar in de praktijk de Duitse maatregelen uitvoerde. In 1942 kondigde de bezetter de tewerkstelling van Joden in Duitsland aan en de Joodse Raad zou een belangrijke rol vervullen wat betreft het oproepen en registreren van Joden hiervoor. In juli vertrok de eerste trein van Amsterdam naar het doorgangskamp Westerbork, waarvandaan de Joden naar kampen in het Oosten werden getransporteerd. Omdat de treinen, die twee keer per week naar de concentratie- en vernietigingskampen vertrokken, niet halfleeg mochten rijden, moesten er steeds voldoende Joden worden aangeleverd. Joodse bejaardentehuizen, weeshuizen en ziekenhuizen werden daarom leeggehaald en als Joden niet reageerden op hun oproep hielden de Duitsers razzias. Na de laatste razzia in Amsterdam, eind september 1943, werd de Joodse Raad opgeheven. Ook de leden en het personeel van de Raad werden naar Westerbork overgebracht. Van de naar schatting 140.000 Joden die voor de oorlog in Nederland woonden, is ongeveer driekwart omgekomen; dat is meer dan in andere bezette landen in West-Europa.
Niet alleen Joden werden vervolgd, de Duitse bezetter maakte bovendien jacht op communisten, sociaaldemocraten en zigeuners. Ook homoseksueel gedrag was in principe strafbaar. Na de Februaristaking richtte de bezetter een Sonderkommando op, dat de Amsterdamse CPN moest oprollen. In de eerste helft van 1941 werden honderden communisten van buiten Amsterdam opgepakt, waarbij het vooral ging om verspreiders en afnemers van het partijblad De Waarheid. De Berlijnse autoriteiten bemoeiden zich intensief met de vervolging van communisten en lieten in 1941 twee decreten uitvaardigen betreffende maatregelen tegen communistisch verzet in bezet gebied. Na de Duitse inval in de Sovjet-Unie hield de bezetter een omvangrijke arrestatie-actie, waarbij door heel Nederland communisten werden opgepakt. In de weken daarna werden nog eens zeshonderd communisten en socialisten opgepakt en in Schoorl gevangen gezet. Ongeveer tweehonderd van hen werden later weer vrijgelaten, maar de rest werd naar Ravensbrück of Neuengamme overgebracht.
Tijdens de bezetting bleef de wegvoering van zigeuners vrij onopgemerkt en ook in de jaren na de oorlog werd er weinig ruchtbaarheid aan gegeven. Toch hadden de Duitsers met de Sinti en Roma hetzelfde doel voor ogen als met de Joden: hun algehele uitroeiing. Begin 1941 werd begonnen met de registratie van alle in Nederland aanwezige woonwagen- en woonschipbewoners. Pas in 1944 werd met de eigenlijke vervolging van de zigeuners begonnen, toen in mei in heel Nederland een razzia gehouden werd. Kort daarop vonden er transporten plaats van de Sinti en Roma vanuit Westerbork naar Auschwitz. In totaal werden 578 mannen, vrouwen en kinderen opgepakt. Omdat sommigen van hen echter volgens de nazi-ideologie geen echte zigeuners waren, maar asocialen of woonwagenbewoners, werden 260 mensen vanuit Westerbork weer vrijgelaten. Volgens een opgave van het Rode Kruis keerden slechts 31 zigeuners na de oorlog weer terug.
Ondanks de in 1940 uitgevaardigde Verordening 81/40, die alle homoseksuele contacten onder mannen verbood, werden homoseksuelen niet stelselmatig vervolgd. Onderdrukking van hun schadelijke geachte gedrag was voor de bezetter belangrijker dan het onderdrukken van de persoon zelf. Er zijn wel homoseksuelen in kampen opgesloten, maar het is de vraag of seksuele geaardheid de enige reden was voor deportatie. Soms werd zij wel als strafverzwarend feit gebruikt. Na de bevrijding nam, in het kader van een algemene strijd tegen 'zedenverwildering', het aantal strafzaken wegens homoseksueel gedrag aanzienlijk toe.