Fritz Lang et sa femme et coscénariste Thea von Harbou avaient d'abord imaginé une intrigue autour d'un auteur de lettres de diffamation ; il n'en reste que le principe des lettres de revendication envoyées à la police et à la presse par le meurtrier.
Le scénario s'inspire fortement de l'affaire du tueur en série Peter Kürten, le « Vampire de Düsseldorf », arrêté en mai 1930 après la finalisation du scénario ; la première du film eut lieu trois semaines après sa condamnation à mort, et le film fut d'ailleurs distribué à l'étranger sous des titres évoquant ce vampire de Düsseldorf.
D'autres faits divers ont nourri le récit, notamment les affaires des tueurs en série Carl Großmann, Karl Denke, Fritz Haarmann et le meurtre des sœurs Fehse ; le motif de la traque du criminel par la pègre elle-même s'était aussi produit réellement à Düsseldorf, et avait déjà été utilisé dans L'Opéra de quat'sous en 1928.
Pour écrire le scénario, Lang et von Harbou ont mené d'importantes recherches dans des prisons et des cliniques psychiatriques, rencontrant de véritables « criminels pulsionnels », et Lang a pu consulter des dossiers de la police criminelle berlinoise grâce à ses contacts avec la brigade des homicides.
Le personnage du commissaire Karl Lohmann rend hommage au célèbre policier berlinois Ernst Gennat, qui avait justement enquêté sur l'affaire Kürten ; ce personnage réapparaîtra, toujours interprété par Otto Wernicke, dans le film suivant de Lang, Le Testament du docteur Mabuse.
Au générique, seule Thea von Harbou est créditée comme scénariste ; Lang ironisera plus tard, en référence au ralliement de son épouse au régime nazi, que le crédit du scénario lui était revenu à elle tandis qu'elle, de son côté, était allée rejoindre les nazis.
Peter Lorre, originaire de Vienne comme Lang et déjà acteur de théâtre reconnu mais pas encore établi au cinéma, tournait M le jour tout en jouant le soir sur scène dans La Quadrature du cercle de Valentin Kataïev ; ce rôle lui apporta la célébrité au cinéma mais l'enferma longtemps dans des rôles de meurtriers, y compris à ses débuts aux États-Unis.
Gustaf Gründgens, déjà une star de théâtre, fut engagé pour incarner Schränker peu avant le début du tournage.
Le tournage dura six semaines, de janvier à mars 1931, principalement dans un hangar à zeppelins loué près de l'aérodrome de Staaken, en périphérie de Berlin, où le décorateur Emil Hasler avait construit les décors.
Pour l'exportation, en plus du monologue final que Peter Lorre a également interprété en anglais et en français, certaines scènes furent retournées avec des acteurs français et anglais.
Le titre de travail du film, « Mörder unter uns » (Des meurtriers parmi nous), aurait été abandonné sous la pression des nazis qui s'y sentaient visés ; Lang a tantôt confirmé, tantôt démenti cette version, mais ce titre fut repris plus tard pour le premier film allemand de l'après-guerre, Les Assassins sont parmi nous (1946), ce que Lang considéra comme un vol.
Le sifflement du thème « Dans l'antre du roi de la montagne » de Grieg, qui annonce chaque nouvelle menace du tueur, a été enregistré par Fritz Lang lui-même ; selon lui, il ne respecte pas exactement la mélodie, ce qui correspond à l'esprit dérangé du meurtrier.
En dehors de ce sifflement leitmotiv, le film ne comporte aucune autre musique, ce qui était courant pour les tout premiers films parlants mais renforce ici considérablement l'effet dramatique du thème.
Après avoir vu le film au cinéma, Joseph Goebbels nota dans son journal une lecture erronée de l'œuvre, la trouvant favorable à la peine de mort et prédisant que Lang deviendrait « notre réalisateur » ; les nazis interdirent pourtant le film peu après leur arrivée au pouvoir et utilisèrent un extrait dans le film de propagande antisémite Le Juif éternel (1940) pour prétendre que Peter Lorre pervertissait le sens de la justice du peuple.
En 1950, le producteur Seymour Nebenzahl proposa à Fritz Lang de réaliser un remake américain du film, mais celui-ci refusa en raison d'un différend financier avec lui ; le remake fut finalement réalisé par Joseph Losey en 1951, et Lang plaisanta plus tard en disant n'avoir jamais reçu d'aussi bonnes critiques que celles obtenues par cette nouvelle version.
En 2008, les Cahiers du cinéma classèrent M sixième dans leur liste des 100 meilleurs films de tous les temps, le meilleur classement jamais obtenu par une production allemande.
La version originale du film durait 117 minutes, mais des parties de cette version ont été perdues ; après plusieurs restaurations successives, une version numérique de 111 minutes reconstituée à partir de copies retrouvées notamment à la Cinémathèque suisse et au Nederlands Filmmuseum a été publiée en 2011.
L'épisode Le Tueur de poupées (1988) de la série Miami Vice reprend largement la trame du film : un tueur schizophrène, une enquête qui gêne les trafiquants de drogue, et une traque parallèle du criminel par la pègre qui organise son propre « procès ».
Une série remake du film a été diffusée en 2019 lors de la 69e Berlinale, transposant l'action dans le Vienne contemporain, réalisée par David Schalko avec notamment Moritz Bleibtreu, Lars Eidinger et Udo Kier.
Plusieurs artistes se sont inspirés du film en musique : le groupe punk-rock allemand Turbostaat lui a consacré une chanson en 2003, le groupe Die Ärzte a utilisé des extraits de la scène du procès dans une ouverture de tournée en 1995, et Falco fait une allusion directe au film dans le clip de « Jeanny (Part 1) », où il apparaît déguisé en M avec un F sur son manteau et un vendeur de ballons aveugle à ses côtés.
