Le réalisateur Jean-Jacques Annaud était convaincu que le roman d'Umberto Eco était écrit pour être adapté par lui seul, séduit par une fascination de longue date pour les églises médiévales et une grande familiarité avec le latin et le grec.
Annaud ne voulait initialement pas de Sean Connery pour le rôle de Guillaume de Baskerville, craignant que le personnage, déjà un mélange de Sherlock Holmes et de Guillaume d'Ockham, ne soit écrasé par l'image de James Bond ; il fut finalement convaincu par sa lecture du rôle. Umberto Eco fut consterné par ce choix et Columbia Pictures se retira du projet car la carrière de Connery traversait alors une période creuse.
Le rôle du bossu simple d'esprit Salvatore devait revenir au comique italien Franco Franchi, mais celui-ci rompit son contrat en refusant de se faire raser le crâne et d'y coller de fausses plaques de gale ; Ron Perlman, qui avait déjà tourné avec Annaud dans La Guerre du feu, fut alors engagé.
Helmut Qualtinger, qui interprète Remigio da Varagine, était gravement malade durant le tournage et est décédé juste avant la sortie du film.
Christian Slater a été choisi via une audition à grande échelle de jeunes acteurs, sa mère Mary Jo Slater, elle-même directrice de casting réputée, ayant consulté sur le film.
Pour la scène de séduction entre Adso et la jeune paysanne, Annaud a laissé Valentina Vargas diriger la scène sans indication, et n'a rien expliqué à Christian Slater à l'avance afin d'obtenir une réaction plus authentique.
La scène érotique entre Christian Slater et Valentina Vargas a été tournée avec une équipe technique réduite au minimum, l'actrice ayant exigé le départ de tout le monde, y compris des producteurs, et le tout en une seule prise.
Le décor extérieur de l'abbaye, plus grand décor extérieur construit en Europe depuis Cléopâtre (1963), fut entièrement bâti sur une colline près de Rome et n'existe donc pas réellement ; il s'inspire du château italien du XIIIe siècle Castel del Monte.
Pour la scène finale d'incendie, le décor de sept étages fut entièrement détruit et filmé par sept caméras, dont seulement trois fonctionnèrent réellement ; l'acteur Feodor Chaliapin Jr. reçut accidentellement une poutre enflammée censée être en balsa mais que les techniciens avaient fabriquée en chêne.
Les livres utilisés dans le film, avec leurs enluminures et reliures très réalistes, étaient si bien imités que certains furent volés pendant le tournage, obligeant l'équipe à les mettre au coffre chaque soir.
Comme les porcs médiévaux étaient noirs et non roses, et qu'il était difficile d'en trouver de cette couleur, l'équipe utilisa des porcs roses peints en noir pour le tournage, une peinture qui tenait mal car les animaux se frottaient les uns contre les autres.
Un clin d'œil à Umberto Eco apparaît dans la bibliothèque, où Guillaume s'extasie sur un exemplaire du Beatus de Liébana commenté par un certain « Umbertus de Bologne », ville où Eco était professeur.
Le nom du bibliothécaire aveugle Jorge de Burgos est un clin d'œil d'Umberto Eco à l'écrivain Jorge Luis Borges et à sa nouvelle La Bibliothèque de Babel.
La disposition en labyrinthe de la bibliothèque, avec son escalier sans fin inspiré de Roger Penrose et Escher, est une idée du réalisateur qui fit remarquer à Umberto Eco que les dimensions du donjon ne permettaient pas un tel labyrinthe sur un seul étage ; par contrainte budgétaire, seules trois salles furent réellement construites, l'illusion étant créée en redisposant les livres.
La statue de la Vierge à l'Enfant devant laquelle prie Adso est un anachronisme de style proche de la Renaissance ; Annaud s'en aperçut pendant le tournage mais, la reproduction ayant coûté cher, la production le persuada de tourner quand même avec, un détail qui lui fut longtemps reproché.
La réplique de Guillaume « Le rire est le propre de l'homme » est en réalité une formule de Rabelais, auteur du XVIe siècle, ce qui constitue un léger anachronisme dans un film situé en 1327, déjà présent dans le roman.
Le film a connu un grand succès en Allemagne (25 millions de dollars de recettes) mais un échec commercial aux États-Unis, où il ne fut projeté que dans 176 salles pour 7,2 millions de dollars de recettes.
Umberto Eco a donné un avis mitigé sur l'adaptation, la comparant à un club sandwich dont le film n'aurait pu garder que la laitue ou le fromage, laissant de côté les dimensions théologique et politique du roman.
