Le personnage de Columbo s'inspire en partie de Porfiri Petrovitch, l'enquêteur de Crime et Châtiment de Dostoïevski, du prêtre détective Père Brown de G. K. Chesterton, et selon certaines sources de l'inspecteur Fichet du film Les Diaboliques (1955).

Columbo apparaît pour la première fois en 1960 dans un épisode de l'anthologie The Chevy Mystery Show intitulé 'Enough Rope', adapté d'une nouvelle de Levinson et Link où le policier s'appelait alors Fisher ; il y était interprété par l'acteur Bert Freed.

Avant Peter Falk, Columbo fut incarné par Bert Freed en 1960 puis par l'acteur oscarisé Thomas Mitchell, alors âgé de 70 ans, dans la pièce Prescription: Murder en 1962 ; ce fut d'ailleurs le dernier rôle de Mitchell, mort d'un cancer pendant la tournée.

Pour le téléfilm de 1968, les scénaristes avaient d'abord pensé à Lee J. Cobb et Bing Crosby pour le rôle de Columbo, mais Cobb était indisponible et Crosby refusa car cela aurait empiété sur son temps de golf ; c'est le réalisateur Richard Irving qui convainquit Levinson et Link de choisir Peter Falk, pourtant bien plus jeune que prévu pour le rôle.

L'imperméable élimé, le costume froissé et les chaussures montantes de Columbo appartenaient réellement à Peter Falk, qui fournissait lui-même sa garde-robe pour la série ; il disait se sentir simplement à l'aise dedans.

Peter Falk improvisait souvent les tics de son personnage (fouiller ses poches, demander un crayon, se laisser distraire par un détail insignifiant) afin de déstabiliser ses partenaires de jeu et rendre leurs réactions d'agacement plus authentiques.

Selon Richard Levinson, la célèbre réplique 'Encore une chose' est née par accident lors de l'écriture de la pièce : une scène étant trop courte, les auteurs, trop paresseux pour la retaper, ont simplement fait revenir Columbo dire 'Oh, juste encore une chose'.

Le prénom de Columbo n'est jamais prononcé à l'oral dans la série, mais on peut apercevoir 'Frank Columbo' inscrit sur sa carte de police lors d'arrêts sur image dans plusieurs épisodes ; il semble que ce prénom soit une invention de l'accessoiriste plutôt que des scénaristes.

Le créateur de The Trivia Encyclopedia, Fred L. Worth, avait inséré une fausse information indiquant que le prénom de Columbo était 'Philip' comme piège anti-copie ; lorsque le jeu Trivial Pursuit reprit cette réponse erronée, Worth intenta un procès de 300 millions de dollars, qu'il perdit finalement devant la Cour suprême en 1988.

La chanson enfantine britannique 'This Old Man', sifflée occasionnellement par Columbo, est devenue le thème officieux du personnage à partir de l'épisode 'Any Old Port in a Storm' (1973) ; Peter Falk expliquait que c'était simplement une mélodie qu'il aimait personnellement.

Selon un article du Chicago Tribune de 1989, l'arrêt de la production de Columbo aurait tellement inquiété le gouvernement roumain, craignant des émeutes faute de nouveaux épisodes, que le département d'État américain aurait demandé à Peter Falk d'enregistrer une annonce spéciale diffusée à la télévision roumaine.

Steven Spielberg a réalisé l'épisode pilote de la première saison 'Murder by the Book', écrit par Steven Bochco, et Jonathan Demme a réalisé l'épisode 'Murder Under Glass' de la septième saison, deux réalisateurs alors en tout début de carrière.

Peter Falk avait choisi un scénario pour un ultime épisode de Columbo intitulé 'Columbo: Hear No Evil' (renommé 'Columbo's Last Case'), mais ABC refusa le projet ; peu après, en 2007, Falk fut diagnostiqué d'une démence qui lui fit perdre jusqu'au souvenir d'avoir interprété ce personnage.