Il personaggio di Colombo è stato ideato da Richard Levinson e William Link, che si sono dichiarati ispirati a Porfirij Petrovič, il detective umile e acuto del romanzo Delitto e castigo di Dostoevskij, e al prete-detective Padre Brown di G. K. Chesterton.
Alcune fonti sostengono che il personaggio di Colombo sia stato influenzato anche dall'ispettore Fichet del film thriller francese I diabolici (1955).
Colombo apparve per la prima volta nel 1960 in un episodio della serie antologica The Chevy Mystery Show, intitolato 'Enough Rope', tratto da un racconto di Levinson e Link in cui il personaggio si chiamava tenente Fisher.
Il primo attore a interpretare il personaggio (allora chiamato Fisher) fu il caratterista Bert Freed, che vestiva un abito sgualcito e fumava un sigaro ma non aveva ancora le altre caratteristiche tipiche di Colombo.
Nell'adattamento teatrale Prescription: Murder, andato in scena nel 1962 al Curran Theatre di San Francisco, il ruolo fu interpretato dal premio Oscar Thomas Mitchell, che morì di cancro durante la tournée: fu il suo ultimo ruolo.
Per il film TV del 1968 gli autori pensarono inizialmente a Lee J. Cobb e Bing Crosby per il ruolo del tenente, ma Cobb non era disponibile e Crosby rifiutò perché temeva che il lavoro gli avrebbe tolto troppo tempo dal golf.
Il regista Richard Irving convinse Levinson e Link ad affidare il ruolo a Peter Falk, che disse entusiasta di 'sarei disposto a uccidere per interpretare quel poliziotto', nonostante fosse molto più giovane di quanto gli autori avessero in mente.
L'impermeabile beige sgualcito indossato da Colombo era realmente di proprietà di Peter Falk, acquistato in un negozio di New York, e comparve per la prima volta in Prescription: Murder; l'attore lo usò per tutta la prima serie insieme sempre alla stessa camicia, cravatta, pantaloni e scarpe, acquistandone uno nuovo solo nel 1992.
Peter Falk improvvisava spesso i tic e le stranezze del personaggio, come cercare una lista della spesa nelle tasche o chiedere in prestito una matita, per mantenere gli altri attori in una condizione di disagio genuino durante le scene.
La famosa frase 'Just one more thing' nacque per caso durante la scrittura della pièce teatrale: Levinson e Link avevano una scena troppo corta e, per pigrizia nel riscriverla, fecero rientrare Colombo dicendo 'Oh, solo un'altra cosa'.
Colombo non ha mai avuto un tema musicale ufficiale proprio, ma la sigla 'The Mystery Movie Theme' di Henry Mancini, scritta per la serie The NBC Mystery Movie, fu usata in ben 38 episodi tra il 1971 e il 1977.
La canzone per bambini inglese 'This Old Man', che il tenente fischietta spesso quando i pezzi del mistero iniziano a incastrarsi, fu introdotta nell'episodio 'Any Old Port in a Storm' del 1973 e divenne una sorta di motivo distintivo non ufficiale della serie.
Molti anni prima della sua morte, Peter Falk manifestò l'interesse di tornare a interpretare Colombo e nel 2007 disse di aver scelto una sceneggiatura per un ultimo episodio, ribattezzato 'Columbo's Last Case', ma la ABC rifiutò il progetto e i produttori tentarono senza successo di venderlo a società di produzione straniere.
Nel 2007 a Falk fu diagnosticata la demenza e, secondo la testimonianza di un medico durante un processo del 2009 sulla sua assistenza, l'attore non ricordava più di aver interpretato Colombo né riusciva a identificare il personaggio.
Secondo un articolo del Chicago Tribune del 1989, quando la produzione di Colombo si interruppe e la Romania non poteva più trasmettere nuovi episodi, il governo temette possibili disordini popolari e il Dipartimento di Stato USA chiese a Falk di registrare un annuncio speciale per la televisione romena.
Nel 2014 è stata inaugurata a Budapest, in Ungheria, una statua del tenente Colombo con il suo cane in Miksa Falk Street; secondo l'allora sindaco del distretto, Peter Falk potrebbe essere stato parente dello scrittore e politico ungherese Miksa Falk, sebbene non ci siano prove certe.
Il nome di battesimo di Colombo non viene mai pronunciato nella serie, ma si può intravedere 'Frank Columbo' scritto sul suo distintivo di polizia in alcuni fermo-immagine; questa ambiguità portò l'autore di The Trivia Encyclopedia a inserire come trappola per il copyright il falso nome 'Philip Columbo', che fu poi usato dal gioco Trivial Pursuit scatenando una causa legale da 300 milioni di dollari, respinta dai tribunali.
Lo spin-off Mrs. Columbo, con Kate Mulgrew, fu cancellato dopo sole tredici puntate; il pubblico non apprezzò l'interpretazione e nella seconda stagione tutti i riferimenti a Colombo furono eliminati, cambiando anche il titolo della serie in Kate Loves a Mystery.
Il primo episodio della serie regolare, 'Murder by the Book', fu scritto da Steven Bochco e diretto da un giovane Steven Spielberg.
