Le figlie di Walt Disney si innamorarono dei libri di Mary Poppins e gli fecero promettere di realizzarne un film; Disney provò a comprare i diritti fin dal 1938, ma P. L. Travers rifiutò per oltre vent'anni, temendo che il cinema non rendesse giustizia alla sua opera.
Disney ottenne finalmente i diritti nel 1961, ma dovette concedere a Travers un diritto di approvazione sulla sceneggiatura; furono i fratelli Sherman, autori delle musiche, a suggerire di spostare l'ambientazione dagli anni '30 all'epoca edoardiana.
P. L. Travers detestò a tal punto l'uso dell'animazione e l'edulcorazione del personaggio che vietò per sempre ulteriori adattamenti dei romanzi successivi della saga; durante la premiere cercò invano di far togliere la sequenza animata, ricevendosi da Disney la celebre risposta "Pamela, the ship has sailed".
Prima di Julie Andrews, per il ruolo di Mary Poppins furono considerate attrici come Bette Davis, Judy Garland, Elizabeth Taylor, Angela Lansbury e Natalie Wood; Andrews ottenne la parte poco dopo essere stata scartata da Jack L. Warner per il ruolo di Eliza Doolittle in My Fair Lady, sostituita da Audrey Hepburn nonostante lo avesse originato a Broadway.
Al momento in cui Disney le propose il ruolo, Julie Andrews era incinta di tre mesi; Disney le assicurò che avrebbero rimandato le riprese fino alla nascita del bambino pur di averla nel cast.
Per il ruolo di Bert furono considerati anche Sean Connery, Cary Grant e Andy Griffith, mentre per Uncle Albert si pensò tra gli altri a Kirk Douglas, Bob Hope e George Burns.
Dick Van Dyke, scelto dopo che Disney lo vide nel suo show televisivo, insistette per interpretare anche il vecchio Mr. Dawes Sr. e convinse Disney con un provino, nonostante quest'ultimo lo ritenesse troppo giovane per la parte.
Nei titoli di coda il ruolo di Mr. Dawes Sr. viene inizialmente accreditato a "Navckid Keyd", un anagramma di Dick Van Dyke, prima che le lettere si ricompongano rivelando il vero nome dell'attore.
L'accento cockney di Dick Van Dyke, nonostante la coacher dell'attore inglese J. Pat O'Malley, è considerato uno dei peggiori accenti nella storia del cinema, classificato al secondo posto in un sondaggio di Empire del 2003; nel 2017, ricevendo un premio BAFTA, Van Dyke si scusò ufficialmente per il suo accento.
Il film fu girato interamente negli Walt Disney Studios di Burbank, in California, tra maggio e settembre 1963, usando fondali dipinti raffiguranti Londra; la post-produzione e l'animazione richiesero altri undici mesi.
La scena con i pinguini animati utilizza il processo al vapore di sodio anziché il più comune schermo blu: gli attori furono ripresi su uno sfondo bianco illuminato da luci al vapore di sodio, catturate da una macchina da presa con un prisma speciale che creava una matte molto precisa, permettendo persino di far trasparire la luce attraverso il velo trasparente del costume di Mary Poppins.
I ballerini spazzacamini avevano provato le coreografie per un mese e mezzo su un pavimento di compensato, ma il primo giorno di riprese si trovarono a girare la scena finale su un vero acciottolato, il che rese molto più difficile l'esecuzione dei movimenti con le scope.
Il nome del personaggio di Winifred Banks era originariamente Cynthia, ma fu cambiato in Winifred, più inglese, su richiesta di P. L. Travers.
Julie Andrews prestò la voce anche in altre parti del film: fece il fischio armonico per il pettirosso durante "A Spoonful of Sugar" ed fu una delle voci Pearly durante "Supercalifragilisticexpialidocious".
Il film ricevette tredici candidature agli Oscar, un record per la Walt Disney, vincendone cinque, tra cui miglior attrice per Julie Andrews; fu inoltre l'unico film Disney a ricevere una candidatura all'Oscar come miglior film durante la vita di Walt Disney.
Nel febbraio 2024 il British Board of Film Classification ha riclassificato il film da U a PG a causa dell'uso della parola "hottentot" da parte dell'Ammiraglio Boom per riferirsi agli spazzacamini danzanti.
