El personaje del agente especial G. Callen fue creado originalmente por Shane Brennan como un agente de la CIA para una serie que nunca llegó a producirse; Brennan retomó esta idea al asumir el rol de showrunner de NCIS para dar vida al spin-off.

Brennan concibió la serie con un aire similar a Miami Vice a través de sus dos protagonistas, Callen y el agente Sam Hanna.

Durante su producción, la serie fue conocida internamente como 'NCIS: Legend' (en referencia a los episodios de NCIS que la introdujeron), y también se barajaron otros títulos como 'OSP: Office of Special Projects', 'NCIS: OSP' y 'NCIS: Undercover'.

La serie fue presentada mediante un episodio piloto de dos partes titulado 'Legend' dentro de la sexta temporada de NCIS, de forma similar a como la propia NCIS había sido lanzada a través de un episodio doble de JAG.

Louise Lombard interpretó a la teniente Lara Macy en el episodio piloto, un personaje pensado como paralelo a Gibbs, pero no fue incorporada al reparto principal de la serie definitiva; su personaje apareció después asesinado en un episodio de NCIS titulado 'Patriot Down'.

El personaje de Owen Granger, interpretado por Miguel Ferrer, fue escrito enfermando de cáncer en la temporada 8 en paralelo a la batalla real del actor contra la enfermedad; tras la muerte de Ferrer en 2017, el personaje fue confirmado fallecido por su enfermedad durante la temporada siguiente.

En abril de 2011 el creador de NCIS, Donald Bellisario, demandó a CBS por NCIS: Los Angeles alegando que su contrato le otorgaba la 'primera opción' para desarrollar cualquier spin-off; la demanda fue desestimada en 2012 y el conflicto se resolvió finalmente fuera de los tribunales en enero de 2013.

En 2012 se anunció un intento de segundo spin-off de la franquicia, titulado NCIS: Red, presentado mediante un episodio de dos partes de NCIS: Los Angeles, pero CBS canceló el proyecto en mayo de 2013; el personaje de Dave Flynn, pensado para ese spin-off, siguió apareciendo esporádicamente en la serie interpretado por Scott Grimes.

La serie tuvo un crossover con Hawaii Five-0 en el que participaron los personajes Danny Williams y Chin Ho Kelly, motivado en parte por la aparición de Daniela Ruah como estrella invitada en esa serie.

Varios actores de la serie JAG, como David James Elliott (Harmon Rabb Jr.) y Catherine Bell (Sarah MacKenzie), retomaron sus papeles originales como personajes recurrentes en las temporadas 10 y 11 de NCIS: Los Angeles.

El episodio piloto, 'Identity', reunió a 18,73 millones de espectadores y fue el segundo programa más visto de la semana, solo por detrás de la NCIS original.