Reinecke nació en Altona, en aquel momento era parte del ducado de Holstein y gobernado con el rey de Dinamarca, ahora un barrio de Hamburgo. Hijo de Johann Peter Rudolph Reinecke, un profesor de música, Carl comienza a escribir música a los siete años, llegando a actuar como pianista a los doce años de edad.

Realizó su primera gira musical en 1843, un hecho que le llevó en 1846 a su nombramiento como pianista de la Corte de Cristián VIII de Dinamarca en Copenhague, donde permaneció hasta 1848. Durante este período escribió cuatro conciertos para piano y cadencias de varias obras, incluso un gran grupo publicado como el Opus 87. También escribió conciertos para violín, violoncelo, arpa y flauta.