Segundo filho do duque Carlos Luís Frederico, príncipe de Mecklenburg-Mirow, e da princesa Isabel Albertina de Saxe-Hildburghausen, tornou-se o herdeiro presuntivo do ducado quando o tio, o duque reinante Adolfo Frederico III (1686-1752) morreu sem descendência masculina e o seu irmão mais velho, Adolfo Frederico (1738-1794) ascendeu ao trono, em  11 de Dezembro de 1752, com 14 anos de idade. 

Tendo entrado ao serviço do Exército do Hanovre, a possessão alemã dos reis da Grã-Bretanha, quando a sua irmã mais nova Carlota (1744-1818) casou com o rei Jorge III da Grã-Bretanha, duque reinante do Hanovre, em Setembro de 1761, abriram-se novas perspectivas à sua carreira militar. Pouco tempo depois, em Maio de 1762, seguiu o conde reinante de Schaumbourg-Lippe, também ao serviço do Exército do Hanovre, quando a Guerra do Pacto de Família foi despoletada entre Portugal e a Espanha aliada à França.

Feito tenente-general do Exército Português, foi-lhe dado o comando honorário do novo Regimento de Cavalaria levantado em Lisboa, em 1762, que ficou conhecido pelo nome de Regimento de Meclemburgo. 

Casou com Frederica de Hesse-Darmstadt em Setembro de 1768, tendo tido dez filhos, dos quais seis chegaram à idade adulta. A mulher morreu de parto em 1782. Casou de seguida com uma cunhada, Carlota, em 1784, tendo morrido no ano seguinte ao dar à luz o seu primeiro filho.

Após a "Guerra Fantástica" foi nomeado para um importante cargo militar no Hanovre, sendo nomeado governador do ducado pelo seu cunhado, o rei Jorge III, em finais de 1776, tendo-lhe  sido atribuídos os poderes de um soberano de facto. Ao enviuvar pela segunda vez, em 1785, Carlos pediu a demissão de governador, sendo promovido a marechal de campo quando se retirou.

Após um curto período passado a viajar estabeleceu-se em Darmstadt, onde ocupou o cargo de presidente da Comissão de Crédito imperial. 

Ascendeu ao trono enquanto Carlos II de Mecklenburg-Strelitz quando o irmão, Adolfo Frederico IV, morreu, solteiro, em 2 de Junho de 1794. Integrou a Confederação do Reno organizada por Napoleão Bonaparte em 1806 e, em 1815, após o Congresso de Viena, passou a usar o título de grão-duque.

Foi pai de Luísa, rainha da Prússia, mulher de Frederico-Guilherme III.