AfD, som bildades så sent som 2013, fick 20,3 procent av rösterna, och partiet bidrog också till att öka valdeltagandet till 61 procent, från 51,5 procent i föregående val.
CDU föll samtidigt tillbaka till 19 procent, från 23 procent, och partiet gjorde därmed sitt sämsta val hittills i delstaten.
Socialdemokraterna, SDP, blev största parti i valet, men backade ändå från 35,6 till 30,6 procent.
Financial Times noterar också att framgångarna för AfD bidrog till att driva ut det nynazistiska NPD ur delstatsparlamentet när partiet fick se röstandelen sjunka under 5 procent.
Men trots framgångarna väntas AfD inte ha någon chans att ta makten i Mecklenburg-Vorpommern. SPD väntas fortsätta med den tidigare koalitionen med CDU.