Entstanden ist die Stadt aus einer alten slawischen Siedlung von Fischern und Flößern. Bis ins 16. Jahrhundert hielt sich der Name Plawe hartnäckig, bis sich dann der Name Plau durchsetzte. Um Verwechslungen mit Plauen und Plaue (Havel) zu vermeiden, wurde am 11. Januar 1994 der Stadtname durch den Zusatz „am See“ ergänzt.
Das Stadtrecht bekam Plau am See 1225 oder 1226 zusammen mit Parchim von den Fürsten Heinrich Borwin I. und Heinrich Borwin II. verliehen. Nikolaus II. ließ 1287 die kleine Burg Plau auf einer am nordöstlichen Stadtrand gelegenen und in den Plauer See ragenden Landzunge erbauen. Ende des 13. Jahrhunderts erhielt die Stadt eine Stadtmauer mit drei großen und einem kleinen Stadttor zum Schutz gegen Raubritter, die aus dem Brandenburgischem immer wieder ins südliche Mecklenburg eindrangen. Die frühgotische Ev. Pfarrkirche St. Marien ist ebenfalls im 13. Jh. erbaut worden. Sie ist heute das älteste Gebäude der Stadt und eine der besterhaltenen Backsteinkirchen mit westfälischer Prägung.
Die Besitzansprüche an der Stadt und dem Umland wechselten viele Male. Beteiligt waren u.a. nach Heinrich Borwin I. die Herrscher Pribislaw von Parchim-Richenberg, Nikolaus I. und dessen Söhne Heinrich I. und Johann I., Nikolaus II. von Werle, Wizlaw II. von Rügen, Albrecht II. von Mecklenburg und viele andere. Herzog Heinrich (der Friedfertige) veranlasste in den Jahren 1538 bis 1550 den Ausbau der Burganlagen zu einer der größten Festungen Norddeutschlands. Im Dreißigjährige Krieg von 1618 bis 1648 wurde die Stadt mehrmals verwüstet und Pestepidemien rafften die Bevölkerung dahin. Bei verheerenden Stadtbränden wurden 17. und 18. Jh. viele historische Häuser und zahlreiche Nebengebäude vernichtet. Anfang des 19. Jh. begann die Franzosenzeit, die erneut Plünderungen mit sich brachte.
Erst um 1830 begann der wirtschaftliche Aufschwung, ehe im Deutsch- Französischem Krieg 1870/71 wieder Opfer zu beklagen waren. Der I. und II. Weltkrieg forderte erneut viele Menschenleben, ehe die Rote Armee im Mai 1945 kampflos in die Stadt einzog. Durch den Zuzug von Flüchtlingen aus dem Osten hatte sich die Einwohnerzahl nahezu verdoppelt und Hotels und Kurhäuser mussten als Flüchtlingsunterkünfte dienen. Die Bodenreform erreichte auch Plau am See, wobei alle größeren Betriebe zur Zeit der DDR verstaatlicht wurden. Erst nach der Wende wurde ab 1991 damit begonnen, den denkmalgeschützten historischen Stadtkern zu sanieren und die vielen Fachwerkhäuser und die Gebäude des Burgbereichs in die Städtebauförderung aufzunehmen. Das Stadtbild hat sich seitdem erheblich verbessert, aber leider mussten die meisten der Industriebetriebe geschlossen werden. Heute sind der Tourismus mit den Hotel Plau und das Gesundheitswesen mit zwei Reha-Kliniken und einem Krankenhaus von überregionaler Bedeutung.