Bis zum Ende des 18. Jahrhunderts befand sich der jüdische Friedhof in Güssing im Stadtgraben. 1799, oder 1811, schenkten die Grafen Batthyány der jüdischen Gemeinde einen neuen Friedhofsplatz im Mühlwinkel, am Rande der Stadt.
Nach der Machtübernahme der Nationalsozialisten wurde der Friedhof geschändet, die Grabsteine abtransportiert und das Friedhofsareal teilweise verkauft bzw. verbaut. Nach 1945 ließ die IKG Graz in Zusammenarbeit mit dem Verein Shalom 50 symbolische Grabsteine und ein Mahnmal errichten. Nach dem Auffinden von einigen Güssinger Grabsteinen in Graz wurden diese 2001 auf den Güssinger Judenfriedhof zurückgebracht.
(zunächst eine hebräische Inschrift) „Zum Gedenken an die einst blühende jüdische Gemeinde Güssing und ihre Mitglieder, die in der NS-Zeit gedemütigt, beraubt und vertrieben wurden. Viele von ihnen wurden ermordet. Wir gedenken ihrer Leiden und Opfer. Israelitische Kultusgemeinde Graz.“