Klubas įkurtas 1982 m. prie miško urėdijos Krasnopoljės gyvenvietėje. „Javoru“ vadintas klubas dalyvavo apskrities pirmenybėse. Vėliau persikėlė į Sumus.
2008 m. klubas pervadintas „Sumais“. Iškopė į Pirmą lygą.
2016/2017 metų sezone užėmė 15 vietą pirmenybėse ir dėl vietos Pirmoje lygoje kovojo išlikimo rungtynėse. jas laimėjo ir liko Pirmoje lygoje.
2019 m. FK Sumy neteko profesionalaus futbolo statuso.