Najprawdopodobniej pierwsi Żydzi mieszkali w Baniach już w średniowieczu o czym mogą świadczyć zachowane dokumenty i imiona jakie się w nich pojawiają - Samuel czy Tewes. Dziś po licznej społeczności żydowskiej w tej sporej wsi zachował się cmentarz z trzema nagrobkami.
Cmentarz został założony przy dzisiejszej ul. Ogrodowej. Niewielki placyk jest wyniesiony lekko nad okoliczne łąki.
Żydowska nekropolia w Baniach pochodzi z XVIII wieku – o czym świadczy najstarszy zachowany nagrobek z 1741 roku. Warto jednak zauważyć, że w tym czasie w Baniach oficjalnie mieszkały tylko dwie żydowskie rodziny. Po 1812 roku, gdy wprowadzono edykt Fryderyka Wilhelma III liczba żydowskich mieszkańców w Baniach zaczęła szybko rosnąć. W 1871 roku w mieście było już 103 Żydów.
Cmentarz został zniszczony przez zwolenników Hitlera w 1938 roku podczas tzw. „nocy kryształowej”. Po drugiej wojnie światowej teren nekropoli został porzucony.Obszar cmentarza zarastał, a marmurowe tablice zostały skradzione. Do lat 60. XX wieku na terenie cmentarza było jeszcze kilkanaście macew.
We wrześniu 1994 roku nekropolia została wpisana na listę zabytków. W 2007 roku władze gminy podjęły decyzję o uporządkowaniu terenu cmentarza. Wycięto zarośla, oczyszczono jesionową aleję dojazdową, wyeksponowano najstarszą, granitową macew. Podczas prac porządkowych, już drugiego dnia odnaleziono jeszcze jeden nagrobek z inskrypcjami w języku hebrajskim. Na cmentarzu zachowała się także betonowa płyta nagrobna z inskrypcją w języku niemieckim.
Oprócz zachowanych trzech całych nagrobków na cmentarzu w Baniach odnajdziemy kilka pozostałości późniejszych nagrobków z piaskowca – ich podstawy i obudowy. Przed cmentarzem ustawiono tablicę informacyjną w trzech językach – polskim, niemieckim i angielskim. W przeszłości cmentarz był otoczony murem z ciosanego granitu i obsadzony drzewami. Dziś po murze została jedynie ukryta w trawie jego przyziemna część, zaś drzewa w większości wycięto na początku lat 90. XX wieku. W planach gminy jest odbudowa kamiennego muru – jeśli znajdą się na ten cel środki finansowe.
Po akcji porządkowania terenu kirkutu gmina Banie zobowiązała się do stałej opieki nad nekropolią.