Fırat nehri boyunca ele geçen çakmak taşından yapılmış aletler ve diğer kalıntılar, insan oğlunun Rumkale ve çevresinde yontma taş (Paleotik) döneminden beri yerleştiğini kanıtlamaktadır. Bu dönemden sonraki iskan yerlerini ise Fırat vadisinde Tunç çağından başlayıp Kalkolitik döneme kadar inen höyüklerle izlemekteyiz. Rum kale ve çevresiyle ilgili antik kaynaklardaki ilk bilgiye Asur Kralı III. Salmanazar’ın MÖ. te zaptettiği “Şitamrat” yerleşimiyle ulaşmaktayız. Bu yerin Rumkale olduğu ifade edilmektedir. Rumkale çevresi bölgedeki stratejik konumu sebebiyle Med, Pers, Helenistik ve Roma dönemlerinde de iskan görmüştür.