Okulumuzun yapımı 1850 yılına dayanmaktadır. 3215 m²'lik toplam alanda, binamız 420 m²'lik bir bir zemine oturmakta, 2795 m²'lik boş arsa bahçe olarak kullanılmaktadır. Okulumuzun arsası Sultan Beyazıt Vakfından kira karşılığı Vakıflar İdaresine bırakılmıştır. Mülkiyeti İl Özel İdaresine aittir.

Okulumuz, Fatih Kazası Eyüp Nahiyesi Rami Köyü'nde bulunan askeri kışladaki Ferikli Ramiz Paşa'dan ismini almıştır. Ramiz Paşa Vakfı üzerinde -kesin olmamakla birlikte- 1927 yılında faaliyete geçmiştir. Ama eldeki belgelere bakıldığında 1927 - 1928 ders senesi ilk tahsil bitirme, şahadetname defteri incelendiğinde o yıl okulumuz 33. ilk mektep olarak mezun vermiştir. Söylenti odur ki, o yıllarda ilk mektep üç yılmış buna dayanaraktan, okulumuzun 1925 yılında kurulduğunu söyleyebiliriz. 1929'da komşu okulumuz Hacıalipaşa Mahalle Mektebi öğrencilerini bünyesine alarak 1929/1930'da mezun vermiştir. 33. ilk mektep olarak hizmet veren okulumuz daha sonraki yıllarda ortaokula dönüştürülmüştür. 1965 yılında Rami Ortaokulu açıldıktan sonra tekrar ilkokul olarak hizmet vermeye başlamıştır. 33. ilk mektep semtinin ismini alarak Rami İlkokulu olmuştur. 1995-1996 öğretim yılından beri "ilköğretim" olarak eğitim ve öğretime devam etmektedir.