Fakultas Ilmu Pendidikan (FIP) Universitas Negeri Medan memiliki sejarah yang panjang. Perkembangan hingga capaian saat ini tidak lepas dari proses yang telah dilalui. Pada tahun 1962 FKIP USU menunjukkan perkembangan yang pesat, jurusan yang dikelola bertambah, dan jumlah mahasiswa sudah ribuan orang. Pada masa itu juga pemerintah telah memikirkan untuk membentuk suatu kelembagaan IKIP seperti yang ada di Bandung dan Malang, dengan maksud untuk menghapuskan PTPG. Kondisi ini mengharapkan FKIP USU lebih berkembang dan dapat menjadi IKIP.
Pada saat itu FKIP USU belum memenuhi syarat untuk menjadi suatu Institusi Keguruan dan Ilmu Pendidikan yang berdiri sendiri, maka FKIP USU kemudian dijadikan cabang dari IKIP Jakarta. Dengan demikian pada tanggal 23 Juni 1963 terbentuklah IKIP Jakarta cabang Medan. Sebagai Dekan Koordinator diangkat G. Sianipar, SH, M.Sc, dibantu oleh dewan Presidium yang anggotanya terdiri atas G. Sianipar, S.H., M.Sc., Apul Panggabean, M.A, dan D.Q. Nasution. Bersamaan dengan itu Jurusan Pendidikan Jasmani ditetapkan menjadi Sekolah Tinggi Olahraga (STO) yang berdiri di bawah Departemen Olahraga Republik Indonesia.
Seiring dengan perubahan FKIP USU menjadi IKIP Jakarta Cabang Medan, maka terjadi pula reorganisasi pada Fakultas ini. Jurusan-jurusan dikelompokkan sesuai dengan bidang ilmu dan mematangkannya untuk menjadi Institut Keguruan Ilmu Pendidikan (IKIP) yang berdiri sendiri. Cabang Fakultas Ilmu Pendidikan yang terdiri atas Jurusan : a. Pendidikan Umum b. Pendidikan Sosial c. Bimbingan dan Penyuluhan, dan d. Administrasi Pendidikan. Fakultas Ilmu Pendidikan saat ini menjadi salah satu dari 7 fakultas yang dikelola Universitas Negeri Medan.
FIP UNIMED saat ini menaungi sejumlah program studi yang dirancang untuk menghasilkan tenaga pendidik, konselor, dan ahli manajemen pendidikan yang kompeten. Beberapa program studi unggulan di FIP meliputi Pendidikan Guru Sekolah Dasar (PGSD), Pendidikan Guru Pendidikan Anak Usia Dini (PG-PAUD), Bimbingan dan Konseling (BK), Teknologi Pendidikan, Pendidikan Luar Sekolah, dan Manajemen Pendidikan. Program-program ini tidak hanya menitikberatkan pada pembelajaran teori, tetapi juga pada praktik dan penelitian untuk memastikan lulusannya mampu beradaptasi di dunia kerja yang dinamis.