Fakultas Ilmu Pendidikan (FIP) Universitas Negeri Medan memiliki sejarah yang panjang. Perkembangan hingga capaian saat ini tidak lepas dari proses yang telah dilalui. Pada tahun 1962 FKIP USU menunjukkan perkembangan yang pesat, jurusan yang dikelola bertambah, dan jumlah mahasiswa sudah ribuan orang. Pada masa itu juga pemerintah telah memikirkan untuk membentuk suatu kelembagaan IKIP seperti yang ada di Bandung dan Malang, dengan maksud untuk menghapuskan PTPG. Kondisi ini mengharapkan FKIP USU lebih berkembang dan dapat menjadi IKIP. Pada saat ini FKIP USU belum memenuhi syarat untuk menjadi suatu Institusi Keguruan dan Ilmu Pendidikan yang berdiri sendiri, maka FKIP USU kemudian dijadikan cabang dari IKIP Jakarta.
Dengan demikian pada tanggal 23 Juni 1963 terbentuklah IKIP Jakarta cabang Medan. Sebagai Dekan Koordinator diangkat G. Sianipar, SH, M.Sc, dibantu oleh dewan Presidium yang anggotanya terdiri atas G. Sianipar, S.H., M.Sc., Apul Panggabean, M.A, dan D.Q. Nasution. Bersamaan dengan itu Jurusan Pendidikan Jasmani ditetapkan menjadi Sekolah Tinggi Olahraga (STO) yang berdiri di bawah Departemen Olahraga Republik Indonesia.
Seiring dengan perubahan FKIP USU menjadi IKIP Jakarta Cabang Medan, maka terjadi pula reorganisasi pada Fakultas ini. Jurusan-jurusan dikelompokkan sesuai dengan bidang ilmu dan mematangkannya untuk menjadi Institut Keguruan Ilmu Pendidikan (IKIP) yang berdiri sendiri. Cabang Fakultas Ilmu Pendidikan yang terdiri atas Jurusan : a. Pendidikan Umum b. Pendidikan Sosial c. Bimbingan dan Penyuluhan, dan d. Administrasi Pendidikan. Fakultas Ilmu Pendidikan saat ini menjadi salah satu dari 7 fakultas yang dikelola Universitas Negeri Medan
Dekan FIP dari Masa Ke Masa:
- RM. Simanjuntak, M.Sc (1965 – 1968)
- Prof. V. M. Napitupulu, M.Ed. (1971-1974 & 1989-1992)
- Drs. T. manurung (1977-1980)
- Drs. Herlan Aritonang (1980-1983)
- Prof. Dr. Yurmaini Mainuddin, MA. (1986-1989)
- Prof. Dr. H. M. Yacob, M.Ed. (1993-1997)
- Dr. Belferik Manullang (1997-2004)
- Prof. Dr. Ibrahim Gultom, M.Pd. (2004-2012)
- Prof. Dr. Nasrun, MS (2012-2016 dan 2016-2020)
- Prof. Dr. Yusnadi, MS (2020-sekarang)