Năm 1948 lớp Sư phạm đầu tiên ở Cao Bằng được thành lập; tính đến năm 1990, đã có nhiều trường Sư phạm được thành lập và hoạt động. Ngày 20 tháng 9 năm 1990 Uỷ ban nhân dân tỉnh Cao Bằng có Quyết định số 334UB/QĐ-TC về việc sáp nhập ba trường Sư phạm: Sư phạm 12 + 3, Sư phạm 12 + 2, Sư phạm Mẫu giáo và Nuôi dạy trẻ thành trường Trung học Sư phạm Cao Bằng.
Ngày 02 tháng 10 năm 2000 trường Trung học Sư phạm Cao Bằng được nâng cấp thành trường Cao đẳng Sư phạm Cao Bằng theo Quyết định số 4018/2000/QĐ-BGD&ĐT-TCCB của Bộ trưởng Bộ Giáo dục và Đào tạo.
