Khoa Đại cương được thành lập vào những ngày đầu thành lập Trường (năm 2001). Tuy nhiên qua nhiều giai đoạn phát triển của Trường, theo yêu cầu chung, Khoa Đại cương nhiều lần sát nhập với các khoa khác. Đến đầu năm học 2023 - 2024, Khoa Đại cương chính thức được thành lập lại theo quyết định số 169/QĐ-CĐCNTT ngày 29/9/2023 của Hiệu trưởng Trường Cao đẳng CNTT TP. Hồ Chí Minh.
Khoa Đại cương đảm nhận nhiệm vụ đào tạo giảng dạy các môn học: tiếng Anh, Pháp luật, Giáo dục thể chất, Giáo dục chính trị, Kỹ năng mềm 1 - 2, Giáo dục quốc phòng – an ninh cho sinh viên trường Cao đẳng công nghệ thông tin TP. HCM.
Khoa Đại cương là đơn vị chuyên môn của Nhà trường, chịu sự chỉ đạo trực tiếp của Hiệu trưởng. Khoa có chức năng giúp Hiệu trưởng xây dựng chiến luợc đào tạo của khoa; quản lý, điều hành các hoạt động chuyên môn của các bộ môn trực thuộc khoa.
Tham mưu cho Hiệu trưởng bổ sung, cập nhật đề cương, chương trình, giáo trình, tài liệu, cơ sở vật chất phục vụ giảng dạy.