Физические упражнения и игры, в частности, байга (скачки), джигитовка, аударыспак (единоборство всадников), жамбы (стрельба из лука по мишеням), казахша курес (вид борьбы), кокпар (козлодранье) и другие бытовали в народе с давних пор. Состязания по национальным видам спорта регулярно проводились на ярмарках.
Начало развития физической культуры и спорта в Караганде связано с открытием в конце 1931 года горного техникума и создания в 1933 году спортивного общества "Угольщик". В соревнованиях по легкой атлетике, футболу, волейболу участвовали коллективы промышленных предприятий.
В 1935 году карагандинцы организовали велопробег Караганда - Москва - Караганда. В 1937 году открылся стадион "Динамо".
В годы Великой Отечественной войны развитие физкультурно-спортивного движения было подчинено решению массово-оборонных задач, военно-физической подготовке допризывников.
В послевоенные годы в Караганде в 1946 году открылась спортивная школа молодежи, были построены стадион "Шахтер", Дворец спорта с зимним плавательным бассейном (1958). Были организованы факультет физического воспитания (1957), преобразованный в 1970 году в педагогический институт, техникум физической культуры и спорта (1966). В 70-е гг. был возведен ледовый Дворец спорта "Октябрьский" и легкоатлетический манеж.
К 1985 году в области насчитывалось:
Спортивный календарь области включал в себя около 140 различных форм соревнований по 43 видам спорта, в том числе Всесоюзный турнир по вольной борьбе на приз Абдирова (с 1960), традиционный междугородний турнир по легкой атлетике между детскими спортивными школами на приз Мусагалиева (с 1974), всесоюзный турнир по настольному теннису на приз Беляева (с 1975) и многие другие.
Карагандинцы - участники чемпионатов СССР. В 1964 и 1965 годах они установили 17 рекордов республики и 2 - СССР. В 1964 году на 18-х Олимпийских играх в Токио борец А. Колесов завоевал золотую медаль. На 20-х Олимпийских играх в Мюнхене в 1972 году пловец В. Абоимов был удостоен серебряной медали в эстафете 4x100. Успешными для Карагандинцев были и последующие Олимпийские игры. В 1976 году на 21-х Олимпийских играх в Монреале тяжелоатлет Ю. Зайцев завоевал золотую медаль, 2-х золотых медалей удостоены карагандинцы в 1980 году на Московской Олимпиаде (В. Муравьев, легкая атлетика 4х100, В. Мазин, тяжелая атлетика). Еще 2 золотые медали (В. Муравьев, легкая атлетика 4х100, бег на 200 м) и 1 серебряная (С. Нурказов, бокс) завоеваны на летних спортивных соревнованиях "Дружба-84".
Победителями первенств Европы и мира стали М. Абдул-Муслимов (вольная борьба, 1979), Нурказов (бокс, 1979), А. Жаппаров (вольная борьба, 1984), И. Ростроцкий (классическая борьба, 1984, 1985). Всего карагандинцами установлено 10 мировых рекордов: 8 по тяжелой атлетике (7 - Мазин, 1 - Зайцев) и 2 по легкой атлетике (В. Герасимова).
К 1984 году в области насчитывалось 61 мастер спорта СССР, 3 заслуженных тренера СССР, 45 заслуженных тренеров Казахской ССР, 24 судьи Всесоюзной категории. В классе "А" чемпионата страны по футболу успешно выступала команда "Шахтер" (с 1962 года). Обладателем Кубка СССР стала в 1975 году темиртауская футбольная команда "Булат". В 1965-75 гг. выступал на чемпионатах СССР карагандинский "Литейщик" (хоккей с мячом).