大同早的幼兒園是1912年大同縣育嬰堂附設的幼稚園。1949年以來政府大力發展幼教事業。至2009年大同市共有130所幼兒園，在園兒童數3.0萬人。
光緒二十八年（公元1902年）大同縣知縣龍璜在原平城書院創辦大同官立高等小學堂，這是大同縣**所高等小學校。民國成立后，城鄉設立了很多初等小學堂。1918年大同縣知縣馮延鑄下令取締私塾，強令男女兒童接受義務教育，并設立女子國民學校。1926-1928年因戰禍和天災，教育衰敗。1937年9月大同淪陷后教員四散奔逃，學校停辦。抗戰勝利后閻錫山政府忙于內戰，無暇顧及教育，僅恢復了少數國民學校。
1949年后，私立小學和教會小學陸續為人民政府接管。另外增設了許多市屬小學，此外還有廠礦企業所設子弟小學（逐漸收歸政府管理）。2009年全市有1221所小學（絕大多數為公立小學），在校生29.0萬人。
光緒三十年（公元1904年）知府劉瀛在停辦的云中書院處籌辦大同府中學堂，1905年正式開學，是大同早的中學教育。1913年學校由省接管后改為山西省立第三中學校，1934年改稱山西省立大同中學校。1934年山西省立第五女子師范學校改制，易名“山西省立大同女子初級中學校”。1937年9月大同淪陷后省立大同中學校校園被日作陸軍醫院，女中被用做傷兵療養處，兩校設備盡毀。抗戰勝利后兩校恢復，女校又改制為大同女子師范學校。1946年大同天主教會創辦中學校，1947年省教育廳備案后定名為私立大同育英中學校。1947年國民黨晉北黨務辦事處建立中正初級中學。同年寧武中學在大同建校并招生，1948年懷仁中學逃亡到大同辦學。
2009年全市有263所普通中學（絕大多數為公立中學），在校生22.6萬人。大同一中、大同二中、同煤一中、陽高一中、渾源一中為山西省首批重點中學，俗稱大同市“五大中學”，初高中升學率均較高。初中教育比較成功的學校還有大同三中、大同六中、北岳中學、大同十中、同煤四中等。此外，還新設了大同市實驗中學和北京師范大學大同附屬中學校兩所公立完全中學。
2013年，全市中等職業教育招生人數1.79萬人，在校生人數5.57萬人。其中，職業高中招生3748人，在校生人數1.45萬人。全市基礎教育招生人數14.37萬人，在校生人數45.88萬人。其中，初中中學招生人數3.58萬人，在校生人數10.82萬人；普通高中招生數2.42萬人，在校生數7.34萬人。