1916年，裁塔尔巴哈台参赞大臣，设塔城道，下辖塔城、乌苏、沙湾县，今克拉玛依市境一带统归其管辖。其后，今市境相继隶属于第五行政区、塔城专区管辖。至新中国成立前，分属于沙湾县、乌苏县、克烈半个县（今托里县）、和丰县（今和布克赛尔蒙古自治县）管辖。
1936年至1943年，新疆地方政府与苏联合作，在独山子进行石油开采和炼制，独山子进行石油开采和炼制，独山子油矿成为当时与甘肃玉门、陕西延长齐名的三大油矿之一，原油年产量最高达到7321吨。
1943年至1949年，独山子油矿经历了甘肃油矿局乌苏油矿筹备处和新疆“三区”革命政府经营管理两个时期，采油、炼油生产时断时续，产量时起时落，到1949年新中国成立时，独山子油矿仅有职工150名，2口出油井，日产原油3至5吨。
中华人民共和国成立后，为适应乌苏县独山子石油工业的发展，1955年2月成立了独山子矿区行政工作委员会。
1956年，依据自治区人民委员会《关于工矿区政权设置的决定》，成立了县级建制的独山子镇，行政工作委员会改为镇人民委员会，直辖于自治区人民委员会。今市境其余各地仍为邻县管辖区：乌尔禾一带属和布克赛尔蒙古自治县，大拐、中拐、小拐属沙湾县，黑油山、白碱滩一带属托里县，五五新镇、共青镇一带属乌苏县。
1956年，克拉玛依油田进入大规模开发和建设时期，石油工业的不断发展和油田人口的不断增加，使一个新型的石油工业城市初具雏形。
1957年1月24日，新疆维吾尔自治区人民委员会第14次会议决定设立克拉玛依市，并报请国务院批准进行建市的筹备工作。同年3月18日，国务院同意成立克拉玛依市筹备委员会，进行建市筹备工作。6月20日，正式成立新疆维吾尔自治区克拉玛依市筹备委员会。
1958年5月，国务院批准克拉玛依设市后，其辖地也随之正式划定。
