哈萨克族的祖先，是先秦时期生活在伊犁河谷和七河流域的乌孙人、康居人及部分塞种人和月氏人，起初接受匈奴的统治，直到汉武帝击败匈奴、开通西域后，才改而向中原王朝称藩。汉宣帝神爵二年（前60年），汉朝设立西域都护府，管辖今天甘肃玉门关、阳关以西，葱岭以东，巴尔喀什湖东、南及新疆广大地区，而今日哈萨克斯坦所在的地区，由此被囊括进中国版图。
在此后近800余年的时间里，西域一直接受中原王朝的统治，或者向中原王朝称藩，直到唐朝因“安史之乱”失去对它的控制。此后，西域成为突厥、铁勒、回纥、吐蕃（藏族）、大食（阿拉伯人）等民族竞相争夺和融合的地区。766年，操突厥语的游牧部落葛逻禄人在背叛唐朝后，在今天的哈萨克斯坦东部建立叶护国，实力一度很强盛。
从8世纪中期开始，阿拉伯人开始侵入中亚地区，很快便占据今天哈萨克斯坦的南部，并最终灭亡叶护国。9世纪至12世纪时，伴随着阿拉伯帝国的衰落，哈萨克斯坦又相继遭受乌古斯、黑汗、基马克、钦察等汗国的统治，到12世纪上半叶时，又沦为西辽的属地。13世纪初，蒙古人发动一连串的西征事业，哈萨克斯坦因此被征服，并成为金帐汗国（由成吉思汗之孙拔都所建）的领地。
15世纪初，随着金帐汗国的衰落，今天哈萨克斯坦大部分地区沦为月即别汗国的属地，但当地民众并不乐意接受该国的统治，于是大部分逃往费尔干纳谷地和楚河、塔拉斯河流域，并得到察合台汗国的庇护。由是这些部落是脱离月即别汗国统治的逃难者，因此东察合台汗国便称呼他们为“哈萨克”（意为“逃亡者”、“脱离者”），而这便是哈萨克族名称的来源。
明景泰七年（1456年），在察合台汗国的默许下，哈萨克族的首领克烈汗、贾尼别克汗共同创建哈萨克汗国（1456-1847年），并不断吸引周邻大量游牧部落前来加入。到16世纪20年代时，哈萨克汗国的实力达到巅峰，疆域东至额尔齐斯河，北至伊施姆河、图尔盖州、鄂木斯克，西至里海，南及锡尔河，基本上奠定了今天哈萨克斯坦的版图。
然而，哈萨克汗国的强盛并没有维持多久，在哈斯木汗离世后不久（1523年），便迅速陷入割据混战当中，最终分裂为大玉兹、中玉兹、小玉兹三部（“玉兹”在哈萨克语中意为“地区”）。其中，大玉兹主要分布在巴尔喀什湖以南的楚河、塔拉斯河以及伊犁河到锡尔河的广阔地区，中玉兹主要分布在锡尔河中游及卡腊山脉一带，小玉兹的领地则位于今天哈萨克斯坦的西部。
17世纪末期，由漠西蒙古人建立的准噶尔汗国（1678-1737年）强势崛起，并成为中亚的霸主，实力可与清朝和沙俄相抗衡。面对准噶尔汗国强大的压力，小玉兹在1730年臣服于沙俄，中玉兹在1735年也寻求沙俄庇护，而大玉兹则被并吞。但是，准噶尔汗国完全控制中亚没多久，便被强大的清朝击灭，时在乾隆二十二年（1737年）。
准噶尔汗国覆灭后，大玉兹故地并入中国，而中玉兹则转而向清朝称藩（小玉兹此时已并入沙俄）。由此，今日哈萨克斯坦的大部分地区，便再度并入中国版图，由清朝设置的伊犁将军管辖，时间长达百余年。然而，清朝虽然成功地收复西域地区，但由于防务的薄弱和此后的一连串变故，逐渐给沙俄提供了入侵的良机。
1864年，就在太平天国运动失败的当年，沙俄利用清朝内乱、无暇西顾的机会，以武力相威胁，迫使清政府跟它签订《中俄勘分西北界约记》（又称《塔城议定书》），从而霸占中国巴尔喀什湖以东、以南，包括斋桑湖在内的44万平方公里的领土。由此，今天哈萨克斯坦所在的地区跟中国脱离，成为沙俄的属地。
