伊犁得名於伊犁河（光明顯達，形容河水在太陽照耀下碧波粼粼），最早見《漢書》，史稱伊列、伊麗、伊裡等名。清乾隆年間定名伊犁。《西域同文志》中，伊犁為維語，取義於「犁庭掃閭」（意即將庭院犁平整用來種地，把裡巷掃蕩成廢墟），寓意平定準噶爾功蓋千秋，西陲從此永保安寧。
建制沿革西漢初年，匈奴崛起，迫使大月氏西遷伊犁河谷，塞王南遷。後元四年（前160年）前後，烏孫西遷伊犁河谷等地，建烏孫國。元封元年（前110年）前後漢朝與烏孫結盟。前60年，漢朝在新疆設立西域都護府，管理烏孫等國，伊犁等地正式納入中國版圖。6世紀中葉，阿爾泰、塔城、伊犁河谷為突厥地。
唐顯慶三年（658年），唐滅西突厥置昆陵、蒙池都護府，伊犁等地歸於唐。
宋時，塔城、伊犁為西遼地。嘉定十二年（1219年），成吉思汗滅西遼，地歸蒙元。
元太祖二十年（1225年），伊犁河流域等地為成吉思汗次子察合臺封地，以阿力麻裡為都；塔城、阿爾泰一帶為三子窩闊臺領地。元朝曾一度直接管理阿力麻裡。
明初，察合臺汗國分裂，瓦剌崛起，相繼控制阿爾泰、塔城等地，伊犁為哈薩克等部落牧地。明末清初，西蒙古厄魯特再度崛起建準噶爾地方政權，政治中心由塔城移駐伊犁河谷。
清乾隆二十年（1755年），清朝平定準噶爾，新疆統一，繼經4年平叛之戰，始設軍府制政權，期間阿爾泰劃歸科布多參贊大臣轄制，乾隆二十五年（1760年）設伊犁辦事大臣。乾隆二十七年（1762年），清政府在伊犁設立「總管伊犁等處將軍」（史稱總統伊犁等處將軍，簡稱伊犁將軍）。治惠遠城，統轄新疆。直轄伊犁參贊大臣，節制烏魯木齊都統，烏什、塔爾巴哈臺等處參贊大臣，羈縻管理沿邊哈薩克、布魯特各部。光緒十年（1884年），新疆建省，伊犁將軍體制變革，僅管伊塔軍政。光緒十四年（1888年），伊塔道設立，下設伊犁府、塔城直隸廳和精河直隸廳，軍政、民政分治。光緒三十年（1904年），科阿分治，阿爾泰地方設科布多幫辦大臣。
民國元年（1912年），伊犁革命黨人舉義，成立中華民國新伊大都督府。是年伊犁軍政府改設伊犁鎮邊使，塔城改設參贊，阿爾泰改設辦事長官，均直屬中央，並保留伊塔道建制。民國三年（1914年），伊犁鎮邊使改設鎮守使歸屬新疆省管轄。民國五年（1916年），塔城參贊撤銷，伊塔道分置為伊犁道、塔城道。民國八年（1919年），阿爾泰辦事長官劃歸新疆，改設阿山道。民國時期，先後改為行政區、專區。
1949年，中華人民共和國成立後，伊、塔、阿3區歸隸新疆省人民政府。
1950年，分別成立伊犁區黨委和伊犁、塔城、阿山地方委員會。1952年，撤銷伊犁區黨委，黨的領導建制與行政建制劃一。
1954年7月，由伊犁專區劃出博樂、精河、溫泉3縣成立博爾塔拉蒙古自治州；11月，以伊犁、塔城、阿勒泰3個專區為基礎成立伊犁哈薩克自治州，首府駐伊寧市。
1955年12月，伊犁專區撤銷，所屬市、縣由伊犁州直轄。州轄塔城、阿勒泰兩個專區和直屬1市9縣，共轄1市23縣（1966年撤銷水定縣）。
1969年5月，成立伊犁州革命委員會，只管轄伊犁1市8縣。
1975年8月，恢復自治州權限，伊犁哈薩克自治州首府遷至奎屯市，同時恢復伊犁地區黨政建制，伊犁州直轄奎屯市，原則管理伊、塔、阿3個地區。
1979年，再次撤銷伊犁地區建制，首府遷回伊寧市。原則管理塔城、阿勒泰地區，直轄2市8縣。
1985年1月，伊犁地區建制再次恢復，伊犁州直轄奎屯市。
2001年3月，第三次撤銷伊犁地區建制，伊犁哈薩克自治州轄塔城地區、阿勒泰地區，直轄伊寧 、奎屯等2市和7縣1自治縣 。2001年10月6日，國務院批准撤銷伊犁地區。
2014年6月26日，國務院批覆同意設立縣級霍爾果斯市，由伊犁哈薩克自治州管轄。