10世紀初，契丹族興起，在中國北部建立了一個強大的王朝——遼。這個王朝存在二百多年，稱霸東亞。所以在穆斯林文獻常把北中國稱為契丹，而在俄語、希臘語和中古英語則把整個中國稱為契丹（分別讀音為Kitay，Kita1a，Cathay）。
但是遼朝從11世紀中期開始衰落，統治集團內部因皇位繼承問題，黨爭不已；進入12世紀後，人民起義連續不斷；1114年女真族首領完顏阿骨打起兵反遼，在短短十一年內徹底推翻遼朝，建立起金朝。
在遼朝覆亡前夕，皇族耶律大石北走漠北建立政權，後又率部西征，先後降服高昌回鶻王國、東西兩部喀喇汗王朝、花剌子模，建立起強大的西遼，穆斯林和西方史籍稱之為哈剌契丹（Qara-Khitay）。西遼王朝統治雖94年，但在中亞歷史上是一個極其重要的時期。
西遼的創建者耶律大石，字重德，是遼太祖耶律阿保機八代孫，生於1087年。他幼年時受過很好的契丹族的傳統騎射訓練和文化教育，又接受過漢族的文化教育。1115年考中進士，取得殿試第一名，授翰林院編修一職。不久，他又遷升翰林承旨。契丹語把翰林稱為林牙，所以人們稱他為大石林牙，或林牙大石。
耶律大石踏上仕途之時，正是遼國開始覆沒的時候：1116年金軍佔領遼東京，耶律大石出任泰州刺史，後又調任祥州刺史；1120年遼失上京，中京陷入危機，北宋也想趁機收復燕雲十六州，耶律大石調任遼興軍節度使，守衛南京道。1122年金軍大舉進攻，攻下中京、澤州。
遼天祚帝從南京撤退，途中受到金軍的偷襲，倉皇逃奔，「乘輕騎入夾山」，與外界消息隔絕。當天祚帝出走南京時，詔留宰相張琳、李處溫與秦晉國王耶律淳守南京。至是，數日命令不至，李處溫便與南京都統蕭干、遼興軍節度使耶律大石等立耶律淳為帝，據有燕、雲、平及上京、中京、遼西六路，史稱這一短命政權為「北遼」。
1122年耶律大石打敗了南線北宋軍隊的兩次進攻，但是北線的金軍又逼近長城。這時耶律淳已憂懼而死，其妻蕭德妃稱制，料難以抵擋金軍，便逃離南京（今北京），同耶律大石去投奔遼天祚帝。耶律大石說服遼天祚帝赦免參與立耶律淳為帝的全部人員，天祚帝賜予酒食，任耶律大石為都統。
1123年耶律大石率軍襲擊金朝軍隊，戰敗被俘。次年耶律大石逃歸，並帶回一支軍隊。天祚帝得到這支軍隊，又得到陰山室韋謨葛失的支持，自謂天助，再謀出兵，收復燕雲。大石認為不可，說：「向以全師不謀戰備，使舉國漢地皆為金有，國勢至此，而方求戰，非計也。當養兵待時而動，不可輕舉。」但是天祚帝不能採納，堅持出兵。耶律大石知其不可能成就恢復大業，便殺掉悻臣蕭乙薛和坡里括，率鐵騎二百，夜間離開天祚帝大營。
他走後，天祚帝出兵，先取得了一些小勝利，但很快被金軍打敗，1125年春，天祚帝在逃亡西夏的途中被金軍俘虜，遼亡。此時距耶律大石出走只有半年。
耶律大石帶領200多人來到可敦城，在可敦城勵精圖治，收攏人心，還得到了與東喀喇汗國敵對的遊牧民族的支持，很快佔領了可敦城周圍的領土。
但是耶律大石的愛國心十分堅定，他的本意還是為了延續遼國，於是他懷着滿腔熱忱在此處建立了一個新的帝國——西遼，並自立為帝。
耶律大石稱帝後，開始大規模地對外擴張。十年間，先後歸併了高昌回鶻王國、東喀喇汗王朝、西喀喇汗王朝和花剌子模國，以及康里部，建成一個疆域遼闊的帝國，總面積有350多萬平方公里。
西遼在中亞的擴展取得了巨大的勝利，在東方也擊退了金軍的進犯，王朝的疆域進一步擴大和鞏固。根據穆斯林史籍的記載，西遼對其歸併的地域的城鄉居民的所有權沒有做任何改變，耕地仍歸居民耕種。居民只交很輕的稅，每戶納一個狄納爾（中亞地區金幣，重約7～8克）。
不久，百姓興旺，牲畜肥壯。在政治上，西遼對歸屬他的國王讓他們繼續統治本土，發給他們一塊銀牌做為歸順的標誌；因此西遼整個社會安定，「軍勢日盛，銳氣日倍」。
耶律大石於康國十年（1143年）去世，在位二十年，廟號德宗。
