早在新石器時(shí)代就有人類在這里生息繁衍，春秋時(shí)這里是山戎地，戰(zhàn)國(guó)時(shí)屬燕，秦漢時(shí)是鮮卑地，三國(guó)時(shí)屬烏桓，隋為奚地，唐屬饒樂都督府，后入契丹，遼屬松山州，金屬北京大定府，元代東部屬大寧路，西北部屬上都路，明洪武中期屬大寧都指揮使司，后將其地賜于三衛(wèi)（諾顏、泰寧、福余），歸諾顏衛(wèi)管轄，天聰初年歸附后金，天聰九年設(shè)旗制，劃分為喀喇沁左翼旗和喀喇沁右翼旗，本旗歸右翼旗，屬卓索圖盟。
康熙四十四年（1705年）劃出一部分區(qū)域，設(shè)喀喇沁中旗。
中華民國(guó)二十年（1931年）取消旗制，原喀喇沁右翼旗所轄地區(qū)東部劃歸建平縣，西部為寧城縣設(shè)治局三、四區(qū)，偽滿康德七年（1940年）分出，恢復(fù)旗制，在平莊建立偽喀喇沁右旗公署。
1945年解放后屬熱河省建平縣，1946年9月實(shí)行蒙漢分治，在王爺府設(shè)喀喇沁右旗和建西縣雙重機(jī)構(gòu)，1947年11月合并，改為喀喇沁右旗建西縣聯(lián)合政府，1948年春聯(lián)合政府由王爺府遷至公爺府，1949年5月改為喀喇沁旗，1956年1月撤銷熱河省建制，歸內(nèi)蒙古自治區(qū)昭烏達(dá)盟管轄，同年3月改為喀喇沁旗人民委員會(huì)，1968年3月改為喀喇沁旗革命委員會(huì)，1969年8月隨昭烏達(dá)盟劃歸遼寧省，1979年7月又隨盟劃歸內(nèi)蒙古自治區(qū)，1980年恢復(fù)喀喇沁旗人民政府名稱。
1983年昭烏達(dá)盟建制撤銷，成立赤峰市，本旗歸赤峰市管轄。