克格勃的前身一般被追溯到捷爾任斯基創立的「契卡」，也就是所謂的「全俄肅反和消除怠工特別委員會」。
1922年，契卡劃歸內務人民委員部，改制為國家政治保衛局。從此以後，「契卡」（或者國家政治保衛局）一直都屬於內務人民委員部旗下，只是名字經常有改變。
二戰之後，契卡改組為「蘇聯國家安全部」，蘇聯的對外情報工作都劃歸其下。
大林魔死後，「蘇聯國家安全部」被撤銷，所有工作人員劃入蘇聯內務部。但「蘇聯國家安全部」旗下的情報部門獨立出來了，並升格為「蘇聯國家安全委員會」——這就是克格勃。
1969年，根據蘇聯部長會議的指示，要求克格勃組建一支秘密的超級部隊。關於這支秘密超級部隊長久以來不為人所知，直到2015年俄羅斯才部分解密。
這支克格勃秘密超級部隊的名字很有意思，叫「改進軍官編制訓練隊」，一個平平無奇的名字，而這就是克格勃要的效果，讓你不會在意它的存在。
那麼為什麼要組建這個所謂的「訓練隊」呢？
二戰結束後，世界政治格局發生改變。蘇聯高層認為，國家靠大規模軍隊作戰，以解決國際政治爭端的時代已經結束了。在看看美國，用特種部隊到境外解決問題，機動靈活，速戰速決，效果很不錯。所以基於這些考慮，蘇聯也覺得要建立執行特殊任務的「超級部隊」。
「訓練隊」的總指揮叫博亞林諾夫，他在二戰爭期間僅僅是一名排長，但因為在執行一次特殊任務中端掉了一個意大利師的師部，從此受到重用。1969年「訓練隊」成立，博亞林諾夫受命出任最高指揮官。
1979年12月27日博亞林諾夫帶隊執行任務，目標是幹掉剛上台的阿富汗總統阿明。
1978年阿明和塔拉基推翻了達烏德政權，塔拉基成為一號人物，阿明成為二號人物。塔拉基奉行親蘇政策，與阿明發生了嚴重矛盾。於是阿明又發動政變，殺害了塔拉基，自己成為阿富汗總統。因此激怒了蘇聯。
博亞林諾夫帶着「訓練隊」包圍了阿明的行宮，最終將阿明殺死了。但博亞林諾夫也在這次戰鬥中陣亡了。
「訓練隊」的訓練基地位於莫斯科郊外的巴拉希哈小城，當年蘇聯紅軍第一批特種偵察員也是在這裏訓練的。開始時「訓練隊」官兵在一起培訓，後來他們加強了對軍官的培訓，開始分開培訓，軍官不與戰士在一起，並且軍官的培訓更長。
「訓練隊」的主要課程有情報偵察、目視觀察、技術觀察、散佈虛假情報、偽造文件、秘密渠道轉場、布雷與破壞活動、自製爆炸物、國產與進口武器的使用、肉搏戰、在極端條件下操作交通工具、端條件下的生存等等。這一系列課程完成下來，某種意義上確實成為了「超人」，跟007、碟中諜一樣無所不能。
博亞林諾夫死後，「蘇聯英雄」稱號獲得者卡茲洛夫曾代理「訓練隊」的總指揮。1983年戈洛夫正式出任「訓練隊」總指揮，他也曾參與過進攻阿明官邸的戰鬥。
戈洛夫任總指揮期間，「訓練隊」改名為「信號旗」。蘇聯解體後，「信號旗」又改名為「俄羅斯國家安全局特勤中心」，現在併入了俄羅斯國家安全局阿爾法特工分隊。
格魯吉亞前總統謝瓦爾德納澤曾在1995年和1998年兩次遭到暗殺，據格魯吉亞證據顯示，兩次組織者都是俄羅斯國家安全局局長基奧爾卡澤。而基奧爾卡澤年輕時候就是蘇聯克格勃「訓練隊」的成員。
