Los primero perros pastores aparecieron hace miles de años en Asia desde donde los fenicios, los intercambiaban comercialmente a Europa. Desde el Imperio Romano, se mezclaron durante siglos con las razas locales, dando lugar a infinidad de razas de perros pastores que existen hoy en dia.
Estos perros, fueron apreciados por su corpulencia, rusticidad y su mordida potente. Estas son las caracteristicas que le permitieron hacer frente a animales de gran tamaño, tales como osos, lobos y leopardos, y hasta leones, que poblaban Europa y Asia en el comienzos de nuestra era.
El pastor del Cáucaso, muy probablemente descienda de los perros molosos de la antigua Asiria y reciben ese nombre por encontrarselos en los Montes Cáucasos. La región caucásica se encuentra en el extremo sudoeste de Europa, entre el Mar Negro y el Mar Caspio. Las cordilleras del Cáucasos abarcan por el Norte ciertas repúblicas y regiones Autónomas de la Federación Rusa y por el sur las Repúblicas independientes de Georgia, Armenia y Azerbaidzhan.
Los mejores Pastores del Cáucaso se encuentran en Georgia. Es en la mitología de Georgia donde tiene una de sus primeras apariciones. Según la leyenda Amiran, prototipo del personaje de la mitología griega Prometeo, fue encadenado a los montes Cáucaso. En la leyenda se menciona que todas las noches Amiran, era visitado por su leal perro llamado Cursha quien lamía la cadena para desgastarla y así liberar a su amigo. Aquel perro era un pastor, de grandes dimensiones e inquebrantable lealtad, con una valentía a toda prueba.
El nombre que se le daban a la raza era "Nagazi", que en antiguo georgiano significa perro grande y fuerte y hoy raza Pastor del Cáucaso en Georgia.

Los Pastores de Cáucaso fueron siempre bien estimados, en particular por su valentía sin limite, su lealtad al amo y por su físico que siempre imponía respeto. Estas cualidades lo hicieron el perro elegido por las fuerzas armadas. Por la antigüedad que tienen las referencias en las que se menciona a esta raza, podemos suponer que existe desde hace aproximadamente 3.000 años, siendo una de las razas de mayor edad sobre la tierra.