The beginning of the development of the ZIL-131 dates back to the mid-fifties of the twentieth century. Its predecessor, the ZIL-157, was just a modernization of the ZIS-151. From the beginning, the ZIL-131 was conceived as a completely new three-axle car for military use. Development began under the designation ZIS-131 and the first prototype was presented in 1956. At that time, it still had many identical features to the two-ZIL-130.

O tri roky neskôr, v roku 1959 bolo testovanie prototypov úspešne dokončené a v rámci destalinizácie bol automobil premenovaný na ZIL-131. Výrobný závod bol totiž premenovaný z pôvodného názvu Zavod imeni Stalina na Zavod imeni Lichačov. Počiatok výroby bol plánovaný na rok 1961 alebo 1962, ale výrobu sa nepodarilo začať. Až v roku 1964 začala sériová produkcia dvojnápravových vozidiel ZIL-130 a v roku 1967 začala výroba komplikovanejších vozidiel ZIL-131. Niektoré konštrukčné skupiny, ako napríklad nápravy alebo navijaky boli vyrábané v závode v Brjansku (Brjanský automobilový závod).