常平仓制度最早可以追溯到中国古代，正式提出和实施是在汉宣帝时期。根据《汉书·食货志上》记载，耿寿昌利用粮食价格低时买进，价格高时卖出，以此调节粮价，保护农民和消费者的利益。
汉朝还设立了常平仓，与平籴法相似，旨在调节粮价、储备粮食。这一制度在汉朝时期得到了初步的实施和发展。
唐朝经济繁荣，粮食储备制度也得到了进一步的发展。除了常平仓，唐朝还设立了义仓。义仓的粮食主要来源于民间的自愿捐赠，用于灾荒时期的救济。
宋朝继承了常平仓制度，并在此基础上进行了一些改革。宋朝的重文轻武政策使得文臣掌握了军政大权，常平仓的运作也更加规范。
元朝建立于1206年，随后设立了行省制度，地方设行省，由中央委派官员管理。在这一时期，常平仓制度也得到了进一步的发展和完善。
明清时期，常平仓制度得到了进一步的传承和发展。清朝时期，常平仓的仓谷储存量波动很大，部分原因在于每年定期出售和秋季买补之间的数量变动。
近现代，常平仓制度发生了较大的变化。大丰仓作为常平仓的一种形式，在光绪初年建立，严格来说应当是清代大丰仓。
常平仓制度在中国历史上具有重要的意义。它不仅调节了粮价，保护了农民和消费者的利益，还在灾荒时期为百姓提供了救济，为国家在面对自然灾害和社会危机时提供了充足的粮食保障。