La première Banque Alimentaire ouvre aux Etats-Unis dans la ville de Phoenix (Arizona) en 1967
C'est à John van Hengel, bénévole dans une soupe populaire, que l'on doit la création de la première banque alimentaire. Apprenant que des commerces jetaient de la nourriture consommable en raison d'une péremption proche ou d'emballages endommagés, il persuada les commerçants de faire don de ces aliments à des fins humanitaires. Van Hengel parvint à collecter tellement de dons d'aliments que l'association dans laquelle il œuvrait ne pouvait plus gérer toutes ces marchandises. En 1967, il décida alors de créer un entrepôt central pour stocker ces denrées et auprès duquel les autres associations humanitaires de Phoenix pourraient venir s'approvisionner gratuitement. Cette toute première banque alimentaire est toujours connue sous le nom de St. Mary's Food Bank.
Le modèle de la St. Mary’s Food Bank est étendu à l’ensemble des Etats-Unis à partir de 1976
En 1976, le gouvernement fédéral accorda une aide à la banque alimentaire créée par Van Hengel dans le but de lui permettre d'étendre le modèle à tout le pays. La même année, une réforme fiscale donna un coup de pouce décisif aux banques alimentaires en rendant plus avantageux les dons des entreprises. Depuis 1979, le mouvement américain des banques alimentaires est juridiquement constitué sous le nom de America's Second Harvest.
En Europe, l'apparition des banques alimentaires est plus tardive, la première ouvre en France en 1984, à Arcueil
En France, à la suite de la parution d’un article dans La Croix dénonçant la pauvreté et le gaspillage alimentaire, plusieurs associations caritatives (Secours Catholique, Emmaüs, Armée du Salut, Entraide d’Auteuil et Entraide protestante) fusionnent pour créer la première banque alimentaire sous l’impulsion de Bernard Dandrel. Celui-ci cherchait un local pour stocker les marchandises, il obtient de l’Evêché de Créteil la mise à disposition d’une église à Arcueil qui était devenue inutile après la modification du plan d’urbanisation et qui n’avait donc pas été consacrée. La première banque alimentaire s’installe donc dans ces locaux « hors du commun » situés au 15 avenue Jeanne d’Arc.
Par la suite, d’autres banques alimentaires se développent en France et se regroupent au sein de la Fédération Française des Banques Alimentaires créée en 1985.