Le BIE a été fondé à Genève en 1925 en tant qu'organisation privée, non-gouvernementale. Il avait pour objectifs de centraliser la documentation relative à l'enseignement public et privé, de s'adonner à la recherche scientifique dans le domaine de l'éducation, et de faire office de centre de coordination des institutions et des associations intéressées par l'éducation.
La fondation de la nouvelle organisation était en grande partie le fait d'une initiative genevoise. Parmi les fondateurs, on compte Edouard Claparède, Pierre Bovet et Adolphe Ferrière.
En 1929, dans le cadre de ses nouveaux statuts, le BIE a ouvert sa composition aux gouvernements, tout en restant accessible aux institutions publiques et aux organisations internationales. Il est ainsi devenu la première organisation intergouvernementale dans le domaine de l'éducation.
C'est alors que Jean Piaget, professeur de psychologie à l'Université de Genève, a été nommé directeur. Son nom est resté très étroitement associé à celui de l'Organisation, qu'il a dirigée pendant près de quarante ans. Au cours de cette période, Pedro Rosselló occupait le poste de directeur adjoint.
Depuis 1934, le BIE organise la Conférence internationale de l'instruction publique (à présent la Conférence internationale de l'éducation, CIE). A partir de 1946, cette conférence a été convoquée sous les auspices conjoints du BIE et de l'Organisation des Nations-Unies pour l'éducation, la science et la culture (UNESCO), qui a été fondée en 1945. En 1969, le BIE est devenu partie intégrante de l'UNESCO, tout en conservant une autonomie intellectuelle et fonctionnelle.
Actuellement, le Bureau est l'un des instituts spécialisés du Secteur de l'éducation de l'UNESCO.