BJ Habibie kecil lahir di Parepare, Sulawesi Selatan, pada hari Kamis tanggal 25 Juni 1936. Ibunya bernama Raden Ayu Toeti Saptomarini, dan sang ayah Alwi Abdul Djalil Habibie. Ia adalah anak keempat dari delapan bersaudara.
Waktu kecil, BJ Habibie sebenarnya terlihat sebagai anak yang biasa-biasa saja. Tidak suka membuat masalah, tidak suka iri kepada orang lain, tidak merasa lebih pintar, tidak juga merasa lebih bodoh. Satu hal yang mungkin membedakannya dari yang lain adalah cita-citanya ketika ditanya guru. Kalau anak-anak lainnya saat itu biasanya ingin jadi dokter atau dokter hewan, BJ Habibie berbeda. Sejak kecil, ia telah menyatakan bahwa ingin jadi seorang insinyur.