Istri kedua Ghonim bernama Luluk Masrukhah. Perempuan yang berstatus janda asal Banyuwangi itu dinikahinya pada 2002. Luluk bertugas mengelola asrama santri putri. Ghonim dan Luluk dikaruniai dua anak dan dua cucu.
Istri ketiga, perempuan asal Gumukmas yang bernama Nur Aini Farida, dinikahi Ghonim pada 2007. Dia diberi peran mengelola ponpes. Namun, tugas ibu seorang anak itu lebih berat karena harus mengelola asrama santri pria.
Istri keempat Ghonim, Kurniawati asal Bogor, berdomisili di Bandung. ’’Karena istri keempat ada di luar kota, sementara belum ada tugas mengelola pondok,’’ ujar Ghonim.
Sebenarnya Ghonim memiliki lima istri. Namun, baru tiga bulan menikah pada 1999, mereka bercerai. Jika diurut sesuai dengan ijab kabulnya, istri yang cerai itu berada di urutan kedua. ’’Sebenarnya setelah gagal poligami sempat mau kapok,’’ ungkap Ghonim.
Namun, istri pertamanya memberikan support kepada Ghonim untuk kembali mencari istri. Bahkan, proses perkenalan, perjodohan, sampai persiapan pernikahan Ghonim dengan Luluk diurusi istri pertamanya. ’’Saya malah tidak kenal sama sekali. Apalagi cinta. Baru merasakan cinta setelah kami dikaruniai anak,’’ katanya.
Kepada Ghonim, Mahmudah mengaku menjodohkan suaminya dengan perempuan pilihannya supaya tidak lagi salah pilih seperti sebelumnya. Terlebih, Mahmudah kenal betul dengan Luluk karena ternyata masih sepupu.