Da Rehabeam kom til Jerusalem, kaldte han Judas og Benjamins hus sammen, hundrede og firs tusind udvalgte krigere, til krig mod Israel for at genvinde kongedømmet for Rehabeam. Da kom Herrens ord til gudsmanden Shemaja: »Sig til Salomos søn Rehabeam, Judas konge, og til alle israelitter i Juda og Benjamin: Dette siger Herren: I må ikke rykke ud til krig mod jeres brødre. I skal alle sammen vende hjem, for det, der er sket, er kommet fra mig.« De adlød Herrens ord og vendte hjem og drog ikke mod Jeroboam.

Præsterne og levitterne i hele Israel kom fra alle egne og trådte i hans tjeneste; levitterne forlod deres græsmarker og deres ejendom og drog til Juda og Jerusalem, fordi Jeroboam og hans sønner afsatte dem fra deres præstetjeneste for Herren og indsatte præster på offerhøjene, for bukketroldene og tyrekalvene, som han havde lavet. De levitter blev fulgt af alle dem fra Israels stammer, der bestræbte sig på at søge Herren, Israels Gud; de kom til Jerusalem for at ofre til Herren, deres fædres Gud. De styrkede kongedømmet i Juda og sikrede Salomos søn Rehabeams magt i tre år; i tre år fulgte han i Davids og Salomos spor.

Rehabeam giftede sig med Mahalat, der var datter af Davids søn Jerimot og Abihajil, Isajs søn Eliabs datter. Hun fødte ham sønnerne Je'ush, Shemarja og Zaham. Senere giftede han sig med Absaloms datter Ma'aka. Hun fødte ham Abija, Attaj, Ziza og Shelomot. Rehabeam elskede Absaloms datter Ma'aka højere end sine andre hustruer og medhustruer; han havde atten hustruer og tres medhustruer, og han fik otteogtyve sønner og tres døtre. Rehabeam indsatte Ma'akas søn Abija som overhoved og fyrste blandt hans brødre i den hensigt at gøre ham til konge. Han var klog nok til at sprede sine sønner ud over alle Judas og Benjamins egne, i alle fæstningsbyerne. Han gav dem rigelige forsyninger, og han skaffede dem en mængde hustruer.