عاش المسلمون في المدينة حياة آمنة مطمئنة، يغشاها الهدوء والسكينة، ورسول الله صلى الله عليه وسلم بينهم في وطنهم الجديد، لقد أصبحت لهم دولة دينها الإسلام، وقائدها الرسول صلى الله عليه وسلم، وكان أول ما فكر فيه الرسول صلى الله عليه وسلم هو بناء مسجد يجتمعون فيه، فيؤدون فيه صلاتهم، ويقضون أمورهم، ويتشاورون فيما يخصهم، فاشترى صلى الله عليه وسلم الموضع الذي بركت فيه الناقة؛ ليبني فيه المسجد.
وتجمع المسلمون لبناء المسجد، ورسول الله صلى الله عليه وسلم معهم، ينظف المكان، ويحمل معهم الطوب، ويشارك في البناء، فهذا يقطع النخيل، وهذا يحفر أماكن الأعمدة، وذاك يقيم الجدار، وآخر يعد الطين، وهذا يحمل الطوب، كلهم ينشدون:
لَئِنْ قَعَدنا والنبي يَعمَل لَذَاك منَّا العملُ المضَلَّلُ
وينشدون أيضًا::
لا عَيْشَ إلا عيشُ الآخِرَة اللَّهُمَّ فارحَمِ الأنْصَارَ والمهاجِرَة
ومن المسجد بدأ رسول الله صلى الله عليه وسلم ينظم دولته، وكان أهم شيء في هذه الدولة هم الأفراد الذين يعيشون فيها؛ لأنها تنهض بهم وتعتمد عليهم، فكان المسلمون في المدينة عندئذ قسمين:
-المهاجرون، وهم أهل مكة الذين هاجروا بدينهم إلى المدينة.
-الأنصار، وهم أهل المدينة الأصليون، الذين اعتنقوا الإسلام، واستضافوا المسلمين في بلدهم، ونصروا الرسول صلى الله عليه وسلم.
وفي بداية الهجرة كان المهاجرون في المدينة يعانون من الوحشة والإحساس بالغربة، فحياة المدينة وجَوُّها يختلفان عن مكة، مما جعل أكثرهم يتعرض للمرض، فتوجه رسول الله صلى الله عليه وسلم إلى ربه ودعاه أن يحب المدينة إلى قلوب المهاجرين، وأن يزيل مرض الحمى عنهم، فاستجاب الله تعالى لنبيه وحبَّبَ إلى المهاجرين العيش في المدينة، وصاروا يتحركون في شوارعها، وسوقها بحماس ومرح كأنهم ولدوا ونشئوا فيه