Muhammad Yamin mendapatkan pendidikan dasarnya di Hollands Inlandsche School (HIS), kemudian melanjutkan ke Algemene Middelbare School (AMS) Yogyakarta, di Yogyakarta Muhammad Yamin mulai mempelajari sejarah purbakala dan berbagai bahasa seperti Yunani dan bahasa latin.
Namun, setelah tamat Muhammad Yamin niat untuk melanjutkan pendidikannya ke US dibatalkan karena ayahnya meninggal dunia.
Kemudian, Muhammad Yamin menjalani kuliahnya Rechtshoogeschool te Batavia (Sekolah Tinggi Hukum di Jakarta, yang sekarang menjadi Fakultas Hukum Universitas Indonesia) dan berhasil memperoleh gelar Sarjana Hukum pada tahun 1932.
Dalam bidang kesastraan Muhammad Yamin memulai karir menjadi seorang penulis pada dekade 1920. Karya pertamanya ditulis menggunakan bahasa Melayu dalam jurnal Jong Sumatra sebuah jurnal berbahasa Belanda pada tahun 1950.
Karya Muhammad Yamin awalnya masih terikat kepada bentuk-bentuk bahasa Melayu klasik.
Pada tahun 1922 Muhammad Yamin muncul pertama kali sebagai penyair dengan puisinya yang berjudul "Tanah air" yang dimaksud "Tanah air" yaitu Minangkabau Sumatera tanah air merupakan himpunan polusi modern Melayu pertama yang pernah diterbitkan.
Himpunan yang kedua yaitu "Tumpah darahku" muncul pada 28 Oktober 1928, yang masih banyak karya-karya yang lainnya.