Родился в татарской семье. Учился в Оренбургском медресе «Хусаиния», где кроме теологии изучал светские дисциплины, литературу, рисование и пение. В 1919 году вступил в комсомол. Участник Гражданской войны.

    В 1927 году поступил на литературное отделение этнологического факультета МГУ. После его реорганизации окончил в 1931 году литературный факультет МГУ.

    В 1931—1932 годах был редактором татарских детских журналов, издававшихся при ЦК ВЛКСМ. Был завотделом литературы и искусства татарской газеты «Коммунист», выходившей в Москве. В Москве знакомится с советскими поэтами А. Жаровым, А. Безыменским, М. Светловым.

    В 1932 году жил и работал в городе Серов.В 1934 году вышли два его сборника: «Орденоносные миллионы», на комсомольскую тему и «Стихи и поэмы». Работал с молодежью; по его рекомендациям в татарскую литературу пришли А. Алиш, Г. Абсалямов В 1939—1941 годах был ответственным секретарём Союза писателей Татарской АССР, работал заведующим литературной частью Татарского оперного театра.

    В 1941 был призван в Красную Армию. Воевал на Ленинградском и Волховском фронтах, был корреспондентом газеты «Отвага».

    В июне 1942 года был тяжело ранен, попал в плен, заключён в тюрьму Шпандау. В концлагере Муса называвший себя Гумеров вступил в подразделение Вермахта - легион «Идель-Урал», который немцы намеревались направить на Восточный фронт. В Едлино (Польша) где готовился легион «Идель-Урал», Муса организовал среди легионеров подпольную группу и устраивал побеги военнопленных (см.: Ибатуллин Т., Военный плен: причины, последствия. СПб, 1997). Первый батальон Волго-татарского легиона поднял восстание и присоединился к белорусским партизанам в феврале 1943 года. За участие в подпольной организации Муса казнён на гильотине 25 августа 1944 года в военной тюрьме Плётцензее в Берлине.

    В 1946 году МГБ СССР завел розыскное дело на Мусу Джалиля. Он обвинялся в измене Родине и пособничестве врагу. В апреле 1947 года имя Мусы Джалиля было включено в список особо опасных преступников. Цикл стихов написанный в неволе, а именно тетрадь, которая сыграла главную роль в «открытии» поэтического подвига Мусы Джалиля и его товарищей, была сохранена участником антифашистского сопротивления бельгийцем Андре Тиммермансом, который сидел в одной камере с Джалилем в Моабитской тюрьме. В их последнюю встречу Муса сказал, что его и группу его товарищей-татар скоро казнят, и отдал тетрадь Тиммермансу, попросив передать ее на родину. После окончания войны и выхода из тюрьмы Андре Тиммерманс отнес тетрадь в советское посольство. Позднее тетрадь попала в руки популярному поэту Константину Симонову, который организовал перевод стихов Джалиля на русский язык, снял клеветнические наветы с поэта и доказал патриотическую деятельность его подпольной группы. Статья К. Симонова о Мусе Джалиле была напечатана в одной из центральных газет в 1953 году, после чего началось триумфальное «шествие» подвига поэта и его товарищей в народное сознание.

    В 1956 году посмертно был удостоен звания Героя Советского Союза, в 1957 году стал лауреатом Ленинской премии за цикл стихотворений «Моабитская тетрадь».