杜魯門1884年5月8日出生于密蘇里州拉馬爾，是約翰·安德森·杜魯門（john anderson truman）和馬莎·埃倫·揚·杜魯門（martha ellen young truman）的長子。杜魯門有一個弟弟和一個妹妹，分別叫約翰·維維安·杜魯門（john vivian truman，1886年~1965年）和瑪麗·簡·杜魯門（mary jane truman，1889年~1978年）。
杜魯門的父親約翰·杜魯門是一位農夫和家畜商販，在杜魯門只有11個月大的時候，便舉家遷到密蘇里州格蘭德維尤的一個農場。那個農場由杜魯門的祖父母所擁有，占地達600英畝（240公頃）。為了方便上學，杜魯門一家在他6歲的時候又遷移到密蘇里州獨立城。1901年，杜魯門從高中畢業(yè)后，從事了一系列的神職人員工作。1906年，杜魯門回到了格蘭德維尤的農場并在那里度過了約十年的時光。在這段時期里，他結識了貝絲·華萊士（bess wallace），并在1911年向她求婚，但卻以失敗收場。此后，杜魯門說要比農夫賺到更多錢后，才再次向貝絲求婚。結果，他在1918年如愿以償，當時他剛從第一次世界大戰(zhàn)的戰(zhàn)場回來，而且還得到了上尉軍銜。
杜魯門是最后一位沒有大學學位的美國總統(tǒng)，但他曾經于1920年代在堪薩斯城法律學校（kansas city law school，即今日密蘇里州-堪薩斯城大學的法律學校）讀過兩年的法律學位課程，美國最高法院法官查理斯·埃文斯·惠特克曾經是他的同學。