נחמיה רפופורט נולד בשנת 1921 בעיר יליזבטגראד ברוסיה (כיום אוקראינה). אימו היתה בתו של הרב "מטעם" המקומי, יהודי ליטאי שמוצאו מהעיירה ז'לודק , ואביו היה יליד עיירה ליטאית אחרת, סמורגון. בשנת 1922 הצליחה המשפחה לצאת מרוסיה הסובייטית והתמקמה בוילנה, שהייתה אז חלק מפולין. 

המשפחה הייתה ציונית וסוציאליסטית, ולמרות שחיו בעוני רב שלחו את נחמיה ואת אחיו הקטן יוסף, לימים מורה אגדי לספרות בביה"ס התיכון החדש בת"א ועורך ספרותי, לגימנסיה "תרבות" בעיר. למרות שדיברו, כמובן, אידיש בבית, כל בני הבית ידעו עברית והאב היה מעריץ גדול של שירת ביאליק, שאותה הכיר בע"פ. 

בשנת 1933 הצליחה המשפחה, בסיוע של קרובים שניפקו "סרטיפיקט" כביכול של בעלי הון, לעלות לארץ. כאן בעצם הסתיים חוק לימודיו הפורמאלי של נחמיה. המשפחה הייתה מחוסרת כל, ואביו לא מצא עבודה, כך שנחמיה פרנס את המשפחה בעבודתו בחברת החשמל כנער שליח על אופניים. נחמיה המשיך לעבוד בחברת החשמל עד פרישתו לגמלאות בשנת 1986, ואף זומן לנשיא לקבל פרס כעובד הוותיק ביותר בארץ.  

נחמיה נשלח מאוחר יותר לגימנסיון ערב, אבל בינתיים פרצו המאורעות ונחמיה התנדב ל"הגנה" במחוז ת"א, ובשנת 1940 לצבא הבריטי, שם שירת בבריגדה היהודית. בתקופת שירותו בבריגדה כתב שירים, שנדפסו בכמה בטאונים גם של הבריגדה וגם של גופים אחרים, ואחד מהם אף הולחן ע"י מרדכי זעירא, ששמע את נחמיה מקריא אותו על האנייה לאיטליה. 

ב-12 באפריל 1945, בעת שהבריגדה חצתה את קוי הגרמנים על נהר הסניו בצפון איטליה, נחמיה נפצע קשה ורוב אנשי הכיתה שפיקד עליה נהרגו. לאחר אשפוז ממושך נשלח להחלמה בארץ ובסוריה. 

לאחר השחרור מהצבא הבריטי ב-1946 חזר נחמיה לחברת החשמל ול"הגנה". הוא היה אחראי על ה"סליקים", מחסני הנשק החשאיים של ה"ההגנה" במחוז ת"א, וכשפרצה מלחמת העצמאות הפך לקצין החימוש של חטיבת "גבעתי", ואח"כ כקצין מטה במפקדת חיל החימוש. 

הוא השתחרר עם תום המלחמה, בדרגת סרן, חזר לחברת החשמל, ובשנת 1950 התחתן עם נחמה לבית הר, שאותה פגש עוד בשנת 1941 בירושלים, וניהל איתה התכתבות ארוכה. הוא חי עד סוף ימיו בתל-אביב, והגיע לתפקיד בכיר של סגן מנהל אגף בחברת החשמל. נולדו לו שלושה בנים, יואב, מירון ויוסף (יוסי). 

במשך כל השנים עסק באיסוף ובקריאה של כל ספר שירה עברי שיכול היה למצוא, עד שהאוסף הגיע לממדים של כ- 5,000 ספרים. הוא נהג לאסוף מדי זמן חברים בביתו ולקרוא להם מבחר מהשירים שמצא. שמעו של האוסף יצא, והוא רואיין באמצעי התקשורת כמה פעמים בהקשר זה מתחילת שנות הששים ואילך, אבל הוא מעולם לא השתייך לחוג ספרותי כלשהו, לא למד באוניברסיטה, ועיסוקו בשירה היה של חובב משכיל. 

נחמיה רפופורט נפטר בשנת 2010.