נסים נולד בשנת 1924 בעיר רדע שבתימן להוריו חיים וגניה חרבי. אביו נפטר כשהיה ילד קטן ואִמו גידלה לבדה את שלושת ילדיה. כילד למד ב”חדר”. בהיותו בן 19, בשנת 1943, נודע לו שמעלים לארץ ישראל יתומים ואלמנות. הוא הודיע לאחיו הבכור שגמלה בליבו החלטה לעלות לארץ ישראל וקיבל את ברכת אחיו לצעדו זה. את הדרך מרדע לעדן עשה ברגל. מסע שנמשך כשבוע וחצי. בעדן עלה על אנייה שהפליגה לנמל פורט־סעיד שבמצרים. מפורט־סעיד הגיע ברכבת לעתלית.
מעתלית הגיע לשכונת שבזי בתל אביב, שם חי ועבד בעבודות מזדמנות. בשנת 1945 גויס ללח”י ועסק בהדבקת כרוזים, באחד הלילות, כשעסק בהדבקת כרוזים, נעצר בידי הבריטים, נשלח ל”קישלה” ביפו, משם הועבר לכלא לטרון, וכעבור חודשיים הוגלה למחנה המעצר גילגיל בקניה, אפריקה, בשנת .1946 במחנה המעצר היה כלוא כשנתיים והוחזר ארצה ב־12 ביולי 1948, עם קום מדינת ישראל ועזיבתם של הבריטים.
עם שובו לארץ גויס לשירות חובה בצה”ל, שירת בחטיבת מוריה, גדוד 68. בצבא עבר קורס חובשים צבאיים ושירת כחובש קרבי גם כל תקופת שירותו במילואים. בשנת 1951 נשא לאִשה את שושנה לבית חדד. להם שלושה ילדים ושמונה נכדים. מזה 40 שנה שהמשפחה עזבה את תל אביב ומתגוררת בנס ציונה.
בשירותו במילואים השתתף בכל מלחמות ישראל והוא נושא את “אות הקוממיות”, “אות “סיני”, “אות מלחמת “ששת הימים”, ו”אות מלחמת יום הכיפורים”. בחודש יוני 1981, שוחרר סופית משירות המילואים בצה”ל.
במשך כל השנים שלאחר שחרורו משירות בצה”ל, עבד כמדריך חקלאי בבית האריזה לפרי הדר “אדיר” ברחובות, בעונת הקיץ עבד כעובד חקלאי בפרדס בטירת שלום, עד פרישתו לגמלאות בשנת 1989. נסים הוא אדם חביב, נוח לבריות ואוהב ספר.