יוסף נולד בתל־אביב הקטנה בשנת 1928 הוריו, יהודה ומרים, עלו לארץ מתימן בגיל צעיר מאד. האם ומשפחתה גרו בגדרה והאב בכרם־התימנים בתל אביב.
לאחר נישואיהם גרו בשכונת אפ”ק (חסן בק), ברח’ נחמיה, ושם גדל יוסף. למשפחה היו ארבעה ילדים, 2 נפטרו ממחלות בילדותם. ההורים היו דתיים לאומיים.
האב היה סוחר בבננות והאם מכרה בננות בדוכן בשוק הכרמל, כדי לעזור בפרנסת המשפחה. יוסף למד בבית הספר העממי הדתי תלמוד תורה “קלישר”, המשיך עוד שנה בגימנסיה “מוריה” ואחר עבר לבית הספר המקצועי “מכס פיין”.
בשנת 1943, בהיותו נער בן 15, הצטרף ללח”י והשתתף בפעולות שונות, לא פעם חמק מהחיילים הבריטים, שרדפו אחריו. יוסף השתתף בהתקפה על בתי המלאכה של הרכבת ביום י”ט בסיוון תש”ו, 18 ביוני 1946 ונפל מאש המארב הבריטי במבואות כפר־אתא. לפני מותו פנה לפרחי כהן (נפל בעוג’ה־אל־חפיר, בחטיבה 8, בחנוכה תש”ט) שהשתתף עמו בפעולת בתי המלאכה והיה מקורב אליו, שיבקש בשמו את סליחת הוריו, ותוך מלמול השיר “חיילים אלמונים”, נפח את נשמתו.
נטמן בבית העלמין בחיפה בחלקת לח”י עם כל חבריו לפעולה בבתי המלאכה.