יוסף נולד בפולין בחג השבועות סיון תרפ”ה, מאי 1925 להוריו פנינה וצבי רשלבך. עלה עם משפחתו לישראל בעודו ילד. למד בבית־ספר “תחכמוני”.
לא היה חבר במפלגה כלשהי. היה חבר אצ”ל, אחרי הפילוג הצטרף ללח”י. נאסר במקרה. כשהיה בסביבת קולנוע “רמה” ברמת־גן. באזור הסתובב בלש יהודי שעצר אותו, התחיל לתחקרו, והביאו למשטרת רמת־גן. בתחנת המשטרה היה קצין יהודי, ורשלבך מסר שם וכתובת אחרים. כאשר נמסרה הודעה לביתו, התחילו לחשוד בו, ובאחד האנשים שהיו בחברתו, עקבו אחריו וכך הגיעו לביתו. “קום, התלבש” – פקדו עליו הבלשים הבריטים כשבאו לביתו לעצור אותו, לאחר שנחשד על־ידי הבולשת הבריטית בהשתייכות למחתרת הלוחמת, למרות שלא היו להם הוכחות לכך.
יוסף נכלא בבתי־הסוהר ביפו, עכו ואחר־כך במחנה לטרון. הוא הוגלה על־ידי הבריטים בשילוח השני של עצורים מארץ־ישראל לאפריקה, בקבוצה של 14 גולים. היה במעצר בגלות החל מיום 6 בדצמבר 1944 והוחזק במחנות: סמבל, ליד אסמרה באריתריאה, קרתאגו בסודן, שנית באריתריאה, וגילגיל בקניה. אחרי קום המדינה, הוחזר עם אחרוני הגולים מקניה לישראל ביום 12 ביולי 1948.
בשנת 1948 התגייס לצה”ל ושרת כנַשק בבית־הספר לקציני חי”ר, כטוראי. מקצועו: טכנאי מכונות, עבד כעצמאי.
נשוי לצפורה לבית גבירצר. להם ארבעה ילדים – אהוד, יובל, חובב ואיל .
גם אחיו היה עם הגולים באפריקה, (ראה: אברהם ארנון רשלבך).
לא השתייך למפלגה או גוף פוליטי אחרי 1948.
יוסף נפטר ביום כ”ה בכסלו תשע”ג, 8 בדצמבר 2012 והובא למנוחות בבית העלמים ירקון.