יוסף נולד בלובלין שבפולין בשנת 1920 לאביו ברוך רוזנבוים. בילדותו הצטרף לבית”ר ופעל בתפקידים שונים. בשנת 1937 גויס לתאים הלאומיים של האצ”ל בפולין ועסק במגוון רחב של פעילויות. עם פרוץ מלחמת העולם השנייה בשנת 1939, הצליח לברוח לווילנה, בה התרכזה גונדה ג’ של האצ”ל אשר מנתה כמאה חברים. הוטל עליו לשוב מזרחה ולהודיע לחברים לעזוב מיד את מקומות מגוריהם ולהגיע לווילנה. כששב לווילנה, הצליח יוסף, יחד עם קבוצת חברים, לצאת את המדינה, תוך הפצצות חיל האוויר הגרמני, ולהגיע לאחר תלאות רבות, בסירה קטנה, לארץ ישראל. עוד בהיותו בתורכיה, בדרכו ארצה, נודע לו על הפילוג באצ”ל.
בהגיעו לחיפה נכלא במחנה המעצר בעתלית. כששוחרר הצטרף ללח”י, היה פעיל בחיפה ובאזור הצפון והשתתף בכל פעולות המחתרת שתוכננו ובוצעו בחיפה. הוא גם היה אחראי על מחסני הנשק של הסניף. ככינוי מחתרתי בחר בשם אביו, ברוך. למִחְייתוֹ היה מוצא עבודות מזדמנות, אך שאף להקדיש את כל זמנו למלחמה בשלטון הזר.
יוסף היה בעל נפש רגישה ואהב לכתֹב. הוא כתב יומן אישי בו העלה את הגיגיו על גורל משפחתו שנשארה בתופת הנאצית ועל חייו וחיי חבריו הלוחמים בארץ לשחרור המולדת. יוסף היה מוכן לכל קורבן, וכאילו חזה את קִצוֹ כתב: “אולי במותי אהיה לתועלת לעמי, כי בהכרה ברורה אני צועד לקראתו. כי יודע אני שבדמי שיישפך ארווה את אדמת המולדת למענכם, למען הדורות הבאים, ואם אפול אני, הרי בהכרח יקומו אחרים שימשיכו.”
ביום 2 באפריל 1944 טיפלו יוסף וחברו בחומר, במוסך קטן בחיפה. בהתאם לכללי המחתרת דאז, שניהם היו חמושים, כדי לא ליפול בידי האויב הבריטי אם יופתעו. הם עבדו במהירות ולפתע נשמט אקדחו של יוסף, נפל ארצה ופלט כדור שחדר לבטנו. דם רב קלח מהפצע. חברו חש להבהיל רופא, אך בינתיים עזב יוסף את המקום כשהוא פצוע, בהחלטה נחושה שלא להיאסר, ומצא מקלט בדירה סמוכה.
אולם, לשמע הירייה, הוזעקה המשטרה והגיעה למקום. בינתיים, בעקבות סימני הדם, הגיעו לדירה גם שניים מחבריו. יוסף הורה להם להסתלק, וכדי להגן על נסיגתם השליך רימון יד לעבר השוטרים, ברח לרחוב ושם התמוטט.
בבית החולים התעללו בו השוטרים וכשסרב לענות על שאלותיהם, הכוהו. יוסף נפטר ולא גילה דבר ביום י’ בניסן תש”ד, 3 באפריל 1944 והובא למנוחות בחיפה. בהודעת האבל של לח”י נאמר: “שמו ישמש לנוער העברי כסמל הגבורה, ההקרבה והנאמנות עד הרגע האחרון”.
