גרשון נולד ביום א’ בטבת תרפ”ג, 22 בדצמבר 1922 בעיר קובל, באוקראינה המערבית. הוא גדל בבית לאומי, דובר עברית, שחינך את הילדים לעשייה ציונית. מצד אִמו, עדה לבית ספקטור, הייתה המשפחה משפחת רבנים מפורסמים, שאחד מבניה, רבי יצחק אלחנן ספקטור, היה מראשי הרבנים, הדיינים והפוסקים של קהילת ליטא. מצד אביו צבי הייתה המשפחה משפחת גרים, בני כת ה”סובוטניקים”, נוצרים שומרי שבת, שנקראה בעבר פוגאצ’וב.

גרשון למד בגימנסיה העברית “תרבות” ומאחר שאביו היה רוויזיוניסט, הצטרף הבן לבית”ר. בגיל 15 התגייס לחוגים של האצ”ל, וכשפרצה מלחמת העולם השנייה, התייצב הנוער של האצ”ל על גבולות המדינה לעזור ולהבריח נוער לארץ ישראל. גרשון השתתף בפעולות אלה עד אשר נתפס בידי הרוסים, נפצע, והועבר לבית־הסוהר. עבר דרך בתי־סוהר רבים, כשהאחרון בהם היה מחנה עבודה בטייגה הצפונית, הרוסית. אחרי ששהה שנה במקום, התארגנה שם קבוצה שהתגייסה לצבא הפולני “אנדרס”. גרשון היה בין המתגייסים, עבר דרך ארוכה, ובשלהי 1941 הגיע לארץ ישראל. כאן ערק מהצבא והתחבא בקיבוץ שפיים.

התגייס לצבא הבריטי, בו פגש כמה מחבריו מהאצ”ל ויחד הצטרפו ללח”י. במסגרת שירותו בצבא הבריטי, לחם גרשון בלוב, מצרים, ושהה בקפריסין. בעת חופשותיו מהצבא, השתתף בפעולות של המחתרת, כמו ההתקפה על הבולשת הבריטית ביפו, הפעולה נגד הבולשת בירושלים. באווירת מדיניות ההלשנה שייצרו הבריטים בארץ, הלשין על גרשון חבר קיבוץ, ששירת אתו בצבא. גרשון נעצר בידי הבריטים, הועבר לכלא לטרון, ומשם הוגלה לאריתריאה ולקניה. השתתף בשני ניסיונות בריחה מאריתריאה, שנכשלו.

שוחרר אחרי צאת הבריטים את הארץ, וכבר ביום השני לשובו ארצה, התגייס לצה”ל לחם בחזית הנגב בגדוד 89. השתתף במרבית הקרבות לשחרור הנגב, עד שנפצע קשה בעת כיבוש עוג’ה אל חפיר. לאחר חודשים בבית־החולים, שוחרר מהצבא.

בשנת 1950 נישא גרשון ליהודית, הם הקימו את ביתם בכפר־סבא ונולדו להם שלושה ילדים: צביקה, מיכה, שרל’ה ושמונה נכדים.

גרשון הקים חברה העוסקת בבניה ציבורית. בין היתר, בנה את הרכבל הראשון והשני במצדה. הוא חי עם משפחתו בכפר־סבא.

גרשון נפטר יום ט”ו בשבט תש”ס, 22 בינואר 2000 והובא למנוחות בבית העלמין נודאו בכפר סבא.