גרשון נולד בשנת 1923 לברכה ויצחק בברנוביץ. פולניה. אביו, ממשפחה דתית חסידית, עבד כסוכן ביטוח. אִמו טיפלה במשק חקלאי של פרות ותרנגולות. כציוני, עלה אביו ארצה בגפו בשנת 1932, לבדוק את האפשרויות לעליית כל המשפחה, בשנת 1934 התאחדה המשפחה. והתיישבה בכפר סבא. אביו היה סיטונאי של מזון.

גרשון למד בישיבה, בבית ספר עממי ומקצועי של המזרחי בתל אביב. הוא היה חבר בתנועת בני עקיבא ובמכבי ושיחק בקבוצת הכדורגל מכבי כפר סבא. בשנת 1939 התגייס לאצ"ל. עם הפילוג הצטרף ללח"י יחד עם קבוצת נערים חברי המכבי, בתמיכת אמו ברכה שסייעה רבות למחתרת. בלח"י עבר קורסים לשימוש בנשק ועסק בהפצת חומר תעמולה. בשנת 1942, אחרי רצח יאיר, התגייס לצבא הבריטי ושירת בצי המלכותי. תוך שירותו בצי, המשיך בפעילותו המחתרתית.

בנימין גפנר הפגיש אותו עם יוסף סיטנר, עמו היה בקשר במשך כל תקופת שירותו בצי. הוא פעל באלכסנדריה בהברחת נשק לארץ, השתתף במבצעים מיוחדים של לח"י במצרים, והעביר חומר תעמולה: תרגום לצרפתית של "החזית". סייע בהכנת ההתנקשות בלורד מוין, שר המדינה הבריטי למזרח התיכון. העביר לאליהו חכים ולאליהו בית־צורי, שהתנקשו בחייו של השר את תמונתו של הלורד מוין שנמסרה לו על ידי יהושע כהן, וגם את הדרכונים בהם היו צריכים להשתמש למילוט אחר ההתנקשות.

עקב הלשנה, נאסר בשנת 1944, חודש לפני ההתנקשות, על ידי הבריטים, אשר חשדו בו שהוא רוצה לפוצץ את הוועידה שעמדה להתקיים שם. עקב כך שוחרר מהצבא וחזר לארץ.

ביום 7 בינואר 1945 נאסר שוב. נכלא במחנה המעצר לטרון ובבתי סוהר בירושלים ובעכו. הוא הוגלה על ידי הבריטים בשילוח השישי של עצורים מארץ ישראל לאפריקה. ישב במחנות קרתאגו, סמבל וגילגיל והוסע משם פעמיים לחקירות בקהיר.

אחרי ההכרזה על עצמאות מדינת ישראל, הוחזר עם אחרוני הגולים מקניה, ביום 12 ביולי 1948 מיד התגייס לצה"ל ושירת בגדוד 89, חטיבה 8, בפלוגה בפיקודו של יעקב גרנק "דב הבלונדיני". השתתף בכל קרבות הגדוד, כן השתתף במלחמת סיני, ששת הימים ויום הכיפורים.

בחיים האזרחיים עסק ב"מיון יהלומים". בשנת 1952 נשא לאשה את יהודית לבית אהרונוביץ', ונולדו להם שלושה ילדים: אורנה, עמית ומיכאל (מיקי), ונכדים.
תחביבוֹ: ספורט. התגורר בכוכב יאיר.

גרשון נפטר ביום ח' בחשון תשע"ט, 17 באוקטובר 2018 והובא למנוחות בבית העלמין בכוכב יאיר.