פרופ' גדעון אלרֹעי סיים את לימודיו התיכוניים בביה"ס "חוגים" בחיפה והחל את לימודי הרפואה בהולנד (אוטרכט) אותם סיים בהדסה ירושלים (1958).
בשנת 1959 החל את עבודתו הרפואית בביה"ח רמב"ם בו עלה בסולם התפקידים במחלקה הפנימית בה היה סגן מנהל המחלקה, מנהל היחידה לתפקודי ריאות ומנהל מחלקה פנימית א' (1977). התעניינותו במחלות ריאות הניעה אותו לביצוע מחקרים ופרסומים חשובים בתחום וכן להזמנתו לכנסים בינלאומיים בתחום מחלות הריאה.
ב-13 במאי 1974, כרופא במילואים, נקלע פרופ' אלרעי למעלות עת טבחו מחבלים בילדי בית הספר מצפת, ובעוד היריות נמשכות, הגיש עזרה לפצועים, כמעט לבדו, עד שהגיעה תגבורת.
חברו, אמנון שגיב, כינה אותו "איש של שתיקות. תמיד נמצא איתנו, אבל תמיד קצת בצד".
פרופ' שמואל אדלמן, שהחליפו כנציב קבילות הציבור של ביה"ח רמב"ם, מדגיש כיצד הגיע למחלקה כל יום בשש בבוקר, התעדכן במצב החולים ודרש מכל רופא לגבות את דבריו בראייה מנומקת.
ד"ר אבנר רשף מביה"ח תל השומר, תלמידו של פרופ' אלרעי, המשווה אותו ל"זאדיג", גיבורו של וולטיר, "שתוך התבוננות סבלנית בטבע ואורחותיו ידע לפרש סימנים ורמזים ולו הזעירים ביותר, ולבנות מתצריף אקראי לכאורה, תמונה שלמה ומדויקת", ושהפך למודל הקלאסי של הרופא המקשיב לחוליו. לדברי ד"ר רשף, פרופ' אלרעי לא הסתפק באבחנה הרפואית, אלא היה שואל את רופאיו: "ידוע לכם היכן היה חולה זה בזמן מלחמת העולם השניה? ולאיזה בית הוא חוזר?" פרופ' אלרעי ייסד בפקולטה לרפואה בטכניון את המחלקה לחינוך רפואי ותלמידו, ד"ר נועם גולדשטיין, מנהל היחידה למחלות ריאה, בביה"ח נהריה אומר, כי מדי פעם, במקרה מסובך במיוחד, נוהגים תלמידיו לשאול: "מה אלרעי היה אומר?"
תלמידו, ד"ר זאהר עזאם, המנהל כיום את מחלקה פנימית ב', רואה בו את "ענק הרפואה הפנימית בארץ", ומספר איך יזם נוהל של קשר טלפוני בין המחלקה לחולים שהשתחררו, כדי לעמוד על תהליך החלמתם. ד"ר עזאם וד"ר אמל ג'ברין, סגן מנהל מחלקה פנימית א' מדברים על אהבתו לאדם באשר הוא, בלי קשר למוצאו.
הוא סרב להשתתף בשביתת הרופאים הגדולה ב-1983, ושאל: "האם גם החולים הכריזו על שביתה?" הוא גם ראה בפרקטיקה הפרטית דבר פסול.
בשנים 1997-1994 שהה במוסקבה עם בת-זוגו, פרופ' עליזה שנהר-אלרֹעי, שכיהנה כשגרירת ישראל שם. גם ברוסיה התעניין בחינוך הרפואי ובסוגיות האתיות הקשורות ברפואה. לאחר פרישתו מניהול המחלקה מונה פרופ' אלרֹעי לנציב תלונות הציבור של בית החולים והוא מילא תפקיד זה עד לפטירתו הפתאומית ב- 31.3.2007.
פרופ' רפאל ביאר, אמר לזכרו: "הדברים שאפיינו את פעילותו של פרופ' גדעון אלרֹעי היו האינטלקט המדהים, חוסר מוכנות להתפשר על עניינים עקרוניים ועל רמת העבודה הקלינית והמחקרית, על יכולת בלתי רגילה לנתח סוגיות מורכבות ביותר ולהגדיר את הבעיות האמיתיות ולהפריד בין עיקר וטפל. בעניין זה לא היו לו מתחרים.
הוא דרש מעצמו ומעמיתיו רמת דיון, ויכוח וניתוח בעיות שלא כל אחד היה מסוגל לקיים והוא עמד על שמירה של רמה גם כאשר כל אלה עמדו בסתירה להתקדמותו האישית. הוא הקים דור של תלמידים שגם אצלם ניכרת הדבקות באמת ובסטנדרטים הגבוהים שהוא הציג בפניהם. אלה שפעלו בקרבתו ידעו תמיד שמחמאה ממנו או אפילו סתם אישורו ללכת לפי קו מסוים נתנו הרגשה שהסוגיה עברה בחינה מעמיקה ושמותר ללכת הלאה.
בתפקידו האחרון בביה"ח, כנציב תלונות המטופלים, הוא הפגין שילוב של חכמה ועמידה על עקרונות שהולידו פתרונות חכמים אך צודקים. אני רוצה להעלות על נס את דרכו המסורה והאוהבת בה טיפל בכל מקרה ומקרה. מתחילת תפקידי ראיתי כל מכתב שנוסח, ראיתי דרך הטיפול שלו בנושא והתייעצתי איתו במקרים מורכבים. הערצתי את דרכו ואת תבונתו; פרופ' אלרֹעי נמנה על נפילי הדור שהשאירו את חותמם העמוק על הרפואה, האתיקה והקשר עם הרפואה והקהילה. יהי זכרו ברוך".
אחת לשנה מעניקה הפקולטה לרפואה של הטכניון פרס על שמו של פרופ' אלרעי למרצה המצטיין.