במהלך שנים רבות, החולים במחלות ריאומטיות (rheumatic diseases) טופלו בארץ ובעולם על ידי מומחים ממקצועות שונים כולל רפואה פנימית, רפואת ילדים, אימונולוגיה, אורתופדיה ורפואת שיקום. בשנת 1925 ובמהלך הכינוס האירופאי להידרולוגיה רפואית, הוקם ה-International Committee on Rheumatism, ובעקבות מפגש זה הוקמו מרפאות ואיגודים מקצועיים בתחום הרימטולוגיה בעולם ובארצות-הברית.
בארץ, במהלך שנות השישים והשבעים של המאה הקודמת, השלימו מומחים ברפואה פנימית התמחות במקצוע הרימטולוגיה בצפון אמריקה ובאירופה, והם אלה שהיוו את הגרעין לאבות המקצוע בארץ.
בספטמבר 1965 נפתחה לראשונה במרכז רפואי רבין על ידי ד"ר ישראל מכטיי ז"ל המרפאה למחלות ריאומטיות. פרופ' מרדכי פרס היה הרימטולוג השני בארץ ובשנת 1969 הוקם השירות לרימטולוגיה במרכז הרפואי שיבא. בהמשך, בשנת 1973, הקים פרופ' שרף ז"ל לאחר התמחות באנגליה שירות בתחום הרימטולוגיה ומחלקת אשפוז לרימטולוגיה במרכז רפואי רמב"ם, ופרופ' מרדכי ירון ז"ל בשנת 1980 חנך את השירות בתחום הרימטולוגיה במרכז הרפואי סוראסקי. באותה תקופה הקים פרופ' יעקב הורוביץ שירות לרימטולוגיה במרכז רפואי סורוקה. לאחר מכן מרפאות רימטולוגיות הוקמו בכל המרכזים בארץ.
החברה לרימטולוגיה הוקמה בתחילת שנות ה-80 על ידי הפרופסורים פרס, ירון ושרף. חברה זו לא זכתה להכרה על ידי מוסדות ההסתדרות הרפואית. בשנת 1988 הוכרה הרימטולוגיה כמקצוע-על של הרפואה הפנימית. האיגוד הישראלי לרימטולוגיה נוסד בשנת 1989 והוכר כחלק בלתי נפרד מההסתדרות הרפואית בישראל.