ב-1955 עזב אליהו את עבודתו והקים סוכנות ביטוח עצמאית בשכונת שפירא בתל אביב. במקביל להפעלת הסוכנות עסק באמרגנות והפיק הופעות בידור. ב-1966 הקים את "אליהו חברה לביטוח" וקיבל מן המדינה רישיון לשווק לציבור פוליסות ביטוח רכב. החברה שהקים היתה ראשונה לקבל רישיון ממשלתי לפעול כחברת ביטוח, זאת מכיוון ששאר החברות אשר היו פעילות בענף הביטוח הוקמו טרום הקמת המדינה. ב-1968 קיבלה החברה רישיון לפעול גם בענף הביטוח האלמנטרי, וב-1969 העניקה לה המדינה רישיון לעסוק גם בענף ביטוח החיים. למן הקמתה של החברה הוביל אליהו אסטרטגיה של תמחור נמוך ביחס למתחריו, חברות הביטוח הגדולות בשוק, אסטרטגיה אשר הניבה לחברה הצלחה בלתי מבוטלת.
פעילות פוליטית
ב-1977, לקראת הבחירות לכנסת ה-9, הצטרף למפלגת ד"ש ושובץ ברשימת המפלגה לכנסת. ב-1978, לאחר התפטרותו של מאיר זורע (חבר סיעת ד"ש) מהכנסת, הושבע אליהו במקומו כחבר כנסת. שימש כחבר בוועדת הכספים, כחבר בוועדת העלייה והקליטה, כחבר בוועדה המשותפת לתחום האנרגיה בישראל וכיושב-ראש ועדת המשנה לשוק ההון. במהלך הכנסת ה-9 התפצלה סיעת ד"ש ואיבדה את מרבית כוחה הפוליטי, אליהו עצמו פרש מן הסיעה והקים סיעה חדשה בשם –אחווה (בה היו חברים גם עקיבא נוף ושפיק אסעד). בתום כהונת הכנסת ה-9 סיים אליהו את פעילותו הפוליטית ולא שב לכהן כחבר כנסת.
פעילות עסקית
גם במהלך כהונתו כחבר כנסת המשיך אליהו לפתח ולהרחיב את עסקיו (באותן שנים פעילות כזו לא היתה אסורה על חברי כנסת). ב-1978 החל בפעילות יזמית בתחום הנדל"ן, בין היתר היה שותף לקבוצת היזמים שהקימו את מתחם "גן העיר" בלב תל אביב, יזם את הקמת המגדל "בית אליהו" בתל אביב, בה מיקם את משרדי חברת הביטוח, היה שותף להקמת מגדל משרדים בחיפה ועוד.
ב-1982 רכש אליהו 12% ממניות חברת הביטוח הפניקס (שהיתה נתונה אז בשליטת משפחת חכמי). ב-1986 רכש 25% נוספים ממניות החברה. ב-1993 רכש, באמצעות חברת קבוצת אליהו, את גרעין השליטה בבנק איגוד, יחד עם אנשי העסקים דוד לובינסקי ויהושע לנדאו. ב-1997 רכש 36% ממניות חברת הביטוח איילון וכשנתיים לאחר מכן מכר אותן למשפחת רחמני (בעלי השליטה החברה). ב-1999 רכש 9.6% ממניות בנק לאומי, בשנים לאחר מכן עשה מספר נסיונות להפוך לבעל השליטה בבנק אולם לא הצליח בכך, בין היתר בשל התנגדות מצד גורמים רגולטוריים בבנק ישראל ובמשרד האוצר.
ב-2005 מכר אליהו את אחזקותיו בחברת הפניקס לאיש העסקים יצחק תשובה.
ב-2010 היה נתון אליהו לחקירה פלילית בחשד לביצוע עבירות מס והלבנת הון, זאת בשל הוצאת כספים מישראל לבריטניה. החשדות הפליליים לא הוכחו. לבסוף עברה החקירה למסלול המנהלי ועל אליהו הוטל לשלם למדינה קנס בסך כ-2.7 מליון ש"ח.
ב-2012 רכש את השליטה בחברת מגדל תמורת כ-4.2 מיליארד ₪. ב-2018 מונה לתפקיד יושב-ראש מגדל וכן מונה לתפקיד יושב-ראש חברת האם מגדל אחזקות ביטוח ופיננסים.
אחזקותיו של אליהו בשוק הביטוח ובשוק הבנקאות הפכו אותו לאחד האנשים העשירים בישראל. ב-2017 העריך מגזין "פורבס ישראל" את הונו בכ-3.7 מיליארד ש"ח.
ב-2010 הוענק לאליהו תואר דוקטור של כבוד מטעם אוניברסיטת תל אביב.
בחודש יולי 2018 נבחר
שלמה אליהו, בעל השליטה בחברת הביטוח מגדל, ליו"ר החברה. זאת, לאחר שקיבל את האישור הדרוש מהמפקחת על הביטוח.
