בשנת 1980 החל לעבוד בגלי צה"ל ככתב לענייני חגים. כעבור זמן קצר מונה לכתב לענייני מפלגות, עורך יומני חדשות ומגיש התוכנית "ציפורי לילה". בשנת 1982 הצטרף לחבר מגישי תוכנית האקטואליה "ערב חדש" בטלוויזיה החינוכית.
בשנים 1993-1984 הגיש את התוכנית "נכון לעכשיו", בגלי צה"ל. במסגרת תוכנית זו, השיג כמה ראיונות בלעדיים בנושאים שהסעירו את דעת הקהל בארץ: האסיר הרצל אביטן יצר עימו קשר לאחר שנמלט מהכלא; נערה בת 13 שילדה את תינוקה; הוריה של הילדה קרולין ברונה אשר נלקחה מבני הזוג תורג'מן מלוד (המאמצים) והוחזרה לאמה הביולוגית בברזיל; זוהר ארגוב אחרי אחת מגמילותיו מסמים; דינה נקש, אשתו של גדעון נקש, שנאבק על זכותו למות עקב מחלתו חשוכת המרפא. במהלך שנות הגשת התוכנית בנה רשף את מעמדו כאחד מהמראיינים ומגישי האקטואליה המובילים בישראל.
בשנת 1993, עם הקמת ערוץ 2, הצטרף רשף לזכיינית טלעד והגיש את התוכנית "כל שני וחמישי". בשנת 1994 הצטרף לחברת חדשות 2 ובמסגרתה החל בשידור תוכנית אקטואליה יומית בשעות אחר-הצהריים - "5 עם
רפי רשף". במסגרת תוכניתו גיבש רשף סגנון ניהול ראיון שהיה למזוהה איתו: התמקדות בפן האישי תוך מתן דגש לרגשות ותחושות המרואיין ובמקביל שמירה על טון דיבור והגשה יבש ומעט ציני. סגנונו של רשף לא היה מקובל עד אותה עת בנוף הטלוויזיוני בישראל ובפרט בתוכניות האקטואליה בהן לא היה נהוג להעלות שאלות בנימה אישית- רגשית למרואיינים. בשנים לאחר מכן הפך סגנונו של רשף למקובל במרבית תוכניות האקטואליה הרכות ובתחום האקטואליה ככלל. במסגרת תוכניתו רשם רשף כמה ראיונות בולטים אשר עוררו הד ציבורי נרחב, ביניהם ראיון ראשון שקיים עם לאה רבין מספר ימים לאחר רציחתו של ראש הממשלה
יצחק רבין.
בשנת 1996, עם הקמת תחנות הרדיו האזורי, היה רשף ממקימי תחנת "רדיו תל אביב" ומבעליה. לזמן קצר נמנה עם שדרני התחנה. בשנת 1997 הגיש תוכנית אירוח בשעות הערב במסגרת שידורי הזכיינית קשת בערוץ 2. בשנים 1999-1998 הנחה תוכנית ראיונות אישית, גם היא במסגרת שידורי קשת בערוץ 2.
בשנים 2008-2002 הגיש את "נכון להבוקר", תוכנית אקטואליה יומית בגלי צה"ל.
בשנת 2005 עבר ל
ערוץ 10 והחל בהגשת תוכנית אקטואליה יומית בשעות אחר-הצהריים - "חמש עם רפי רשף". את תוכניתו של רשף מפיקה חברת "נינה הפקות"
אשר רשף נמנה על בעליה. בשנת 2015 החל בהגשת תוכנית שבועית בשם - "רפי רשף אינטימי" בה הוא עורך ראיונות אישיים עם פוליטיקאים, אנשי תרבות וכדומה.
