En 1974 firma con Elektra Records y, a lo largo de los diez años siguientes, publicó 25 números 1 en las listas de country y ocho éxitos pop en el Top40. Sus canciones más conocidas fueron 'Drinkin' My Baby (Off My Mind)' (1976), 'You Don't Love Me Anymore' (1978), 'Every Which Way But Loose' (1979), 'Drivin' My Life Away' (1980), 'I Love a Rainy Night' (1980), 'Step by Step' (1980) y 'You and I' (1982), un dueto con Cristal Gayle.
Al final de los años ochenta volvió a sonidos más tradicionales con temas como 'On second thought', pero una nueva generación de músicos había conquistado el mercado y las listas country y ya era tarde para Rabbitt para volver a la primera línea del género. Aún así siguió grabando excelentes álbumes como 'Jersey Boy' (1990) y 'Beatin' the Odds' (1997), aparecido ocho meses antes de fallecer Eddie en mayo de 1998 a los 57 años.