Die ersten beiden Singles auf Def Jam waren im Jahr 1984 'I Need A Beat' von LL Cool J, und 'Rock Hard' von den Beastie Boys. Der Erfolg dieser beiden Singles verschaffte Simmons & Rubin einen Vertriebsdeal mit CBS in Höhe von 600.000 Dollar. Sofort schlossen sich die späteren HipHop-Giganten Run DMC und Public Enemy dem neuen Label an, und der Rest ist Musikgeschichte.

Rick Rubins großer Verdienst bestand u.a. darin Rap mit Rock zu vereinen. Die Zusammenarbeit von Aerosmith, die Rubin in seiner Jugend ebenso verehrte wie Kiss, mit Run DMC bei der Neuauflage von "Walk This Way" war seine Idee. Rubin schrieb mit Slayer und deren Album "Reign In Blood" auch Metal-Geschichte auf Def Jam Recordings. Sehr zum Missfallen seines Partners Simmons im übrigen, der ein HipHop-Purist war und ist. Der Ausstieg von Rubin 1989, fünf Jahre nach der Gründung von Def Jam Recordings, schmerzt Russell Simmons bis heute, insbesondere bei dem Gedanken daran wie viele großartige HipHop-Platten Rubin anstelle von Slayer, Johnny Cash & Co. hätte für das gemeinsame Label hätte produzieren können.