Steinberg leed aan kanker. Hij schreef de teksten, waarbij hij lange tijd samenwerkte met componist Tom Kelly voor de muziek. Hun eerste grote hit was Like a Virgin, dat eigenlijk bedoeld was als ballad.

Steinberg probeerde eerst om het zelf te maken als muzikant, maar kon geen album produceren. Linda Ronstadt scoorde een top 10-hit met zijn How Do I Make You, waarna hij koos voor het schrijven.