Hij brak in Nederland door met Oh!Carol dat in 1959 de hitlijsten haalde. Het gaat over zangeres Carole King, met wie hij op de middelbare school een relatie had.

Sedaka studeerde aanvankelijk klassieke muziek, maar koos als tiener voor de popmuziek. Hij schreef veel liedjes samen met zijn voormalige buurjongen Howard Greenfield. Hun werk is ook vaak vertolkt door andere artiesten. Sedaka kreeg vijf Grammy-nominaties.