I didn't use to like this band.
used to is a word that expresses past habits and conditions, and the inside out of the meaning strongly insists that "it is not the case now."
used to :「昔は~」「よく~したものだ」「かつては~だった」
you can say. 「私は昔(は)このバンドが好きじゃなかった。(好きではなかった)」(好きではありませんでした。more formal))
かつて is used in a written language. 「かつて(は)このバンドが好きではありませんでした。」
Before, I didn't like this band.
Before is used to mean "until now", and used to refer to what is happening in front of us.
ex. Have we met somewhere before?
(以前どこかでお会いしたことないですっけ?)
Before:「以前いぜん(に)」「前(に)」
so you can say, 「以前(or 前(は)このバンドが好きじゃ(or では)なかった.。」