В 1880 году было открыто нефтяное месторождение, близ которого вырос посёлок Охэ (позже — Оха). Однако после нескольких неудачных попыток найти нефть посёлок был заброшен. В списке населённых мест Сахалина на 1900 год Оха не числится. В 1908 году никакого поселения на этом месте не было.
В 1910 году на территории города созданным годом ранее товариществом «Наследники Г. И. Зотова и Ко»[источник не указан 24 дня], была добыта первая нефть. Вышка с которой под управлением инженера А. В. Миндова была пробурена скважина сохранилась до сих пор и является памятником истории «Вышка Зотова».
В 1920—1925 годах был оккупирован Японией. Первая промышленная нефть добыта в 1921 году. Многие старожилы считают годом основания Охи — 1925 год. В октябре 1925 года Оха стала центром Восточного (впоследствии Охинского) района. Название городу дано по реке Оха. Происхождение же названия последней до сих пор нельзя считать твёрдо установленным.
Расцвет города пришёлся на 1970—80-е годы. В небольшом городе функционировало несколько крупных культурных объектов, как кинотеатр «Нефтяник», дворцы культуры и пионеров. Так же, в середине и конце 80-х началось строительство новых школ и детсадов нового типа с зимними садами-оранжереями («Журавушка» и «Буратино»).
Во время кризиса 90-х годов, вызванного крахом СССР, город начал приходить в упадок, сопровождаемый массовым отъездом жителей. Так же, на истории Охи крайне негативно сказалось Нефтегорское землетрясение в 1995 году силой 7,6 баллов, полностью уничтожившее населённый пункт Нефтегорск, находящийся в 98 километрах южнее Охи. При этом, необходимо отметить решительность жителей города Оха, самоорганизовавшихся в спасательные отряды и уже через несколько часов выдвинувшихся по разбитым стихией дорогам в условиях полной управленческой неразберихи, присущей середине 90-х годов, из своего пострадавшего города на помощь Нефтегорску.