Это прилагательное образовано суффиксальным способом от глагола постыть ("остыть"). Первоначальное значение слова постылый – "остывший, холодный", впоследствии происходит переосмысление, и значение глагола остывать переходит на человеческие чувства: постылый – "тот, кто больше не мил".
Этимологический словарь русского языка. — СПб.: ООО "Виктория плюс". Крылов Г. А.. 2004.