Obec Brezov leží doline povodia rieky Topľa a potoka Brezov (niekedy nazývaný aj Vaľkovský potok), ktorá je časťou Ondavskej vrchoviny v západnej oblasti Nízkych Beskýd. Katastrom obce v časti Malý Brezov preteká potok ústiaci do rieky Radomka, ktorá preteká časťou obce Pusté.
Obec je na 49° 7′ severnej zemepisnej šírky a na 21° 31′ východnej zemepisnej dĺžky. Najnižší bod obce má hodnotu 180 m.n.m. (juhovýchodná časť obce – vyústenie do rieky Topľa), najvyšší bod k.ú. je vrch Dúbrava s 348 m.n.m. (severovýchodná časť ).
Klíma je teplá, mierne vlhká s chladnou zimou. Priemerná ročná teplota vzduchu je 10° C až 14° C. Priemerný ročný úhrn zrážok sa pohybuje od 650 do 800 mm. Prevažná časť zrážok pripadá na vegetačné obdobie. V oblasti prevládajú severné smery vetrov.
Obec susedí s mestom Giraltovce na juhovýchode, s obcami Kalnište a Lužany pri Topli na juhozápade, Lascov na severozápade, Matovce na severovýchode a Valkovce a Štefurov na severe.
Rozloha chotára je 689 hektárov – z toho 477 ha poľnohospodárskej pôdy a 135 ha lesov.