A ragály szó szláv eredetű, jelentése szarv, hegyes.

A község területe már a bronzkorban is lakott volt, ezt bizonyítják a határában feltárt bronzkori (Pilinyi-kultúrára jellemző) kardleletek.

A község nevét először egy 1216-ban kelt adománylevélben említik. Az oklevelekben sokféle elnevezéssel illették: Rogas, Rogal, Ragalzuhaya, Ragalpataka, Ragalfeulde.

A helység a XIV. században kettévált, Nagyragályra és Kisragályra, de a két falu közigazgatásilag továbbra is összetartozott, hiszen egy bírójuk volt. A törökök fosztogatásai miatt Kisragály 1560-ra teljesen elnéptelenedett, jobbágyai elmenekültek, vagy védettebb településekre vándoroltak. Nagyragály portahelyei is pusztulásnak indultak.

A község a XV. század közepétől nagyrészt a Ragályi család tulajdonába került.

A kiscsoltói Ragályi család tőzsgyökeres gömöri nemesi család. Szülöttei alispánok, táblabírák, megyéjük híres országgyűlési követei voltak. Meg kell említenünk Ragályi Tamás és Ragályi Nándor nevét, akik talán a család legismertebb tagjai voltak.

Ragályi Nándor az 1844-es pozsonyi országgyűlés után elsőként az országban részt vállalt a közteherviselésből. Később Kossuth Lajos az 1848/49-es szabadságharc idején kinevezte a dunántúli seregek élelmezés biztosává. Csapataival Bécsig üldözte Jellesicsot.  1849-ben a Görgei Artúr által vezett északi seregek élelmezés biztosa lett.

A ragályi uradalmat báró Balassa-Ragályi Ferenc virágoztatta fel a XX. század elején.  A bárói rangot Balassa Emmával kötött házassága révén kapta meg 1901-ben.

Ragály évszázadokon keresztül Rozsnyóval, Rimaszombattal állt szoros gazdasági és kereskedelmi kapcsolatban. A trianoni határrendezést követően 20 másik gömöri településsel Magyarország része maradt. Ezután Ózd, Miskolc, Edelény felé irányult ez a kapcsolat.

A II. világháború rányomta bélyegét a ragályi gazdaságra, hanyatlásnak indult, amiből hosszú évtizedeken át nem tudott már talpra állni.

A község lakói a XX. század közepéig mezőgazdaságból éltek, a rudabányai érctermelés,  a Fekete-völgyi bánya és a Borsodi Vegyi Kombinát (Borsodchem) megnyitása sokak számára kínált munkalehetőséget.