Некогда первыми поселенцами этих мест были финские племена мещеры. Они ютились на узком мысу, образуемом оврагами, упирающимися в р. Оку, и отделенным от материка высоким и крутым валом. Около вала был глубокий ров. Тут и было жилище первобытных обитателей, здесь же были, вероятно, их землянки и шалаши... А главное, по преданию, на высоком валу стояла каменная баба, от которой вся местность получила название «бабинки». С установлением христианства каменная баба была низвергнута с крутого берега той же Оки.

Мансуров А. Остаток касимовской старины. // ТРУАК - Рязань, 1899. - Т. 13. - Вып. 3. -1898. - С. 405

Баба - трясина, зыбкое место на болоте (укр., Житомирская обл.). Географический термин «Каменная баба» - грубое изваяние из камня, археологический памятник, созданный древним человеком и встречающийся на обширных пространствах Евразии. «В нескольких верстах от Камышина есть урочище, называемое «Бабы»; здесь еще не в очень древнее время стояли те грубые изваяния из камня, за которыми исстари упрочилось название «баб», потому что они преимущественно представляют изображения женские» (Россия, 1901,6). Ср. рус. баба-«чурбан», «столб», «пень», сохранившееся в ряде областей; деревянная баба - орудие для удара, большой деревянный молот.