"Почему те сербы, которые жили на территории Боснии, принимали ислам, а на территории современной Сербии - практически нет?"
Просто там был центр сербского анти-турецкого сопротивления, а Босния с ее сербами, в этом смысле, была периферией и подверглась культурной ассимиляции. Я так понимаю.