Раз участок Ваш, право на дом у родственников по общему правилу возникнуть не может: построивший самовольную постройку права на нее не приобретает и распоряжаться ею не вправе, а признать право на нее суд может только за тем, кому принадлежит участок, и при соблюдении условий закона (п. 2, 3 ст. 222 ГК РФ). Поэтому в споре о самом доме у Вас сильная позиция
Слабое место в жене того, кто строил. Она не участвовала в первом деле, а выводы решения, даже вступившего в силу, обязательны для суда только в споре с участием тех же лиц (ч. 2 ст. 61 ГПК РФ). Прекратить новое дело как повторное суд может, лишь когда совпадают стороны, предмет и основания (абз. 3 ст. 220 ГПК РФ), так что с ней спор пойдет по существу заново. И опасность здесь скорее в деньгах, чем в доме: если право на постройку признают за собственником участка, он возмещает построившему расходы на нее в размере, который определит суд (п. 3 ст. 222 ГК РФ). То, что Вы согласились дом не сносить, может стать для них доводом в таком споре
Ошибку в границах Вы исправили до суда. Но если исправление затрагивает права брата мужа на соседний участок, реестровую ошибку в таком случае исправляют только по решению суда (ч. 3, 4 ст. 61 Федерального закона N 218-ФЗ)
Каковы шансы, решает, что именно требуют в новом иске: снести дом, признать на него право или вернуть деньги за стройку. Отсюда определится, хватит ли ссылки на первое решение или возражения придется строить заново. Пришлите в чат на сайте копию нового иска, разберем по документу