Можно ли через суд признать право собственности на дом, если отказался от наследства в пользу брата?

Получить право собственности через суд практически невозможно. Отказ от наследства в пользу брата является окончательным решением, и отменить его можно только в очень редких случаях, например если человек не понимал, что делает. Прописка в доме сама по себе не даёт прав на него.

Единственный реальный путь состоит в том, чтобы доказать в суде, что вы давно владеете домом как своим. Но для этого нужно, чтобы вы жили в нём открыто, честно и непрерывно 15 лет. В вашей ситуации, после отказа в пользу брата, это крайне сложно.

Сколько лет вы фактически живёте в этом доме и платите за него коммунальные услуги, делаете ремонт после отказа от наследства

Отказ от наследства нельзя изменить или взять обратно (п. 3 ст. 1157 ГК РФ). Поэтому просто передумать и через суд получить свою 1/5 не получится, а регистрация в доме права собственности не дает.

Шанс есть, только если оспорить сам отказ как сделку. Верховный Суд допускает признание отказа от наследства недействительным по общим правилам о недействительности сделок (п. 21 Постановления Пленума ВС РФ N 9 от 29.05.2012). Например, если Вы отказались под влиянием обмана или угрозы (ст. 179 ГК РФ) или если в момент отказа Вы были несовершеннолетним, а разрешения опеки не было (п. 4 ст. 1157 ГК РФ). Для большинства оснований срок короткий: один год с того дня, когда Вы узнали или должны были узнать об основаниях для оспаривания (п. 2 ст. 181 ГК РФ). Если отказ был давно и добровольно, шансы минимальны.

Мирный вариант: брат может подарить Вам долю в доме, такой договор дарения удостоверяется у нотариуса (п. 3 ст. 574 ГК РФ).