Почему после смерти матери доля в наследстве стала 23, а не 56, если сын от первого брака отца?

Максим, 5/6 у Вас получается, если квартира нажита родителями в браке без брачного договора, мама приняла наследство после отца и Вы ее единственный наследник, а 2/3 чаще всего значит, что мамину долю от отца в ее наследство не включили. Сначала проверьте, что именно означают 2/3: если это доля мамы, которая перешла к Вам по свидетельству, то вместе с Вашей 1/6 от отца расхождения нет. Если же это Ваша итоговая доля, ищите, куда делась часть

Логика такая: половина общей квартиры принадлежит маме как супругу, в наследство отца входит только его половина (ст. 1150 ГК РФ), и ее поровну делят наследники первой очереди, мама, Вы и сын отца от первого брака (п. 1 ст. 1142, п. 2 ст. 1141 ГК РФ). Маму этот сын по общему правилу не наследует, поэтому ее часть, включая полученное от отца, переходит к ее наследникам. Принятое наследство принадлежит наследнику со дня открытия независимо от времени фактического принятия и регистрации права (п. 4 ст. 1152 ГК РФ), так что мамина доля от отца входит в ее наследство, даже если свидетельство на нее она не получала. Если у мамы были другие наследники, завещание или кто-то отказался, итог будет иным. Все это по ГК РФ, для наследства, открытого после 01.03.2002

Куда ушла часть доли, видно по тому, подавала ли мама заявление нотариусу после отца: при ошибке Вы теряете часть квартиры. Напишите в чат на сайте, подавала ли мама такое заявление, разберем по Вашим документам

Скорее всего, дело в том, как именно формировалась наследственная масса после каждого из родителей.