Мама с братом имеют приватизированную квартиру в равных долях, которая продается. Мама планирует купить квартиру у жены брата за счёт своей доли и частично-за счет средств, которые ей брат дарит. Собственность оформляет на себя. Могут ли в дальнейшем брат или его жена иметь имущественные права на эту квартиру, основываясь именно на своём участии в покупке?

Имущественных прав они иметь не смогут. Но я вы вам посоветовал более простой и надёжный вариант: брат дарит свою долю в квартире маме, а она меняет эту квартиру на квартиру его жены без доплат с обеих сторон.