Можно ли отнять у наследника его долю в доме, если он не платил за дом и его содержание?

Отнять часть дома невозможно. Но если площадь дома небольшая можно попробовать через суд признать его долю незначительной, и выкупить ее. Для этого скорее всего придется произвести рыночную оценку его доли. 

Рыночная стоимость может существенно отличаться от кадастровой, не стоит к ней привязываться.

В случаях, когда доля собственника незначительна, не может быть реально выделена и он не имеет существенного интереса в использовании общего имущества, суд может и при отсутствии согласия этого собственника обязать остальных участников долевой собственности выплатить ему компенсацию.
С получением компенсации в соответствии с настоящей статьей собственник утрачивает право на долю в общем имуществе (ст. 252 ГК РФ).