不知道离婚协议上你们是怎么写的,如果离婚后房子是共同财产要进行财产分割的。有你一半的情况下,他是无权要求你搬出去住。不过建议协商解决。如果房屋有判归属于谁,那么另一方必须搬出,如果其拒不搬出,房屋所有权人可以向法院申请强制执行。