3年前に土地を分割した際の越境問題について相続放棄の取り下げと姉の家の移動について相談したい

3年前に母の土地を3人姉弟で財産分与することになりました。
私は遠くに住んでいるため土地の受け取りは辞退し相続放棄の手続きをし、土地は姉と弟で二分割しました。
土地を分割する前から、母の土地には母の家と姉の家が建っており、母の家には弟が、姉の家には姉の家族が住んでいました。姉の家は20年以上前に母から好きに建てていいと言われ、その時に建てたものなのですが、土地を分割した際、姉の家が弟の土地に越境していることがわかりました。
分割した当時は越境していても何も言われなかったそうですが、現在、集合住宅を建てるため越境した分を移動するようにいわれているようです。姉は越境している分を買いたいと相談したのですが売ってくれないそうです。
私は姉に恩義があり、越境した分を姉の土地としてあげたいのですが、深く考えず相続放棄の手続きをしてしまったため悔やんでいます。相続放棄の取り下げはできないでしょうか。また、姉は家を移動または減築等しなければならないでしょうか。

移動するように要求しても裁判所は認めないでしょう。
土地を分割するときに越境していたのですから、分割時に過失がありますね。
姉側からすれば、買うか借りるかですね。
あるいは、借りて置いて、次回立て直すときに、引っ込める約束をするかで
すね。
弟さんからすれば、異動や撤去を求めることは、信義則上、認められないので
どこかで妥協するしかないでしょうね。

姉の家は建蔽率に引っかかるそうで、それに対して何か言われるかもしれません。
私が財産放棄した時は姉の土地が越境していることも知らず、むしろ姉に自分の分を譲る思いで放棄したのに、このようなゴタゴタが起こり弟に裏切られた思いでいます。私の相続放棄は取り消すことは難しいでしょうか。

指摘の状況下では、相続放棄を取り消すことはできません。

現在の状況で建蔽率に引っかかると言われたら、減築しなければならないでしょうか?

適法物件として完了検査は受けていると思われます。
また、完了検査証がなくても、20年以上も前なので、罰則の適用はなく、
行政指導に留まるでしょう。
いまは、なにもせずにいたほうがいいでしょう。
これで終ります。