副業詐欺で困ってます、助けてください

今年の4月15日頃にヨイギフトという副業サイトに登録しました

登録時に【はるな】という名前の専業主婦からヨイギフトについての話をききました
その後、公式LINEを紹介されて【お金の増やし方@公式】というLINEを追加しろと言われ追加をしたのですが、初期費用0円スタートと謳っておきながら蓋を開けてみると『支援プランに登録してもらわないといけない』や『金融機関に借入をしてもらう必要がある』等、上手い口実で借入審査をしてしまいました
こちらは金融機関にお話をしてキャンセルして頂きましたが断られたとなった場合、他の金融機関もあると電話口で言っていたので紹介されそうで不安です

また、はるなとのLINEで【スタートブックを買って欲しい】と言われ後払い(銀行振込)を選択しました
こちらも後払いなのでまだ金額の請求は来てませんが途中で副業を辞めたいと申し出たところ『ユーザー登録が完了しているため途中でやめるとなるとプラン料金の70%の違約金が発生しご自宅やお勤め先に詳細の郵送物お送りする形になりますがよろしいでしょうか?』という半ば脅しのようなLINEが送られてきました

金額の被害も出てないし副業もスタートしてないので出来ればこのまま辞めたいのですが辞められるでしょうか?
また、支払いの請求で裁判等起こされたら家族に知られてしまうのであまり警察沙汰にしたくないのですが厳しいでしょうか?

良ければ回答よろしくお願いします

一度消費生活センターか最寄りの弁護士に相談してみてください。
法的には拒める場合が多いのですが、こういう業者は法的根拠の議論は無視して執拗に請求してくるので、それへの対策が必要です。