怒鳴られ恐怖を感じお金を渡してしまった

先日彼氏の浮気を原因に喧嘩になり、相手から胸ぐらを掴まれたり、突き飛ばされたり、ぶっ殺すぞ!と脅されました。
あまりの突然の出来事なので録音はしていませんが、体にあざが出来ていました。

暴力、暴言の前に話し合いを持ちかけたところ「今から話し合うなら明日の給料分払え!!!」とすごい剣幕で言われ、恐怖を感じ払ってしまいました。

暴力などに関しては、警察に相談済みで被害届を出した方がいいと言われていますが金銭については何も触れられないと言われました。
支払ってしまったものは相手に返金要求は可能ですか?

警察からは、傷害罪としての被害届は受理できるが、恐喝罪としての被害届は受理できないと言われたということでしょうか。
傷害罪としての被害届が受理されて警察が動けば、本人又は弁護士から示談の申出がある可能性もありますので、まずは傷害罪の被害届を提出されるとよいのではないかと存じます。
示談の申出があった場合、傷害に対する慰謝料のほか、支払った金額の返還を要求すればよいように思います。

いずれにせよ、今後の交渉に備えて、あざの写真、診断書、お金を支払ったことを多少なりとも裏付ける証拠(たとえばATMの明細書や通帳、インターネットバンキングの明細画面)等を確保して、まとめておくと良いかと存じます。