個人事業主からの未払い給料60万円、支払い請求可能か?

現在個人事業主に雇われています。
給料の未払い分が2023年1月分から4月分までで、約60万円ほどあります。
雇用契約書等入社時にしっかりしておらず、
要求しても応じて貰えませんでした。

給料明細に関しても用意して貰えずといった状態なのですが、こういった場合未払い分は払ってもらえるのでしょうか?

一度、管轄の労基署に給与未払い等について相談しては如何でしょうか。
もし、契約書どころか、雇用条件が分かるもの(雇用条件通知書など)すら交付を受けていない場合は、その点についても労基署に相談されるとよいでしょう。
労基署の方で、労働基準法への違反(雇用条件明示義務違反・給与未払い)が認められれば、是正を促してくれる可能性があります。

なお、あなたが労働者であることが前提となります(業務委託等では、相談の対象にならない)。

業務委託等での業務委託報酬の未払いの場合は、弁護士に相談の上、内容証明で支払をまずは督促することになろうかと思います。
※なお、もちろん、給与の場合でも同様に弁護士に依頼して、支払を督促することが可能です。