特にフリーランスSEに限った話ではないですが。
最も会社員と違いを感じるのは「確定申告」ではないでしょうか。
会社員ならちょうど今頃年末調整をやっていると思いますが、これを自分でやるのが確定申告です。
確定申告は義務なのでやらなければいけません。
最近も某お笑い芸人が無申告だったニュースがありましたね。
事業規模が大きければ税理士に委託するのもいいですが、個人でやっているSEレベルでは正直そこまでする費用対効果があるかは何ともです。(ちなみに自分は委託したことありません)
とはいえ、エンジニア業務とは全く畑が違うので、これが一番ハードル高いと言っても過言ではないかも知れないですね。