シェルを作成していた途中で、ファイルの重複行削除する処理を作りました、
その際に用いた[uniq]コマンドの紹介をします。
【テキスト内容例】sample.txt
AAA
BBB
BBB
CCC
CCC
AAA
DDD
【コマンド例1】
そのままコマンドを実行すると前後で隣接して重複している行を削除した結果が表示されます。
>uniq sample.txt
AAA
BBB
CCC
AAA
DDD
【コマンド例2】
uniqコマンドの前にファイル内容をソートするコマンドを挟むことで連続していない行の重複も削除することができます。
※結果の記載内容がソートされてしまう点に注意
> sort sample.txt | uniq
AAA
BBB
CCC
DDD