※Linux（Ubuntu や WSL）での Bash シェルスクリプトを想定したコマンド解説です。
以下のように書けばOKです：
[ -f ファイルA ] && rm ファイルA
または、より可読性を重視するなら：
if [ -f ファイルA ]; then
rm ファイルA
fi
補足：
-fは「通常のファイルとして存在するか」をチェックします。rmはファイルを削除します。- ファイルが存在しない場合は、何も実行されません。
ファイル名にスペースが含まれている場合は、ダブルクォートで囲ってください：
[ -f "ファイル A.txt" ] && rm "ファイル A.txt"
追伸
LinuxやUbuntuをこれから試してみたい！と言う人や、今までWindowsで使っていたPCをWindowsは残したままLinuxやUbuntuを活用してみたい人は以下の本がおすすめ！
https://amzn.to/44AU7B5
LinuxやUbuntuを使おうとして、初心者の人が最初にコマンドで戸惑うのが普通です。そんな初心者に向けてマンガで超わかりやすいコマンドについて学べるのはシス管系女子みんとちゃんの本！
https://amzn.to/3FMTx5v