削除されたポートに同じIPアドレスで仮想サーバの再作成を繰り返すと、接続できなくなる場合があります。
異なるIPアドレスで作成したポートを指定して仮想サーバを作成すると事象が改善されますが、この動作は仕様ですか。

仕様です。
DHCPにより割り当てられるIPアドレスには、リース期間が設定されています。
そのIPアドレスは作成されたポートのMACアドレスと紐づけられており、リース期間が有効な間は、他ポートでは使用することができません。

📘　関連ドキュメント
機能説明書
対象リージョン：東日本第3／西日本第3
ポート管理
対象リージョン：東日本第1／東日本第2、西日本第1／西日本第2
ポート管理