> Будет ли дальше расти vswp файл?
Зависит от значений Reservation & от того насколько глубоко в swap будет лезть VM. Еще раз напомню, что имеет смысл ограничить использование памяти в самом SQL, если это MSSQL и у него в качестве Maximum server memory (in MB) стоит 2147483647то рано или поздно SQL начнет использовать swap а hypervisor растить файл vswp. Поэтому если вы хотите макимально уменьшить размер файла vswp нужно выставить в reservation то количество памяти которое вы отдали VM и установить некое разумное значение для Maximum server memory
Сложность только в одном, для всех остальных виртуалок на хосте ESXi количество доступной памяти окажется равным (Общая память хоста - Reservation), вам нужно будет проконтролировать чтобы памяти хватило
> Если здесь, то какие значения выставлять?
Высталять здесь, мое мнение по поводу значений выше