Квашеной капустой.

Можно свежей капустой или огурцами с уксусом. Не знающему будет тяжело вкус отличить. 
На 1 кг капусты или огурцов нужно 2 ст. л. яблочного 9 % уксуса. Всё остальное, например, приправы, по вкусу. Желательно чтобы овощи хотя бы сутки мариновались в уксусе (минимум 2 часа).

Можно и совсем без них — побольше луку и уксуса добавьте.

Солёными грибами

Свежие огурцы можно использовать.
Также подойдёт другая солонина, например, патиссоны, кабачки и т.д.

Попробуйте солёную рыбу использовать (селёдку, например). Очень вкусный салат получается.

Помидорами. Можно использовать зелёные солёные помидоры. Только сначала приготовьте малое количество — далеко не всем нравится такое сочетание. Как правило, женскому полу нравится, а мужскому нет.

Можно быстро посолить свежие огурцы. При желании полить уксусом и соевым соусом. Через час можно добавлять в винегрет.

Можно совсем ничем не заменять. Просто увеличьте количество ингредиентов, кроме картошки.