Вообще то нет. Но если вы картинку с тем же именем укажите со своего компа, то он вроде даже и перезаливать не будет, просто в базе пропишет. Это лично мое мнение. Нужно проверять.
И как у вас картинка осталась после удаления товара? Вроде с удалением товара и картинки улетают.
1)Попытался просто вписать имя - в трее IE 6.0 высветилось "ошибка на странице" (и это, наверное, правильно).
2)Раньше картинка почему-то осталась после глюка с вбиванием мной Tags-ов и Keyword-ов на русском, хотя сейчас я уже думаю что она бралась из кеша (в файлах я ее не нашел).