ファイルは消えていても、恐らくレジストリに情報が残っているのでしょう
説明されたとおりちゃんとアンインストールした方が良いですよ