504b 0304 - это сигнатура формата ZIP, который используется для архивирования файлов. В то же время, для исполняемых файлов (формат PE) сигнатура будет отличаться и равняться 0x4D 0x5A. Более подробную информацию об этом можно найти на странице https://ru.wikipedia.org/wiki/Portable_Executable.
Многие форматы файлов представляют собой набор байтов, которые в обычных текстовых редакторах отображаются как непонятные символы. Они не предназначены для простого чтения. Такое может касаться файлов изображений, звуков, видео и других форматов. Чтобы просмотреть содержимое файла в виде байтов, нужно использовать специальные программы для просмотра hex-кода. Однако, для большинства людей эти байты будут выглядеть как зашифрованное сообщение.