Ошибка "No video mode set" обычно указывает на то, что ваша операционная система не может корректно инициализировать видеоустройство и установить подходящий видеорежим. Вот несколько шагов и рекомендаций, которые могут помочь вам устранить эту проблему:
1. **Проверьте код инициализации видео**: Убедитесь, что в вашей ОС существует код для инициализации видеодрайвера. Вам может понадобиться использовать стандартные BIOS прерывания (например, INT 10h для работы с видеопамятью) или встраивать код для работы с более современными графическими картами, если вы планируете использовать графические режимы.
2. **Используйте GRUB для установки видеорежима**: Вы можете указать видеорежим в конфигурации GRUB. Более точная настройка может помочь. Пример конфигурации:
```grub
set timeout=5
set root="hd0"
linux /boot/your_kernel_file video=800x600
multiboot /boot/boot
boot
```
Замените `your_kernel_file` на имя вашего ядра. Параметр `video=800x600` — это пример; вы можете попробовать разные разрешения.
3. **Убедитесь, что ваша ОС правильно обрабатывает параметры видеорежима**: Если вы передаете параметры в операционную систему через GRUB, убедитесь, что ваш код корректно их обрабатывает и инициализирует видеовую подсистему на основе переданных параметров.
4. **Проверьте поддержку вашего видеоустройства**: Если вы используете специфические драйверы или техники, убедитесь, что вы поддерживаете то аппаратное обеспечение, на котором вы тестируете вашу операционную систему. Попробуйте протестировать вашу ОС на других машинах или с другими видеокартами, чтобы убедиться, что проблема не связана с конкретным оборудованием.
5. **Используйте текстовые терминалы (VESA)**: Если ваша конечная цель — работа в текстовом режиме, вы можете использовать VESA (Video Electronics Standards Association) BIOS Extensions для установки видеорежима. Убедитесь, что вы вызываете необходимые функции VESA для инициализации.
6. **Проверка и отладка**: Выведите информацию по отладке, чтобы понять, где происходит сбой. Возможно, в определенных участках кода нет обработки ошибок, и удобная отладка поможет вам понять, что не так.
Если после проверки и изменения конфигурации что-то не работает, и вы хотите, чтобы я посмотрел на ваш код, не стесняйтесь предоставить его для более детального анализа.