Некоторые старые DOS-программы отказываются нормально работать, а стандартным способом (через файл CONFIG.SYS) решить проблему не удаёстся.

Действительно, в Windows Me отсутствует реальный режим, поэтому изменения с помощью параметра FILES в конфигурационном файле CONFIG.SYS (как это можно было сделать для Windows 9x) не помогут. Проблему, однако, можно решить, увеличив число дополнительных указателей (handles) файлов для виртуальной DOS-машины. 

Откройте для редактирования файл SYSTEM.INI, располагающийся в корневой папке Windows, и перейдите к секции [386Enh]. Здесь необходимо добавить строку вида:

PerVMFiles=число

Вместо число подставьте требуемое количество указателей, которое может принимать значения до 255 (по умолчанию — 30).