chm можно создать из html файлов и картинок, а те в свою очередь из блокнота и паинта. Конвертеров существует целая куча (WinCHM, Help And Manual, RoboHelp, etc). Поищи в комплекте к VisualStudio должно быть.
hlp советую забыть - ибо виста без специального обновления их больше непонимает.
Справку в стиле MSDN тоже можно из html создать.