Установка аттрибута скрытого файла осуществляется в помощью файла Windows C:\WINDOWS\System32\ATTRIB.EXE (если Windows установлена в другом месте - этот путь придется поменять). Данный способ проверен и точно работает на 32 битной Windows XP, в других версиях Windows, возможно придется изменить путь к файлу ATTRIB.EXE.
Пример:
File file = new File("Example.txt");
file.createNewFile();
String command = "C:\\WINDOWS\\System32\\ATTRIB.EXE +H Example.txt";
Runtime.getRuntime().exec(command);