Периодически при разных комбинациях версий VirtualBox и Java в Windows guest проявляется проблема: Java-приложения, использующие GUI (AWT), при старте начинают жрать около 100% CPU и ничего не рисуют. Проблема как-то связана с поддержкой Direct3D в VirtualBox. Кроме полного отказа от Direct3D в Windows guest (установка guest additions без поддержки Direct3D) есть ещё workaround: отключить использование функций Direct3D в Java AWT. Для этого достаточно создать переменную окружения (environment) J2D_D3D=false. Можно глобально в свойствах системного или пользовательского профиля, можно выставлять непосредственно перед запуском Java или браузера, если Java-апплет стартует из браузера.
У меня сейчас есть две инсталляции VirtualBox 4.2.12 (OSE), в каждой Windows XP с DirectX 9.0c и Guest Additions и Java 7 Update 25, на одной Java работает нормально, на второй "виснет" при старте, но при использовании J2D_D3D=false виснуть перестаёт.
Источник: https://www.virtualbox.org/ticket/6873