Pokud používáte Windows, systémové proměnné mají být použity jako %COHERENCE_HOME% , a nikoli COHERENCE_HOME .
tj. Váš příkaz by měl vypadat takto java -cp %COHERENCE_HOME%\config;%COHERENCE_HOME%\lib\coherence.jar com.tangosol.net.DefaultCacheServer
Zkontrolujte také, zda com.tangosol.net.DefaultCacheServer třída je na cestě třídy.