Existují některé moduly plug-in modální formy, jako je toto na Apex-Plugin.com . Sám jsem je nepoužil, takže za ně nemohu ručit.
Případně použijte funkci "Zobrazit zdroj" vašeho prohlížeče na stránce Apex, která se vám líbí, a uvidíte všechny definice funkcí a jejich volání. Zdá se, že používá pouze standardní knihovny JQuery, které se dodávají s Apex 4.0
Aktualizace 4. 10. 2011:
Nedávno jsem použil toto modul plug-in pro modální stránku a může doporučit. Existuje spousta instrukcí, včetně půlhodinového videa na YouTube, které ukazuje, jak to používat.