Ich würde nochmal versuchen den 11.4 RC3 komplett neu und sauber aufzusetzen, d.h auch wenn man es nicht gerne macht, mit dem "driver sweeper", nach dem De-Installieren über die Systemsteuerung und kurz vor der Installation, alle vorhandenen ATi-Display Treiber zu löschen und dann zu installieren.