Galera, fucei no xorg.conf até chegar no que eu considero ótimo.
Instalar o aixgl e o beryl é moleza, mas muita gente se enrola na hora do xorg.conf.
Então resolvi postar essa dica de configuração do aixgl.
Section "Device" # (sw_cursor is needed for some ati and ati cards)
#Option "sw_cursor"
#Option "hw_cursor"
#Option "NoAccel"
#Option "ShowCache"
#Option "ShadowFB"
#Option "UseFBDev"
#Option "Rotate"
Option "XAANoOffscreenPixmaps" "true"
Option "NvAGP" "1" # agp o ideal é usar 2 , acelera no máximo = agp 8x
Identifier "Card0"
# The following line is auto-generated by KNOPPIX mkxf86config
# Aqui vai o driver usado pela placa de vídeo. Os drivers disponíveis não:
# chips, cirrus, cyrix, fbdev, glint, i740, i810, mga, neomagic, nv
# r128, ati, rendition, s3virge, sis, tdfx, tga, trident, tseng, vesa, vga
#
# O vesa é um driver genérico que funciona na maioria das placas de vídeo
# O fbdev é outro drivers genérico que aproveita o recurso de acesso direto à memória
# de vídeo suportado pelo Kernel. Se você vê o pinguim durante o boot em texto do sistema,
# significa que a sua placa suporta o fbdev.
Driver "nvidia"
VendorName "Nvidia"
BoardName "NVIDIA FX5700LE"
BusID "PCI:1:0:0"
Option "Coolbits" "1" # isso habilita overclock no nvidia setings
Option "NoLogo" "0" # abilita =0 desabilita =1 logon da nvidia
#Option "TwinView" "TRUE" # Detecta qual módulo da placa está habilitado no kernel
#Option "TwinViewOrientation" "Clone" # Mostra exatamente o que é exibido no monitor na TV
#Option "SecondMonitorHorizSync" "31-50" # Frequência
#Option "SecondMonitorVertRefresh" "60"
#Option "MetaModes" "1280x1024,640x480" # Padrões de resolução para o Monitor e TV, respectivamente.
#Option "TVStandard" "PAL-M" # Sistema de vídeo padrão no Brasil
#Option "TVOutFormat" "SVIDEO" # Formato de saída do vídeo
#Option "ConnectedMonitor" "CRT,TV" # Mostra o vídeo tanto no monitor como na TV
Option "ConnectedMonitor" "CRT" # uso devido bug na nvidia
Option "IgnoreDevice" "TV" # desabilitei devido bug nvidia
# fundamentais para o aixgl funcionar
Option "RenderAccel" "true" # para placas nvidia
Option "backingstore" "true" # placas nvidia and Ati
Option "AllowGLXWithComposite" "true"
EndSection
Section "Extensions"
Option "Composite" "Enable"
EndSection
É isso aí, espero que isso ajude.