
Hast du bei den Einstellungen den Button für Optimal Konfiguration schon probiert?
Und check deine Anti Aliasing Einstellungen in der Nvidia Systemsteuerung. Wenn du die Spieleinstellungen überschreibst und im Treiber z.B. 8x angegeben hast dürfte das vermutlich etwas zu heftig für deine Grafikkarte sein. Ich würde bei einer 7800GT sagen das 2x vielleicht 4x gehen.
Außerdem übertreibst nicht mit dem anisotropen Filter. Bei einer 7800 GT würde ich spätestens bei 8x den Hahn zudrehen. Damit überstrapazierst du schnell deine Speicherbandbreite.