Über VGA sollte man ein TFT eigentlich niemals betreiben. Das gibt immer nur schlechte Ergebnisse.
VGA stammt aus der Zeit der analogen Röhrenmonitore. Das im Computer eigentlich digitale Bild wird auf der Grafikkarte in ein analoges Signal umgewandelt. Damit konnte dann direkt der Elektronenstrahl im Röhrenmonitor angesteuert werden. Es gab da keine konkrete Zuordnung eines Pixels auf dem Bildschirm zu dem im Computer. Deshalb konnte/musste man auch die Größe des Bildes, seine Lage, Kissen- und Trapezverzerrung etc. einstellen.
Mit Aufkommen der TFTs (vor über 10 Jahren!) hat sich das völlig geändert. Ein TFT hat konkrete Pixel, die direkt und einzeln vom Monitor angesteuert werden. Das optimalste Bild bekommt man daher, wenn die Pixelauflösung im Computer exakt der auf dem Bildschirm entspricht. Denn dann kann die Information, wie ein Pixel aktuell aussieht 1:1 direkt an den Bildschirm durchgereicht und dieser entsprechend angesteuert werden. So erhält man das schärfste und beste Bild. Dazu wurden zu dieser Zeit (vor über 10 Jahren!) digitale Schnittstellen (damals DVI, heute HDMI und besser noch DisplayPort) eingeführt. Apple hat direkt mit Erscheinen der TFTs in der Produktpalette diese auch digital angesteuert. Alles andere ist auch Murks.
Leider gab es in der PC-Welt aber zu der Zeit fast keine Rechner mit digitalen Anschlüssen und entsprechende Grafikkarten waren teuer und selten. So gingen die Hersteller der TFTs dazu über, neben dem Digital-Anschluss auch einen VGA-Anschluss einzubauen. Einige (die billigsten Modelle) gingen sogar soweit den Digitalanschluss wegzulassen. Im Gegenzug sahen sich die Grafikkartenhersteller genötigt, auch in der folgenden Zeit immer noch einen VGA-Anschluss anzubieten, bis heute.
Ein TFT über VGA zu betreiben bedeutet, dass die digitale Information der Pixel im Computer in ein analoges Signal umgewandelt wird und der Monitor aus diesem analogen Signal dann digitale Informationen extrahieren muss. Daher kann man selbst auf TFTs für die analogen Signale meist noch die Größe und Lage manuell einstellen, wenn die Automatik versagt. Durch diese Umwandlung kommt es automatisch zu einer Verschlechterung der Bildqualität. Und für so hohe Auflösungen wie man sie heute betreibt ist VGA überhaupt nicht ausgelegt, d.h. die Verschlechterung nimmt mit der Auflösung noch weiter zu.
Weiteres Problem ist es oft, dass wegen der mangelnden Wichtigkeit von VGA heutzutage die Analogwandler auf der Grafikkarte recht schlecht sind und sowieso schon ein schlechtes Ergebnis produzieren.
Lange Rede, kurzer Sinn:
Benutze zunächst einmal DVI, DisplayPort oder HDMI, je nachdem welchen Anschluss der Monitor und Grafikkarte haben. Danach lohnt es sich oft noch in den Einstellungen des Monitors nachzuschauen und "Optimierungen" abzuschalten.