Bon.... Encore une fois, j'ai trouvé moi même la solution... c'est étrange, je bloque 2 heures sur le problème, je pose ma question, et après paf j'ai toujours la bonne idée.
En réalité les espèces de bug graphiques du au changement de fréquence viennent uniquement du changement de fréquence de la mémoire (et non du coeur). J'avais remarqué ça avec MSI Afterburner, modifier la mémoire faisait "sauter" le second écran, alors que le coeur non. Alors j'ai simplement modifié toute les fréquences de la 5850 en mettant sa mémoire à 1250Mhz, il n'y a donc plus que le coeur qui passe de 400MHz à 900MHz en mode 3D, ce qui ne cause plus de sautillement de l'écran. J'ai également remarqué que la carte arrêtait de "jouer" avec les fréquences (passer par exemple en mod 3D pour une vidéo youtube), ce qui est bien mieux.
Le seul prix à payer est que j'ai gagné 3 ou 4°C en Idle, ce qui reste largement raisonable.
Vivement un cross de 5850 @ 900/1250 :'D
Bon étant donné que mon problème est résolu, le premier qui dit quelque chose à droit à être le meilleur message xD