CUDA d’un point de vue matériel
Fidèle lecteur de Tom’s Hardware, l’architecture des derniers GPU de NVIDIA n’a plus aucun secret pour vous, si ce n’est pas le cas courrez vite rattraper ce manque. Avec CUDA, NVIDIA présente son architecture d’une façon légèrement différente et expose certains détails qu’il n’était pas utile de dévoiler jusqu’à présent.
Comme vous pouvez le constater ci-dessus, le Shader Core de NVIDIA est composé de plusieurs clusters que NVIDIA nomme Texture Processor Cluster. Une 8800GTX est composée par exemple de 8 clusters, une 8800GTS de 6 et ainsi de suite. Chaque cluster regroupe en fait une unité de texture et deux streaming multiprocessors. Ces processeurs sont composés d’un front-end de lecture/décodage et lancement des instructions et d’un back-end composé d’un ensemble de 8 unités de calcul et de 2 unités spéciales, au niveau desquels les instructions sont exécutées de façon SIMD : la même instruction est appliquée à tous les threads du warp. NVIDIA baptise ce mode d’exécution SIMT pour Single Instruction Multiple Threads. Il est important de signaler que le back-end fonctionne à une fréquence double de celle du front-end.
En pratique la partie qui exécute les instructions apparaît donc deux fois « plus large » qu’elle ne l’est (c’est-à-dire comme une unité SIMD 16 voies au lieu de 8 voies). Le mode de fonctionnement des streaming multiprocessors est le suivant : à chaque cycle un warp prêt à être exécuté est sélectionné par le front-end, qui lance l’exécution d’une instruction. Pour appliquer l’instruction à l’ensemble des 32 threads du warp le back-end mettra quatre cycles mais comme il fonctionne à une fréquence double du front-end, il ne se sera exécuté que deux cycles de son point de vue. Pour éviter que le front-end ne reste inutilisé un cycle et maximiser l’utilisation du hardware l’idéal est donc d’alterner les types d’instructions tous les cycles : un cycle une instruction classique et l’autre une instruction de type SFU.
Chaque multiprocesseur dispose également d’un certain nombre de ressources qu’il est utile de connaître afin de les utiliser au mieux. Ainsi ils sont équipés d’une petite zone mémoire appelée Shared Memory d’une taille de 16 Ko par multiprocesseur. Cette mémoire n’est pas une mémoire cache : sa gestion est entièrement à la charge du programmeur. En cela elle se rapproche de la Local Store des SPU du Cell. Cette spécificité est particulièrement intéressante et traduit le fait que CUDA est bien un ensemble de technologies logicielles et matérielles. En effet cette zone mémoire n’est pas utilisée dans le cas des pixels shaders, comme le précise NVIDIA avec humour « nous n’apprécions pas que les pixels parlent les uns avec les autres ».
- Business,
- Carte graphique,
- Developpement,
- CUDA ,
- CPU ,
- GPU
ce qui permettrait effectivement de faire bondir le nombre d'applications se servant du GPU, ça serait un SDK qui prenne en charge les NVidia ET les ATI !
Quelqu'un pourrait m'expliquer ce qu'on veut dire par "parallèle"??
plusieurs tâche simultannée
Vikk > Lire par exemple http://www.presence-pc.com/tests/D [...] ium-D-300/ . Il s'agit de l'exécution concurrente (simultannée) de plusieurs tâches d'une application ou plusieurs applications par le processeur, plutôt que de ne disposer que d'une seule unité d'exécution.
Après les CPU et les GPU, on va voir apparaitre les APU grâce à Creative
oui ça existe depuis 30 ans les DSP, n'importe quel multieffet de gratteux en intègre un...
Après les CPU et les GPU, on va voir apparaitre les APU grâce à Creative![[:matleflou]](http://img.infos-du-net.com/forum/images/perso/matleflou.gif)
![[:vendredi]](http://img.infos-du-net.com/forum/images/perso/vendredi.gif)
à signaler qu'il existe aussi Brook+ chez AMD qui fait exactement la même chose que cuda, mais dont on parle moins, pourtant il est utilisé dans folding@home...
oui ça existe depuis 30 ans les DSP, n'importe quel multieffet de gratteux en intègre un...
NVIDIA veut qu'on utilise ses puces graphiques pour faire autre chose que de la 3D, hein.
D'où la "blague" (pffff) de l'APU pour faire autre chose que du son.
C'est dingue, quand on doit expliquer un trait d'humour ça perd tout son charme
Fedy s'est encore déchiré
Très bon article, merci.
Maintenant hypothèse: Si CUDA s'impose en tant que tel sur le marché, est ce que ça veut dire que AMD doit racheter les licences pour cette technologies et l'intégré à leur carte? Et déjà est ce que c'est possible???
En fait de ce que je comprend c'est que les cartes graphiques joueront un plus grand rôle dans nos applications quotidienne (travail, application etc...) Donc si CUDA s'impose j'imagine que les intégrateurs préférerons se système et privilégierons donc des cartes Nvidia. D'ailleurs on le voie bien avec Apple qui commence à si intéressé de prêt.
Comme dis se n'est qu'une hypothèse mais sa pourrait être aussi AMD, intel, ou encore comme dis dans l'article Microsoft...
Si c'est microsoft, c'est l'horreur ! Comme pour le directX, cela veut dire rien pour Apple, Linux et les *BSD !
Je crois que Nvidia devrait s'entendre avec AMD pour rendre leur api compatible et éviter une guerre où les développeurs seraient perdant et MS gagnant.
Fedy, bravo pour cet article que je vais lire en détail dès que j'en ai le temps !
+1
excellent article , qui montre de belles perspectives dans le futur
et qui m'a fait apprendre pas mal sur l'architecture des gpu
bravo !!
et pour amd,j'etais meme pas sur qu'ils aient deja sorti un tel truc,c'est beaucoup moins mediatisé que cuda,peut etre parce que c'est moins efficace ?
Merci pour les commentaires sur l'article ça fait plaisir
Concernant une implémentation par AMD de CUDA : outre les problèmes "juridiques" il y aurait quand même de sacrés défis techniques pour les ingénieurs d'AMD. CUDA a beau être de haut niveau, l'API donne beaucoup de détails sur le fonctionnement du GPU or les implémentations d'AMD et de NVIDIA sont extrêmement différentes. Par exemple un des problèmes serait la Shared Memory. AMD ne dispose pas d'une mémoire similaire sur ses puces, qui reposent plutôt sur des caches plus importants. Reproduire le comportement exactement de la même façon que NVIDIA pour que les implémentations soient compatibles me semblerait vraiment compliqué et même s'ils y parvenaient ça serait sans doute pas la meilleure façon de tirer parti de leurs GPU.
C'est d'ailleurs un souci aussi pour NVIDIA à l'avenir, je ne l'ai pas soulevé dans l'article mais CUDA force NVIDIA à ne pas trop s'éloigner de l'architecture introduite par le G80. Ils peuvent changer certaines choses comme le nombre de registres, le nombre de warps par SM ou ajouter des instructions (ils l'ont déjà fait sur le G84/G92), mais s'ils ne veulent pas briser la compatibilité des applications déjà écrites ils doivent respecter un certain schéma. Alors pour le moment ce n'est pas gênant car cette architecture est très efficace mais à terme est ce que ça ne sera pas pénalisant ?
merci pour la réponse^^,je me demandais également :
je lis sur certains sites que la puissance theorique du RV770 serait superieure à celle des GTX2x0 , donc meme si ils sont moins efficaces dans les jeux du fait de leur architecture, ils devraient être plus efficaces en GPGPU ?
et si le CUDA l'emporte, ne serait-il pas possible que ATI/AMD et µsoft prennent part au projet, financièrement, pour améliorer le système ? et qu'il soit portable sur tous les matériels
ça serait certainement possible : le mieux serait que directx le gère nativement comme ça la couche d'abstraction serait déjà faite
Et pour amd,j'etais meme pas sur qu'ils aient deja sorti un tel truc,c'est beaucoup moins mediatisé que cuda,peut etre parce que c'est moins efficace ?
Chez ATI, l'équivalant de CUDA, c'est CTM.
ça serait certainement possible : le mieux serait que directx le gère nativement comme ça la couche d'abstraction serait déjà faite
le mieux searit que opengl le gère directement
merci pour la réponse^^,je me demandais également :
je lis sur certains sites que la puissance theorique du RV770 serait superieure à celle des GTX2x0 , donc meme si ils sont moins efficaces dans les jeux du fait de leur architecture, ils devraient être plus efficaces en GPGPU ?
On va attendre d'en savoir plus sur les cartes avant de faire ce type de jugements
De toute façon la performance de crête n'est qu'un facteur pour différencier deux architectures, et c'est rarement le plus pertinent. L'archiecture AMD repose sur des unités VLIW, qui demandent plus d'effort au niveau du compilateur pour en tirer parti. Il y a aussi comme on l'a vu des données comme la présence de shared memory qui peut jouer énormément sur les performances dans certains algos. Bref on ne peut pas juger comme ça sur des specs non officieles. Mais en tout cas AMD prend au sérieux le GPGPU aussi.
Chez ATI, l'équivalant de CUDA, c'est CTM.
Pas vraiment... CTM est beaucoup plus bas niveau et c'est pas tout à fait la même chose. Au dessus de CTM tu as CAL (Compute Abstraction Layer) qui encapsule déjà les appels CTM dans quelque chose de moins spécifique à une famille de GPU donnée. Et enfin au niveau du programmeur "lambda" tu trouves Brook+ pour créer tes kernel et les gérer à plus haut niveau. L'ensemble de tout ça et de quelques bibliothèques forment le Stream SDK qui se rapproche plus de CUDA.
le mieux searit que opengl le gère directement
Que Khronos nous sorte déjà OpenGL 3
Et puis GL = Graphics Library donc ça n'aurait pas sa place là mais par contre Khronos pourrais proposer un OpenCL : Open Compute Library ou OpenSL Open Stream Library
Que Khronos nous sorte déjà OpenGL 3
Et puis GL = Graphics Library donc ça n'aurait pas sa place là mais par contre Khronos pourrais proposer un OpenCL : Open Compute Library ou OpenSL Open Stream Library
C'était plus lié à la remarquer sur directX qu'a une réelle demande. Je suis d'accord qu'il faudrait surtotu une autre lib haut niveau, opengl ne faisant pas la même chose.
Mince j'arrive trop tard : http://www.apple.com/pr/library/20 [...] opard.html
Apple a déjà proposé OpenCL : Open Computing Language
ATi = CTM -> CAL -> ACML + APL + Cobra + Brook+
Selon les rumeurs actuelles:
8800GTX = 518 GFLOPs
9800GTX = 648 GFLOPs
GTX 260 = 708 GFLOPs
GTX 280 = 933 GFLOPs
HD 4850 = 1000 GFLOPs
HD 4870 = 1200 GFLOPS
4870-X2 = 2400 GFLOPS
Donc, nVidia a un peu d'avance avec son CUDA, mais il n'a clairement pas la puissance de calcul des GPU d'ATi.
CUDA va être une véritable révolution pour les gros calculs massifs pouvant être bien parallélisés, comme:
- le rendu d'images 3D (avec Raytracing, Réfraction, Global Illumination et j'en passe, pour l'instant tout cela est calculé par le CPU, et ça prend booooooocoup de temps !)
- la retouche d'images en haute résolution (Adobe a déjà annoncé que le prochain Photoshop sera vitaminé à la sauce Cuda)
- l'édition de vidéos: imaginez jouer avec AfterEffect en empilant des effets complexes, et pouvoir admirer le résultat en temps réel :-)
- et surtout l'encodage de vidéos, HD ou résolution standard... Bientôt, encoder un film en Divx ne prendra plus que 5 min :-)...
Article de grande qualité que j'ai suivi avec intérêt alors que je suis totalement profane (oui un peu largué parfois, c'est normal). :-D
Bravo à son auteur et merci!
Une question me vient toutefois à l'esprit: nVidia arrive avec un GPU "x2", AMD/ATI ne va pas tarder non plus. Arrive-t-on aussi à un virage dans le monde du GPU, comme il en a été question pour les CPU's?
Très bon article, merci.
Juste une remarque ... le titre est purement absurde.
En fait le GPU permet d'accelerer l'execution des parties les plus faciles a paralleliser dans un programme et encore seulement dans le cas ou aucune dependance de donnees existe (data parallel ou doall). Par contre il restera toujours une partie sequentielle en raison de laquelle, d'apres la loi d'Amdahl, on aura un speedup borne. Sans un CPU qui ait un bon ILP et un branch predictor raisonable ca marche simplement pas ...
Le titre ne fait que poser une question qui a d'ailleurs été évoquée par le marketing de nVidia directement.
Le nombre de bloc actif ne doit pas dépasser 8, est-ce vrai pour toutes les cartes? Je dispose d'un 450 GTS avec 4 multiprocesseurs. Comment se présente l'architecture de ma carte ? Combien de bloc et de thread par multiprocesseur ? Je sais qu'on est limité à 1024 threads par bloc et 65535 blocs par dimension dans une grid lorsqu'on veut coder pour le GPU mais comment se présente cette architecture par multiprocesseur ? Comment peut on connaitre le nombre de warp actif pour une carte ?