Thinkbox Deadline Review

By 28/11/20163dsMax, Actualités, Blog

J’imagine que vous le connaissez tous, au moins de nom, Thinkbox Deadline: le gestionnaire de rendu ultime ! Grace aux nouvelles licences UBL j’ai fait un petit test sur ma ferme pour voir un peu comment ça tourne, et ça… m’a finalement coûté une licence ^^

Backburner + Refamo

Mon setup d’avant consistait à utiliser BackBurner et Refamo. Ces deux softs combinés permettent de lancer des rendus 3dsMax en Rendu réseau ou Distributed Rendering et d’allumer/éteindre mes nodes. Un autre aspect important est la gestion des rendus en mode économie d’énergie: les machines s’éteignent quand elles ne calculent pas (au bout de quinze minutes…)

Une question se pose alors peut-être, pourquoi aller voir ailleurs ? Il y a plein de raisons… La première c’est que Backburner n’est pas un gestionnaire complet, impossible de lancer des rendus facilement depuis d’autres logiciels, After Effects ou Nuke par exemple. Avant on pouvait passer par les dossier de contrôle (sur AE) mais ce n’est plus le cas, et lancer des rendus en .bat (même si ca marche c’est l’horreur quand une machine déconne faut tout relancer) ça me prends franchement la tête… Une autre raison est l’automatisation: déployer les logiciels (nouveaux et updates) sur toutes les machines, allumer/éteindre automatiquement les nodes quand il y a un rendu, mapper les lecteurs réseaux etc. Enfin, Backburner évoluera peut-être un jour (ou pas…) mais Refamo surement pas, la dernière version est totalement buggé et les devs ne répondent plus vraiment… Même quand tu achètes une licence pour des nodes supplémentaires faut harceler le support pour être livré… :/

Deadline Thinkbox 8

Introduction

Me voila donc en train d’installer une licence UBL à 40$ sur mes nodes et en parcourant la doc je me rends compte que Deadline est capable de tout ce qu’il me manquait et même beaucoup plus ! Au premier contact forcément il y en a partout ! L’UI est plutôt simple à comprendre mais étant donné que ce n’est pas tout à fait la même infra que Backburner il faut un petit temps d’adaptation. Deadline est composé de plusieurs composants: Balancer, Launcher, Monitor, Pulse, Slave, le Repository et une base de données (MongoDB).

Le Repository c’est un dossier (partagé sur votre réseau) qui contient tout ce qu’il faut pour que ça tourne, les nouveaux jobs y sont stockés, tout les scripts et installeurs dont vous aurez besoin pour lancer des rendus etc. c’est vraiment pensé pour une utilisation à plusieurs. Le tout est relié à une base de données qui va gérer tout ca et le relier à votre monitor.

deadline_banner_640x220_v001

Les trois composants important restants sont Slave, Monitor et Pulse: Slave, c’est un peu comme le server de backburner, il vous permets d’ajouter la machine en rendu. Pulse est une application bonus qui vous permets d’effectuer plusieurs action de maintenance à savoir: configurer les nodes automatiquement, automatiser la gestion électrique, récupérer des stats sur les machines, monter les disques réseaux avant un rendu, indispensable 😉 Pour terminer le Monitor qui lui permets de lancer l’interface de Monitoring et d’accéder à la configuration de Deadline. Finalement, toute la gestion passera par la.

Le Launcher est une app qui vous permets simplement des lancer facilement les autres logiciels présent sur chaque node. Le Balancer est un composant un peu à part puisqu’il ne travaille que sur les machines cloud. Un des (très très gros) avantage de Deadline est que vous pouvez ajouter des machines distantes à votre infra. Exit les solutions de renderfarm commerciale, grâce a Deadline vous pouvez faire grossir votre ferme avec des instances loués à l’heure chez AWS, OVH ou Google et autant vous dire que les tarifs ne sont pas du tout les mêmes que chez les loueurs de renderfarm 😉

Deadline Monitor

Vous l’aurez compris le Monitor vous permets de gérer votre ferme facilement et de suivre les rendus en cours. L’UI est totalement personnalisable, et vous pouvez aussi pré-configuré des modèles. Perso je m’en suis fait deux: un pour les nodes local uniquement puis un second pour quand j’ai besoin d’aller piocher sur AWS. Quelques screens valent mieux qu’un long discours:

monitor_job_panel


Submitter et Orchestration

C’est aussi ce qui change vraiment la donne comparé à Backburner: le fait de pouvoir calculer des rendus depuis différents softs et avec une configuration avancée. Oui je sais c’est en partie ‘faisable’ dans BB mais tellement tout sauf pratique que ca sert à rien, surtout que tout le monde n’est pas à l’aise avec le code… La c’est tout le contraire 🙂 Chaque application à un submitter dédié totalement en adéquation avec les types de rendus que vous allez lancer, perso c’est surtout pour 3dsMax et After Effects, mais la liste est vraiment longue.

Un petit exemple de scenario (vécu) possible avec Deadline pour une image et deux séquences animés (18 nodes) :

  • Je lance le rendu d’une image, avec 3dsMax et VRay : 10 nodes en DR.
  • Une node supplémentaire est consacré au pré-calcul de la GI pour un rendu d’anim.
  • Une fois ce pré-calcul terminé: allume les nodes inutilisés et lance le rendu de l’anim, les nodes qui auront terminé le rendu en DR se rajouteront automatiquement.
  • Une fois que le rendu d’anim a atteint 90%: isole une node pour la consacrer au calcul de la GI du second plan.
  • Le Plan 1 est terminé, les nodes s’éteignent en attendant le fin de la GI, sauf une qui prépare un .MOV de la sequence animé pour avoir rapidement une vidéo du rendu brut.
  • La GI est terminé les nodes s’allument, calculent.
  • Je surveille ca de près (grace à tous les mails de suivi que Deadline m’envoie) et je me dis que les rendus vont etre un peu short vu ma deadline.
  • Je lance le Balancer et ajoute un budget de 4 nodes AWS, le balancer s’occupe de créer les nodes sur AWS et montent les disques réseaux. Ma ferme a maintenant (2 minutes montre en main) 22 nodes en rendu, les nodes AWS sont 2 fois plus rapide que mes i7 du coup ca me fait comme 8 nodes en plus à puissance équivalente.
  • Il est 19h, je lances les compos des plans dans la ferme et pars du bureau, ma station se mets en rendu automatiquement.
  • Les rendus se terminent, le Balancer termine les nodes AWS, Pulse éteint tout le monde.
  • J’ai mes rendus dans les temps et avec les compos calculés, plus qu’a livrer 🙂

Pour info les nodes AWS coutent 3.67$ de l’heure hors licence. Evidemment, ma station est resté 100% libre pendant la journée donc j’ai terminé le compo de l’image, lancé le compo AE via le submitter dédié qui s’enchaîne après le Plan 2. Et faire le comp du Plan 1 qui n’est pas terminé mais grace à Deadline j’ai pu calculer une intervalle de frame suffisante pour faire mon compo et le mettre en dependancy du rendu 3dsMax pour etre sur d’avoir toutes les frames calculés au moment du rendu After Effects. Va donc faire ca avec Backburner et un .bat 😛

Vous l’aurez compris, le vrai point fort de Deadline c’est l’orchestration. Il est capable gérer une multitude de rendu avec un système de dépendances avancées (comparé à BB qui se contente d’attendre que le redu soit terminé à 100%), une optimisation des temps de rendus grace au Throttling (ne pas saturer le réseau et lancer les machines à la suite dans un ordre qu’on peux choisir) d’étendre votre ferme sur des clouds publics en deux clics, vous permettre de faire le compo avant d’avoir la totalité du rendu (moyennant une bonne préparation des passes avec des Multimatte), c’est juste le rêve !

Et oui parce-que quand tu lances une anim tu peux par exemple calculer un frame tout les 30 frames puis la séquence dans l’ordre. Comme ca tu as deja une vue d’ensemble du plan et tu repères les bugs de la fin avant de te taper 8J de rendu, et si tu t’y est bien pris tu peux attaquer le compo direct ! D’ailleurs Deadline te préviens si il y a une asset manquante sur le réseau, une node qui vrille etc. du coup les rendus sont beaucoup moins soumis aux erreurs, enfin… plus à cause de nodes 😉

Cloud et Auto-Configuration

Une petit mot sur le Balancer (VMX). Vous l’aurez compris c’est lui qui permets de lancer des nodes dans le cloud automatiquement. Evidemment ca se fait pas tout seul, il faudra d’abord créer une image faite pour Deadline. Ensuite rendre vos données accessibles aux nodes, comme en local il faudra monter les disques réseaux etc. et enfin obtenir des licences.

L’image est assez simple à créer, c’est comme en local à la différence qu’il faut rajouter un sysprep ou équivalent (ca dépends du provider) pour que chaque machine soit bien unique à son lancement.

balancer_preview

Pour les données c’est plus délicat, il y a deux solutions: copier les datas directement sur chaque node (ou sur une qui fera office de NAS hébergé chez le meme provider mais sera en réseau local avec vos nodes) ou donner un accès direct à votre réseau via internet. D’experience, il vaux mieux prendre le temps de copier les données pour les scènes conséquentes. J’ai inauguré Deadline avec une prod qui demandait beaucoup d’assets (4Go de proxies et le triple en texture animée), même si j’ai la fibre le temps de transfert sur le réseau est hyper long. Du coup: j’ai pris une instance pas cher chez AWS, monter un disque EBS et synchro mes datas local/cloud avec SyncBack Pro. Ce qui d’ailleurs me permets de vous présenter : les régions.

Les régions vous permettent de tag vos instances, admettons par exemple que je tag: bureau / cloud / ext. Grace à l’auto-configuration je peux les reconnaitre automatiquement (par le nom ou l’ip local), leur assigner des paramètres qui leur sont propres et aussi les mettre à jour, installer des plugins etc. via Execute Command.
Bureau c’est mes nodes physiques: monter le disque réseau D: sour la forme \\GServer\dossier et utiliser une licence obtenu via @GServer.
Cloud c’est les nodes AWS: monter D: sur \\AWS\dossier et utiliser une licence UBL
Ext: c’est votre deuxième bureau, le PC de la maison, la station d’un freelance qui vous accompagne sur une prod, un pote qui a aussi Deadline etc.  a qui vous pouvez assigner une config encore différente pour qu’il puisse se joindre au rendu quand il ne travaille pas sur sa station.

auto_config_tab_example

J’ai pu tester AWS et OVH pour le moment. OVH est un peu moins cher mais nettement moins performant. Les nodes mettent parfois plus de 20min pour se créer (quand elles se créent sans planter) et les perfs du réseau local sont aléatoires. AWS est plus cher (c3x8Large) mais par contre ca marche tout seul: tu as ta node en deux min chrono et le réseau est a bloc tout le temps. Prochaine prod sur Google Compute qui a le mérite de sync les données via Google Drive, ce qui m’arrange grâce à Google Apps et l’espace illimité… vont pas etre décu ^^

Franchement magique… d’expérience les renderfarm publics (type Rebus ou Ranch pour ne citer qu’eux) ont quatres problèmes majeurs:
. la file d’attente qu’on ne connait pas à l’avance et même si on paye plus (comme tout le monde) on fait la queue…
. la compatibilité avec nos scènes: versions, plugins, scripts etc. Je ne l’ai utilisé qu’une fois en anim et (sur des scènes légères) ca a planté tout Rebus, les gars ont eu la gentillesse de pas facturer mais en plus de faire chier tout le monde en bloquant la file d’attente j’ai pas eu mes rendus à temps…
. le réseau est ultra-lent. Sur cette même prod j’ai lancé en parallèle sur mes 4 nodes de l’époque: 4J de rendu en local – 1h sur Rebus mais 5J pour récup mes EXR…
. le prix: sérieux c’est hyper cher leur truc!!! Avant d’attaquer la prod j’ai fait quelques devis (6000f@2h sur un 5960X = 15996,39€HT) c’est plus cher que mes 18 nodes + licence VRay et Deadline :O

Bref, mauvaise expérience et surtout un coût hyper élevé comparé à l’achat de machine/licence surtout quand on s’en sert beaucoup, et c’est la que Deadline réussit à réunir les deux mondes: augmenter votre capacité de rendu tout en restant sur une infra privé avec un réseau dédié qui s’amortit rapidement.

Si vous utilisez une renderfarm public régulièrement, même pour de l’image fixe, des services de rendus: prenez une licence Deadline et servez-vous du cloud public pour lancer vos rendus. Ce sera beaucoup moins cher et nettement plus efficace !

Deadline a d’ailleurs un mode gratuit pour deux machines, si c’est votre cas foncez ! Vous ne pourrez pas profiter du Balancer mais si vous vous sentez de gérer AWS à la main vous pouvez vous monter une mini ferme de deux nodes + un Monitor dans le cloud et lancer dessus directement depuis votre 3dsMax 😉

Verdict

Vous l’avez compris, je suis tombé in love et j’ai acheté une licence. Depuis quelques années je ne fais presque que du film donc la gestion des rendus est une partie importante de mes journées (les nuits aussi ^^) et je regrette vraiment de ne pas avoir investit plus tot, même au temps ou je ne faisais que de l’image.

Pour être tout a fait honnête il m’a fallut un peu de temps avant de réussir à tout mettre en place, l’essai de 1 mois m’a montré que j’étais finalement à l’aise avec tout (local, cloud etc.) au bout d’une dizaine de jours et que configurer le tout pour qu’il colle parfaitement à vos contraintes/envies demande un peu de temps. Ensuite je me suis plus occupé de grand chose j’ai juste bossé la tête dans le guidon, et je me voyais surtout pas revenir en arrière. Deadline n’est pas juste un luxe, c’est un outil qui vous permets d’améliorer votre workflow en passant plus de temps à bosser et moins de temps a surveiller les rendus.

Certes ça coûte un certain prix mais le temps économisé à gérer les machines, le fait de pouvoir calculer des rendus sur plusieurs plateformes en même temps, et faire grandir la ferme en quelques clics sur AWS font qu’il mérite largement sont prix. Je pense très sincèrement que je n’aurais jamais livré ma dernière prod dans les temps sans Deadline: 15 jours de moins que prévu et des plans supplémentaires, sans le petit coup de pouce AWS et les compo qui se calculent sur toutes les machines (soit 18x plus rapidement) impossible !

Thinkbox Software / Demander une démo

Je tiens à préciser que cet article n’est PAS sponsorisé et que l’éditeur n’a pas été informé de sa publication.

Join the discussion 10 Comments

  • Mat dit :

    Hello,
    Pour optimiser les coûts tu peux également utiliser les instances c4.8x en spot request (système d ‘enchères )qui peut te permettre d’avoir des prix jusqu a -80% par rapport aux instances on demand.
    Par contre les spots request ne sont pas gérées par le balancer de thinkbox pour le moment, et il faut demander a thinkbox le plug pour les rajouter dans le monitor.
    Nous avons réussi a avoir des C4.8xlarge (32vCPU) à 0,34$/h (sur linux,et sans location à la minute de licence).

  • Matt dit :

    +1 – sans le balancer en mode spot requests les c3 sont mieux niveau tarif/perf mais avec effectivement c’est sans appel. Il y a aussi un soucis avec les spots sous Deadline c’est que le Balancer ne fontcionne pas automatiquement mais uniquement manuellement: Note that this experimental plugin is NOT supported by the Deadline Balancer. It should only be used to start and stop SPOT instances from the Cloud panel in the Deadline Monitor.

  • Salut Matt, toujours complet.
    De mon côté j’utilise les services de Ranch Computing, dont je suis très content.
    Plugins à jour, maintenance à l’écoute, ensuite le point noir c’est ma connexion, comme toi, le rendu se fait très vite, mais je mets du temps à récupérer les EXR.
    Une de mes dernières prod faite en calcul chez eux: https://www.youtube.com/watch?v=4oL5GWJbO4I
    Du coup je me demandais si ça ne poserait pas un problème d’utiliser la solution que tu préconises avec une connexion moyenne.
    Merci d’avoir partagé ça avec nous.
    Pierre

  • Matt dit :

    Perso le problème c’est pas ma mais leur connexion 😉 J’ai la fibre à 950/450Mbps ^^ Et pour répondre à ta question en passant par EC2 tu as une connexion dédié qui tourne uniquement pour toi donc oui largement, surtout que tu pourras utiliser un système genre SyncBack qui va synchroniser progressivement assets et rendus et niveau tarif ce sera le jour et la nuit 🙂

  • Gil dit :

    Merci pour le dossier Matt :).

    J’avais déjà regarder le logiciel mais ça m’avait toujours semblé excessivement cher mais ça dépend de la taille des prods évidemment.
    Quand tu regardes les prix, est-ce que le fait de prendre des licences UBL revient effectivement moins cher ou tu penses prendre quand même quelques licences perpétuelles avec des UBL pour le cloud ?
    Vu le nombre de machines que l’on peut lancer j’imagine que les heures partent vite… Surtout que finalement, plus tes machines sont lentes, plus tu paies chez eux :p.

  • Matt dit :

    Du coup j’ai pris perpet pour les nodes en local (j’ai calculé vite fait ca coûterait beaucoup plus cher à l’année) et UBL pour les instances Cloud. Sachant que tu peux aussi utiliser les perpet pour les instances Cloud et ne pas utiliser les locals.

    Mon autre limite étant les licences VRay (que tu peux aussi louer en UBL d’ailleurs) sur des plans urgents j’ai basculé en 100% AWS pour économiser sur les lic et sortir le plan dans les temps. Franchement c’est un investissement mais plus je m’en sers moi ns je regrette 🙂

    Tu peux demander un mois de test, sachant qu’il limite à 10RN par defaut mais ils l’augmentent sur simple demande.

  • Tanooki dit :

    Merci énormément pour cet article vraiment complet et précis. J’avais deja essaye il y a 2-3 ans mais sur le coup, comme je suis trop habitue a backburner, je n’ai pas ose approfondir et sur le coup je l’ai trouve assez technique pour lancer tous les rendus. Mais vu les possibilites, au final ca me semble logique.
    Et surtout comme tu le précise, rajouter des nodes me semble vraiment un tres bon choix economique ( j’utilisais rebus farm en cas de rush mais c etait le client qui facturais donc…)
    J’ai actuellement 5 (vieux) nodes ici, et je passe pas mal de temps a surveiller les rendus, lancer les fichiers .bat pour after effects avec le gestionnaire de taches toujours ouvert pour checker la memoire et occupation CPU.

    Bref merci beaucoup !

  • Matt dit :

    Hello, un peu pareil il m’a fallu pas mal de temps pour me lancer dans un ‘vrai’ test. Aussi habitué à B.B. et au .bat le lancement est un peu déroutant mais une fois l’appréhension passée et les premières habitudes prises c’est un régal 🙂

  • zules dit :

    Qu’est ce que UBL svp ?
    Par ailleurs, pourrais-tu donner le prix des différentes licences car c’est seulement sur demande sur le store… :/

    Merci, super article ! Moi qui commence un réseau de nodes locaux sous peu, je pense migrer directement sur cette solution et squizzer BB qui semble hors d’âge 😉

  • Matt dit :

    Usage Based Licence > Location à la demande.
    195$ par node et c’est ici > http://www.thinkboxsoftware.com/product-pricing/

Leave a Reply