Rêve de virtualisation ZFS

[decliq]

Bonjour à tous,

Passionné de culture informatique, depuis quelques temps j'essaie d'assouvir ce hobby en imaginant une machine de virtualisation originale.

Cependant je ne sais pas jusqu'à quel point mon rêve est réaliste.

Pour base j'assemblerai une machine :

• - CPU Intel avec au minimum 4 cores 8 threads
• - 32 Go mémoire (ECC ?)
• - SSD mini 120 Go
• - 3 Disques durs mini 500 Go
• - 1 carte graphique AMD
• - 1 carte graphique NVidia
• - Éventuellement un disque dur mini 1 To pour les sauvegardes

Ensuite sur le SSD j'installerai :

• - Vmware vSphere Hypervisor (ESXi) (Version gratuite limitée à 32 G0 et 8 cores)
• - FreeNAS avec ZFS (objectif gérer les 3 disques en RaidZ1) ceci dans une machine virtuelle
• - Au minimum trois systèmes d'exploitation : Unbuntu - MacOS - Windows 10

Tous les disques de ces machines virtuelles seront des .wmdk sur le NAS ZFS (intérêt des snapshots pour sauvegardes)

Notez que ce que j'espère c'est de n'avoir qu'une unique machine physique, sauf peut-être lors de son installation.

Bon voilà ou j'en suis dans ma réflexion. Il me reste à ce stade encore pas mal d'inconnus.

Merci de faire part de vos remarques et suggestions.

[refuznik]

Bon bah déja tu peux laisser tomber intel et plutôt prendre de l'amd qui est sur le trone depuis maintenant 2 ans.

Pour de la virtualisation je t'orienterais plutôt sur la gamme threadripper ou epic https://www.inpact-hardware.com/article/1442/amd-devoile-sa-nouvelle-gamme-epyc-modele-7742-64-curs-a-6-950-dollars-seulement

Tu n'as pas parlé de la carte mère ?

Les 2 cartes graphiques différentes tu ne pourras pas les gérer donc tu dois choisir soit nvidia, soit amd.

[decliq]

Tu ne connais vraisemblablement pas MacOS, pour le faire fonctionner avec AMD il faut pas mal bricoler...

Les deux produits que tu sites me sont inconnus, je vais regarder, mais s’ils n’acceptent pas les deux cartes graphiques de marques différentes je les écarte d’emblée.

Avant de choisir tout le matériel je veux connaître en profondeur la faisabilité du projet. Il est encore un certain nombre de points qui ne me sont pas clair, d’où ce sujet.

Note bien aussi que c’est une machine que je veux faire pas un serveur. 😉

[decliq]

Je croyais que @refuznik parlait de logiciels, mais en fait ce sont des processeurs qui conviennent parfaitement à des serveurs...

Et comme je l'ai écrit plus haut les processeurs AMD ne conviennent malheureusement pas à mon projet.

A ma connaissance il n'existe pas de système de virtualisation émulant les processeurs ?

Le seul émulateur de processeur de PC que je connaisse est celui qu'Apple avait intégré dans son système d'exploitation pour émuler le PowerPC avec les CPU Intel.

Une des raisons qui m'ont amené ici : https://www.nextinpact.com/news/107338-vmware-vsphere-hypervisor-6-x-esxi-virtualisation-simple-et-gratuite-pour-serveur.htm

[refuznik]

Bon désolé si ça te choque mais je crois que tu ne connais rien aux PC ni à la virtualisation.

Le seul truc que l'on demande au processeur c'est d'avoir des instructions de virtualisations ce que fait intel et amd.

C'est ton logiciel de virtualisation qui fait tout le boulot, en gros que tu es un proc. amd ou intel on s'en fout, ce qui est intéressant c'est la puissance de celui-ci et le nombre de coeurs.

D'ailleurs en parlant de logiciel de  virtualisation, il faut savoir que tu ne pourras jamais exploiter toutes les spécificités de ton architecture matériel.

Par exemple si tu as une superbe carte graphique tu ne pourras jamais l'exploiter à fond du fait que ton logiciel de virtualisation (quel qu'il soit, gratuit comme payant).

Par exemple l'accélération graphique (de base), on l'a eu il y a seulement quelques années et tu peux utiliser du intel, du nvidia ou de l'amd c'est pareils. alors pour la 3D poussée c'est la croix et la bannière.

Après tu peux virtualiser ce que tu veux, j'ai virtualisé même de l'android (je n'avais pas de proc. snapdragon ou autres que tu trouve dans les tel portables pourtant) pour répondre à ta question concernant MacOs.

Et pour revenir sur un pc window, mac ou linux tu ne peux pas utiliser plusieurs cartes graphique différentes (et les exploiter) que tu sois sous intel ou amd, ça ne change rien. Et ton logiciel de virtualisation sera encore moins capable de le gérer

Voilà travaille un peu là-dessus (surtout sur le but de la virtualisation), j'ai fait un rapide résumé et n'hésite pas à revenir en parler.

 

Edit : et entre nous franchement je ne vois pas pourquoi virtualiser MacOS, c'est parfaitement faisable bien sur mais franchement je ne vois pas à quoi ça peux servir.

[decliq]

Il y a 10 heures, decliq a écrit :

 j'essaie d'assouvir ce hobby

Une des raisons de la création de ce sujet c'est bien parce que j'ai des lacunes, principalement en virtualisation et en matériel. Le logiciel, la programmation et les bases de données me sont plus familier. 😉

Cependant quand j'écris quelque chose généralement j'ai vérifié, , sinon je termine ma phrase par un point d'interrogation.

Il y a 8 heures, decliq a écrit :

Le seul émulateur de processeur de PC que je connaisse

J'ai bien précisé de PC. !

Par ailleurs j'ai déjà expérimenté il y a plus ou moins longtemps, Parallel, WMware,Virtualbox et d'autres sur des PC Windows et Apple. J'en ai tiré quelques enseignements qui n'ont tout de même pas fait de moi un expert.

Dans le passé j'ai déjà exploité plusieurs cartes différentes (Windows 7, 8, et 10) sur un même PC, il suffit d'avoir les bons outils. Pour autant je n'ai pas la certitude que ESXi autorise d'affecter une carte graphique spécifique à des virtualisations différentes, mais ça ne semble pas impossible. Ce que je sais, avec certitude, c'est que certains systèmes de virtualisation le permettent.

A noter qu'ici je ne souhaite pas disposer d'un serveur distant. Les SE tourneront sur une unique machine physique serveur et client à la fois. Si, si ça se fait ! Comment, je ne sais pas.

Virtualiser MacOS est important au regard du prix des machines Apple. Avoir des machines de test en différentes versions matériel et logiciels de SE est une aise précise et indispensable. Et il se trouve que la virtualisation peut aider à ça.

Comme quoi les préjugés et les certitudes peuvent toujours être remis en cause... 😉

[decliq]

Euréka !

@refuznik je t'invite à revoir tes convictions, entre autres, ici : https://docs.vmware.com/fr/VMware-vSphere/6.5/com.vmware.vsphere.resmgmt.doc/GUID-74A657D9-52F7-4F92-AB86-9039A90A028D.html

[refuznik]

Il y a 1 heure, decliq a écrit :

Dans le passé j'ai déjà exploité plusieurs cartes différentes (Windows 7, 8, et 10) sur un même PC, il suffit d'avoir les bons outils.

Oui depuis windows 7 seulement tu peux le faire mais tu exploites seulement une carte graphique, l'autre servant à l'affichage.

Il y a 1 heure, decliq a écrit :

A noter qu'ici je ne souhaite pas disposer d'un serveur distant. Les SE tourneront sur une unique machine physique serveur et client à la fois. Si, si ça se fait ! Comment, je ne sais pas.

J'avais compris ça comme ça.

Il y a 1 heure, decliq a écrit :

Avoir des machines de test en différentes versions matériel et logiciels de SE est une aise précise et indispensable. Et il se trouve que la virtualisation peut aider à ça.

C'est bien de préciser maintenant. Oui ça peut aider, je l'ai bien fait avec android mais je préfère l'émulation, la virtualisation n'ayant pas été faite pour ça.

Maintenant revenons sur ce que tu veux tester et sur ce quoi qui t'a fait choisir la virtualisation ?

 

[brice.wernet]

Il y a 19 heures, decliq a écrit :

Passionné de culture informatique, depuis quelques temps j'essaie d'assouvir ce hobby en imaginant une machine de virtualisation originale.

L'originalité c'est que Freenas servent pour le stockage mais depuis la virtualisation, c'est cela?

VMWare a lui-même un système de snapshot, pas de besoin de ce côté là. Pour l'aggrégation, tu peux utiliser proxmox par dessus un linux en LVM. Ou un autre hyperviseur sous FreeBSD pour être nativement sur du ZFS.

Pour que une machine virtuelle puisse stocker ses voisines, il faudra tout installer avec cette VM active et en mode "réseau".

Mieux vaut que l'hyperviseur sache gérer le stockage...

[brice.wernet]

J'ajoute que si tu es débutant, peut-être devrais-tu utiliser des produits plus simples comme hyperviseur en hyperviseur comme Windows Hyper-v server (qui est gratuit pour rappel Télécharger windows Hyper-V Server). Les outils graphiques t'aideront peut-être. Tu peux configurer un espace de stockage aggrégeant tes disques voire un tiering (garder sur un disque rapide les données chaudes - non ce n'est pas nécessairement le porno).

Tu peux aussi théoriquement partager le GPU, mais je ne l'ai jamais fait.

Ca te permettrait te tester rapidement avant d'aller plus loin avec des outils différents (mais pas forcément mieux dans ton cas)

[decliq]

Comme écrit en introduction j’adore explorer de nouveaux mondes ! Reproduire à l’aveugle les nombreux tutoriels du web n’a, pour moi, rien de passionnant. Et en plus ces expériences sont profitable et enrichissantes, on y apprend et découvre de nombreuse choses.

Un serveur virtuel n’a aucun intérêt pour un particulier. Mais une machine virtuel ouvre de beaux horizons avec un potentiel, tel que je l’imagine, élevé pour le partage, la sécurité et les sauvegardes avec le NAS, ainsi que pour tester des logiciels ou configurations diverses.

Sur une unique machine j’aurais un NAS et en même temps pourront fonctionner deux SE, voire plus, sur deux écrans (un sur chaque carte graphique donc chaque SE). Les perspectives offertes sont incommensurables…

A ce stade toutes les options sont ouvertes. Si quelqu’un est en mesure de me démontrer qu’avec un Ryzen je peux virtualiser sans problème MacOS X Mojave ou Catalina, je suis preneur au regard des prix AMD face à Intel… Donc mes réflexions sont en fait une recherche de solutions, avant d’investir dans le matériel je souhaite tester ces solutions.

Un vieux serveur Intel multi-cores qui était en Raid 5est disponible. Il fonctionne aujourd’hui sur Windows 10. Par contre il ne « boot » qu’en mode Hérité (Legacy) MBR ou EFI mais pas en UEFI. Il contient deux disques, l’un pour Windows, l’autre est vierge. Avec ses 16 Go de mémoire je pense qu’il devrait faire l’affaire pour tester la faisabilité du projet ?

Ceci amène une question basique. Il est peux probable de pouvoir faire du multi-boot entre W10 et l’hyperviseur ?
Si ce n’est pas possible, il me sera facile depuis le BIOS de choisir le disque de démarrage.

Ensuite je possède un portable Ubuntu que je pourrais utiliser au besoin pour configurer et tester des virtualisations, à commencer par FreeNAS.

Ne disposant, pour le moment, que d’un seul disque je partitionnerai selon les besoins pour faire du RaidZ1. Pour les tests je me contenterai de partitions inférieur à 100 GO ce qui devrait-être très largement suffisant.

Merci @brice.wernet

Plus habitué aux bases de données et aux développements d'applications dans le monde industriel, je suis totalement novice dans le monde de l'hypervision.

ZFS est un système de gestion de fichier que je trouve fabuleux, alors l'exploiter pour gérer les fichiers .vmdk me semblait une option intéressante, performante et sécuritaire.

Cependant il apparait, à mes yeux, que vSphere prendrait le dessus en n'autorisant pas le stockage des .vmdk autrement que sur un espace VMFS ?
Si c'est le cas c'est carrément rédhibitoire pour mon projet tel que je l'imaginait jusqu'à ce jour.

Ceci dit, d'une certaine façon, il n'y a pas de surprise 😉 je ne m'attendais pas à une solution toute trouvée.
Ce dont je suis certain c'est que la solution à mon projet existe, il suffit de trouver les bon logiciels.

D'ailleurs l'idée du projet est partie d'ici :

 

Avez-vous entendu parlé de QEMU virtualisation du monde du libre ? Et éventuellement qu'en penser vous ?

[CryoGen]

Il y a 1 heure, decliq a écrit :

Ceci amène une question basique. Il est peux probable de pouvoir faire du multi-boot entre W10 et l’hyperviseur ?

 

Si on parle bien d'Hyper-V, il tourne sous W10. Pas besoin de multiboot.

Vu ce que tu veux faire, je me demande si tu ne devrais pas regarder du coté de Unraid

Sinon, sans vouloir te décevoir, ce que tu veux faire est loin d'être original   . Faire du NAS virtuel pour stocker des VM, n'a d'ailleurs pas trop de sens avec un seul hôte. Pour du test cela dit, ça peut aller effectivement. Par contre, virtualiser un NAS pour faire, euh, NAS , pour éviter de multiplier le matos chez soit, pourquoi pas. Pour les snapshot, la plus part des hyperviseurs gèrent eux même leurs compotes, c'est d'autant plus vrai quand il faut faire appel à VSS (pas exemple) sous Windows pour avoir des snaphosts dans un état cohérent.

[decliq]

@CryoGen Non seulement il faut tourner sept fois sa souris avant de répondre, mais il faut aussi lire 😉

Voilà ce que j'envisageais, mais j'ai de nouvelles info., voir plus loin.

On 11/08/2019 at 11:32, decliq a écrit :

- Vmware vSphere Hypervisor (ESXi) (Version gratuite limitée à 32 G0 et 8 cores)

• - FreeNAS avec ZFS (objectif gérer les 3 disques en RaidZ1) ceci dans une machine virtuelle
• - Au minimum trois systèmes d'exploitation : Unbuntu - MacOS - Windows 10

Encore une fois ce que je fais à entre autre pour but d'étoffer ma culture. Pas de faire un gain quelconque gain de productivité, si au passage ça marche ça aidera à préparer l'avenir.

Par ailleurs je continue mes investigations et elles progressent. Le système de virtualisation qui permet ce type de réalisation appartient au "Libre" et c'est "Proxmox".

Je vais donc me tourner vers lui...

@brice.wernet: Bien vu Brice, mais je la couche Linux me sera invisible et gère ZFS pour utiliser l'Hyperviseur type 1 (bare metal).

[CryoGen]

Pour quelqu'un qui attend "remarque et suggestion" je te trouve bien lourd.

Bonne continuation pour ton projet.

[brice.wernet]

 

Stocker le zfs dans une VM me paraít un gouffre à perf.

Si tu le connecte par le réseau en iscsi, si tu souhaites avoir les meilleures perfs, tu risques de sacrifier un cœur complet (coût sous vmware pour du vmxnet 3 il me semble)

Les pc est surtout les serveurs sont performants si leur chipset leur permet de parallélisme les tâches. Si tu forces les tâches normalement "autonomes" à passer par le cou, ça peut être problématique.

[decliq]

Merci @CryoGen Désolé, mais c'était juste une pointe d'humour, j'ai mis un clin d’œil.

J'ai trouvé pas mal de choses intéressant Proxmox et ça correspond bien à ce que j'avais compris. Maintenant que j'ai la piste je vais essayer d'approfondir et de mettre en œuvre pour tests.

@brice.wernetJe vais essayer de ne pas refaire la gaffe faite avec @CryoGen mais je ne cherche pas forcement les performances. je veux seulement tester différentes configuration de SE. De plus l'objectif est de ne pas mettre en réseau les virtualisations. Tout se passera sur une unique machine et plusieurs écrans.

[brice.wernet]

Il y a 1 heure, decliq a écrit :

 

@brice.wernetJe vais essayer de ne pas refaire la gaffe faite avec @CryoGen mais je ne cherche pas forcement les performances. je veux seulement tester différentes configuration de SE. De plus l'objectif est de ne pas mettre en réseau les virtualisations. Tout se passera sur une unique machine et plusieurs écrans.

Et c'est là que tu as piqué ma curiosité: mettre la VM de stockage accessible aux autres, ça complique la chose (j'imagine que tu souhaites mapper le disque pour stocker le ZFS en accès direct, sinon il n'ay a pas d'intérêt puisque le ZFS sera stocké dans un espace de stockage de l'environnement de virtualisation).

Ensuite, il faudra que le ZFS soit démarré avant les autres VM.

Enfin, je ne vois pas d'autre solution que de toutes les mettre en réseau notamment avec le ZFS en iSCSI, et le plus performant est le réseau type vmxnet (ne passant pas par un adaptateur ethernet réel, au-delà des 10gbit/s et sans latence, mais un peu plus gourmand en CPU).

Pour l'affectation des cartes graphiques, attention au couple chipset/CPU (par exemple, j'ai un 3570K, le K fait que je ne peut pas activer cette option sous VMWare car je n'ai pas le VT-d). Ca peut être touchy. Il faut forcément du chipset haut de gamme, même avec un Xeon on ne peut pas tout faire selon le chipset.

[decliq]

L'idée est bien autour de ça, tout en sachant la propension du projet à m'initier à un certain nombre de technologies.

Cependant, iSCSI n'est pas ma priorité, je verrai plus tard ;). D'abord installer et configurer Proxmox sur une machine de test avant d'investir dans une véritable configuration.
Le noyau Debian de Proxmox s'installe avec ZFS comme support, donc pas de souci de ce coté, que des découvertes à faire 😄

La machine est sensée être autonome (ne pas fonctionner en réseau tout en accédant au web)  j'ai cru comprendre que des mécanismes type VNC étaient présents. Il me faut approfondir la chose pour voir comment faire communiquer sur le même PC serveur et client. Pour la mise en œuvre du système je devrai me connecter depuis un autre PC.