Question | Unités de stockage de données (TiB et GiB ?) #972

New issue

Closed

opened 2025-03-02 16:18:42 +00:00 by Tugdualenligne · 2 comments

Tugdualenligne commented

2025-03-02 16:18:42 +00:00

Bonjour, merci pour Garage S3 !
Je suis en train de le tester en noeud isolé, sans réplication depuis 10j et ça fonctionne très bien à date. 5To de données y sont sauvegardées.
Je ne crois pas qu'il ait de forum pour poser des questions, donc je me permets trois questions via ce Git :
1/ quelle est l'unité de stockage utilisée : TiB ? Si j'ajoute en multi disque un disque de 1To, i.e. 931GiB, est-ce que je peux déclarer le disque dans le fichier garage.toml en mettant 'capacity = "931G"' au lieu de "1T" ? Afin que le système sache que la limite de capacité est de 931GiB et n'aille pas au-dessus
2/ la base de données lmdb s'est mis une fois à grossir rapidement, et a saturé un espace de 40Go que je lui allouais, faisant planter Garage. Je n'ai pu réparer à partir d'un snapshot de base. J'ai dû recréer toute l'instance Garage. Lorsque l'on a un seul noeud, est-il possible de restaurer un snapshot de base lmdb et lui faire 'redécourvrir' les blocs ajouté depuis le snapshot restauré ?
3/ peut-on changer la taille des blocs après avoir créé une instance Garage, par exemple passer de "block_size = "1M" à "10M" ? Je l'ai fait, mais je ne sais pas trop si deux tailles de blocs cohabitent ou pas ;-)
J'utilise Garage comme destination de stockage de sauvegarde Kopia. J'ai imaginé que des blocs de 10Mo auraient plus de sens pour stocker des volumes importants et que cela 'ménagerait' la taille de la base lmdb. Vrai ou faux ?

Bonjour, merci pour Garage S3 ! Je suis en train de le tester en noeud isolé, sans réplication depuis 10j et ça fonctionne très bien à date. 5To de données y sont sauvegardées. Je ne crois pas qu'il ait de forum pour poser des questions, donc je me permets trois questions via ce Git : 1/ quelle est l'unité de stockage utilisée : TiB ? Si j'ajoute en multi disque un disque de 1To, i.e. 931GiB, est-ce que je peux déclarer le disque dans le fichier garage.toml en mettant 'capacity = "931G"' au lieu de "1T" ? Afin que le système sache que la limite de capacité est de 931GiB et n'aille pas au-dessus 2/ la base de données lmdb s'est mis une fois à grossir rapidement, et a saturé un espace de 40Go que je lui allouais, faisant planter Garage. Je n'ai pu réparer à partir d'un snapshot de base. J'ai dû recréer toute l'instance Garage. Lorsque l'on a un seul noeud, est-il possible de restaurer un snapshot de base lmdb et lui faire 'redécourvrir' les blocs ajouté depuis le snapshot restauré ? 3/ peut-on changer la taille des blocs après avoir créé une instance Garage, par exemple passer de "block_size = "1M" à "10M" ? Je l'ai fait, mais je ne sais pas trop si deux tailles de blocs cohabitent ou pas ;-) J'utilise Garage comme destination de stockage de sauvegarde Kopia. J'ai imaginé que des blocs de 10Mo auraient plus de sens pour stocker des volumes importants et que cela 'ménagerait' la taille de la base lmdb. Vrai ou faux ?

maximilien commented

2025-03-02 16:41:16 +00:00

Owner

Ce n'est pas très intuitif mais la capacité indiqué dans le layout est une donnée indicative pour la répartition des blocs garage, elle n'est pas absolue et non limitante. Comme il s'agit d'une mesure relative aux autre nœuds, sont unité - TB ou TiB n'a que peu d'importance.
Dans le cas de la restauration d'un snapshot de metadata sur un nœud unique, les blocs peuvent tomber dans 3 catégories

le bloc est inchangé
le bloc a été supprimé après le snapshot, il sera manquant et marqué comme perdu par garage
le bloc appartient à un objet créé après le snapshot, il n'est donc pas référencé par garage

Un garage repair blocks devrait aider à réaligner les blocs avec un garage blocks purge pour supprimer les blocs en trop

Oui, sans souci. Le changement ne sera effectif que pour les nouveaux blocs. La taille de bloc défini par garage est une taille maximale utilisé pour découper les objets.

Hi, thanks for Garage S3!
I've been testing it as an isolated node, without replication, for 10 days and it's working very well so far. 5TB of data are saved there.
I don't think there's a forum for asking questions, so I'd like to ask three questions via this Git:
1/ what is the storage unit used: TiB? If I add a 1TB disk as a multi-disk, i.e. 931GiB, can I declare the disk in the garage.toml file by putting 'capacity = “931G”' instead of “1T”? So that the system knows that the capacity limit is 931GiB and doesn't go above it.
2/ the lmdb database once started to grow rapidly, and saturated a 40Gb space I was allocating to it, causing Garage to crash. I couldn't repair from a base snapshot. I had to recreate the whole Garage instance. With a single node, is it possible to restore a basic lmdb snapshot and have it 'rediscover' the blocks added from the restored snapshot?
3/ Is it possible to change the block size after creating a Garage instance, e.g. from “block_size = ‘1M’ to ‘10M’? I've done it, but I'm not sure whether two block sizes coexist or not ;-)
I use Garage as my Kopia backup storage destination. I imagined that 10Mb blocks would make more sense for storing large volumes and that this would 'spare' the size of the lmdb base. True or false?
-- Translation of the message above

It's not very intuitive, but the capacity indicated in the layout is indicative for garage block allocation, not absolute and not limiting. As it is a measure relative to other nodes, its unit - TB or TiB - is of little importance.
When restoring a metadata snapshot on a single node, blocks can fall into 3 categories

the block is unchanged
the block has been deleted after the snapshot; it will be missing and marked as lost by garage
the block belongs to an object created after the snapshot, and is therefore not referenced by garage.

A garage repair blocks should help realign blocks with a garage blocks purge to remove excess blocks.

Yes, no problem. The change will only be effective for new blocks. The block size defined by garage is a maximal size used to cut objects.

@lx to keep me straight on this

1. Ce n'est pas très intuitif mais la capacité indiqué dans le layout est une donnée _indicative_ pour la répartition des blocs garage, elle n'est pas absolue et non limitante. Comme il s'agit d'une mesure relative aux autre nœuds, sont unité - TB ou TiB n'a que peu d'importance. 2. Dans le cas de la restauration d'un snapshot de metadata sur un nœud unique, les blocs peuvent tomber dans 3 catégories - le bloc est inchangé - le bloc a été supprimé après le snapshot, il sera manquant et marqué comme perdu par garage - le bloc appartient à un objet créé après le snapshot, il n'est donc pas référencé par garage Un `garage repair blocks` devrait aider à réaligner les blocs avec un `garage blocks purge` pour supprimer les blocs en trop 3. Oui, sans souci. Le changement ne sera effectif que pour les nouveaux blocs. La taille de bloc défini par garage est une taille _maximale_ utilisé pour découper les objets. > Hi, thanks for Garage S3! > I've been testing it as an isolated node, without replication, for 10 days and it's working very well so far. 5TB of data are saved there. > I don't think there's a forum for asking questions, so I'd like to ask three questions via this Git: > 1/ what is the storage unit used: TiB? If I add a 1TB disk as a multi-disk, i.e. 931GiB, can I declare the disk in the garage.toml file by putting 'capacity = “931G”' instead of “1T”? So that the system knows that the capacity limit is 931GiB and doesn't go above it. > 2/ the lmdb database once started to grow rapidly, and saturated a 40Gb space I was allocating to it, causing Garage to crash. I couldn't repair from a base snapshot. I had to recreate the whole Garage instance. With a single node, is it possible to restore a basic lmdb snapshot and have it 'rediscover' the blocks added from the restored snapshot? > 3/ Is it possible to change the block size after creating a Garage instance, e.g. from “block_size = ‘1M’ to ‘10M’? I've done it, but I'm not sure whether two block sizes coexist or not ;-) > I use Garage as my Kopia backup storage destination. I imagined that 10Mb blocks would make more sense for storing large volumes and that this would 'spare' the size of the lmdb base. True or false? > -- Translation of the message above 1. It's not very intuitive, but the capacity indicated in the layout is _indicative_ for garage block allocation, not absolute and not limiting. As it is a measure relative to other nodes, its unit - TB or TiB - is of little importance. 2. When restoring a metadata snapshot on a single node, blocks can fall into 3 categories - the block is unchanged - the block has been deleted after the snapshot; it will be missing and marked as lost by garage - the block belongs to an object created after the snapshot, and is therefore not referenced by garage. A `garage repair blocks` should help realign blocks with a `garage blocks purge` to remove excess blocks. 3. Yes, no problem. The change will only be effective for new blocks. The block size defined by garage is a _maximal_ size used to cut objects. @lx to keep me straight on this