Brains4Cloud
ESEN
Practicar

Tema 8 de 11

D2 · Planificar e implementar una solución en la nube

Cloud Storage y almacenamiento de archivos

El temario pide elegir y desplegar productos de almacenamiento (Cloud Storage, Filestore, Google Cloud NetApp Volumes y Google Cloud Managed Lustre), conocer las clases de Cloud Storage (Standard, Nearline, Coldline y Archive) y cargar datos con la línea de comandos o con Storage Transfer Service. La seguridad y el ciclo de vida de los objetos se ven en el dominio D3.

Bloque, archivo u objeto

Bloque

Discos para VM: Hyperdisk, Persistent Disk, Local SSD. Escritura múltiple limitada.

Archivo

Sistemas de archivos compartidos por varios clientes a la vez: Filestore, NetApp Volumes, Managed Lustre.

Objeto

Cloud Storage: objetos en buckets, capacidad ilimitada, acceso por API.

Cloud Storage FUSE da cierta semántica de sistema de archivos sobre buckets, pero no es POSIX completo: no tiene enlaces duros, bloqueo de archivos ni control de concurrencia de escrituras como Filestore.

Almacenamiento de objetos con capacidad y acceso ilimitados, sin tamaño mínimo de objeto, acceso de baja latencia (sin recuperación offline) y una durabilidad anual del 99,999999999 % (once nueves) en todas las clases.

  • Los objetos se guardan en buckets, cuyo nombre es único a nivel global.
  • La clase es un metadato de cada objeto. El bucket tiene una clase por defecto (Standard si no indicas otra) que heredan los objetos nuevos.
  • Cambiar la clase por defecto del bucket no afecta a los objetos existentes. Para cambiar la clase de un objeto se reescribe o se usa la gestión del ciclo de vida.
gcloud storage buckets create gs://my-bucket --location=us-central1 --default-storage-class=STANDARD

ClaseDuración mínimaTarifa de recuperaciónPara qué
StandardNingunaNoDatos de acceso frecuente («calientes») o guardados poco tiempo
Nearline30 díasSíLeer o modificar como mucho una vez al mes: copias de seguridad, contenido de larga cola
Coldline90 díasSíComo mucho una vez al trimestre
Archive365 díasSíMenos de una vez al año: archivo legal, recuperación ante desastres
RapidNingunaNoE/S intensiva (IA, ML, analítica) en buckets zonales con Rapid Bucket

Archive no es lento

A diferencia del almacenamiento más frío de otros proveedores, los datos en Archive están disponibles en milisegundos, no en horas. Lo que cambia es el coste: más barato guardar, más caro acceder.

SLA de disponibilidadMulti-region y dual-regionRegión
Standard99,95 %99,9 %
Nearline, Coldline y Archive99,9 %99,0 %

Existen clases heredadas que no se pueden elegir desde la consola; Google recomienda usar Standard en su lugar.

Autoclass

Mueve automáticamente cada objeto a la clase adecuada según cómo se accede a él:

  • Todos los objetos empiezan en Standard y la clase por defecto del bucket queda fija en Standard.
  • Los objetos que no se leen bajan progresivamente a clases más frías; por defecto se quedan en Nearline, y se puede configurar Archive como clase final.
  • Al leer los datos de un objeto, vuelve a Standard. Leer o editar solo los metadatos no lo mueve.
  • Los objetos de menos de 128 KiB se quedan siempre en Standard.
  • Tiene una tarifa de gestión y de activación, pero no cobra tarifas de recuperación ni de borrado anticipado (salvo en la activación).

Ubicaciones de los buckets

TipoRedundanciaPrecioIdeal para
Zona (solo con Rapid Bucket)Dentro de una zonaEl más alto, máximo rendimientoIA, ML, HPC
Región (p. ej. US-CENTRAL1)Entre zonas, síncrona; failover automáticoEl más bajo; sin coste de replicación ni de salida dentro de la regiónAnalítica, datos junto a VM o GKE, datos de vida corta
Dual-region (p. ej. ASIA1)Entre dos regiones, asíncrona; opción de replicación turbo en 15 minutosEl más alto de almacenamiento; coste de replicación al escribirRecuperación ante desastres con control de dónde están las copias
Multi-region (p. ej. US)Entre regiones, asíncronaIntermedio; siempre hay coste de salida al leerServir contenido en varias geografías
  • En las ubicaciones regionales, birregionales y multirregionales, el failover y el failback son automáticos (RTO 0) sin cambiar las rutas de acceso.
  • La ubicación se fija al crear el bucket. Para cambiarla se copian los datos a otro bucket o se usa la reubicación de buckets, que requiere Storage Intelligence.

Servidores de archivos totalmente gestionados para VM de Compute Engine, clústeres de GKE, Cloud Run, VMware Engine o máquinas on-premises (por Cloud VPN o Interconnect). Varios clientes leen y escriben el mismo sistema de archivos a la vez, por ejemplo PersistentVolumes de GKE en modo lectura-escritura desde muchos nodos. La capacidad se amplía sin interrupción.

NivelDisponibilidadPara qué
ZonalZonalHPC, cálculo por lotes, renderizado. De 1 a 100 TiB
RegionalRegionalCargas críticas que deben resistir la caída de una zona. Desde 100 GiB
Multishares for GKE (Enterprise)RegionalGKE con alta disponibilidad y varios recursos compartidos
Basic HDD y Basic SSD (heredados)ZonalCompartir archivos y desarrollo. Solo crecen, no se reducen

Protocolos: NFSv3 en todos los niveles y NFSv4.1 (con autenticación y cifrado en tránsito) en zonal, regional y enterprise. Con rendimiento personalizado, las IOPS se configuran con independencia de la capacidad.

Google Cloud NetApp Volumes

Almacenamiento totalmente gestionado con las funciones de gestión de datos de NetApp, para llevar a Google Cloud aplicaciones de archivo y de bloque sin rediseñarlas.

  • Multiprotocolo: NFSv3, NFSv4.1 y NFSv4.2, SMB, iSCSI, NVMe/TCP y S3 (en modo ONTAP).
  • Volúmenes de 1 GiB a 3 PiB aprovisionados en segundos.
  • Snapshots automáticos, copias de seguridad, auto-tiering a almacenamiento frío, replicación asíncrona de volúmenes, clonado rápido y FlexCache.
  • Niveles de servicio como Flex Unified (capacidad y rendimiento independientes; modos Default y ONTAP) y Standard, entre otros.

Google Cloud Managed Lustre

Sistema de archivos paralelo de alto rendimiento y totalmente gestionado para IA y HPC, desarrollado con DDN.

10 TBps

Throughput máximo.

9000 GiB - 80,1 PiB

Capacidad.

POSIX

Compatible con las aplicaciones existentes.

Se monta desde Compute Engine y GKE, transfiere datos con Cloud Storage de forma gestionada y cifra los datos en reposo y en tránsito.

Cargar datos

# Subir un archivo
gcloud storage cp ./report.csv gs://my-bucket/
# Sincronizar un directorio
gcloud storage rsync --recursive ./local-dir gs://my-bucket/folder
EscenarioRecomendación de Google
Desde otro proveedor de nube (Amazon S3, Azure Blob Storage)Storage Transfer Service
Menos de 1 TB desde on-premisesgcloud storage
Más de 1 TB desde on-premisesStorage Transfer Service o Transfer Appliance
Menos de 1 TB desde otra región de Cloud Storagegcloud storage
Más de 1 TB desde otra región de Cloud StorageStorage Transfer Service
Conexión a internet mala o inexistenteTransfer Appliance: se llena el dispositivo y se envía a Google
  • Storage Transfer Service está optimizado para más de 1 TiB. Mueve datos entre S3, Azure Blob, Cloud Storage, sistemas on-premises (con agentes en Docker que acceden al NFS local), URL públicas y HDFS. Automatiza y programa transferencias, cifra en tránsito y valida la integridad. No tiene SLA.
  • Transfer Appliance también tiene un modo online que envía los datos copiados a Cloud Storage. Tras copiar los datos, Google borra el dispositivo.
  • Para BigQuery, la carga desde Cloud Storage se hace con bq load (artículo anterior).

Escenarios de examen

SituaciónRespuestaPor qué
Contenido web que se sirve a usuarios de todo el mundoBucket multirregional, clase StandardAcceso global y redundancia entre regiones.
Copias de seguridad que se leen una vez al mesNearlineMínimo de 30 días, más barato que Standard.
Datos que se leen como mucho una vez al trimestreColdlineMínimo de 90 días.
Archivos legales que casi nunca se leen pero deben estar disponibles al momentoArchiveEl más barato, lectura en milisegundos, mínimo de 365 días.
Patrones de acceso impredecibles y no quieres gestionar clasesAutoclassMueve los objetos según su uso.
Sistema de archivos NFS compartido por muchas VM y nodos de GKEFilestoreLectura y escritura desde varios clientes.
Migrar apps con SMB e iSCSI sin rediseñarlasNetApp VolumesMultiprotocolo de archivo y bloque.
Sistema de archivos paralelo para entrenar modelos con miles de GPUManaged LustreHasta 10 TBps de throughput.
Mover 200 TB desde Amazon S3Storage Transfer ServiceRecomendado para otros proveedores de nube.
Mover 500 TB desde un centro de datos con mala conexiónTransfer ApplianceDispositivo físico que se envía a Google.

Trampas frecuentes del examen

❓ ¿Los datos en Archive tardan horas en recuperarse?

No. Están disponibles en milisegundos; solo cuesta más acceder a ellos.

❓ ¿Cuáles son las duraciones mínimas de Nearline, Coldline y Archive?

30, 90 y 365 días.

❓ ¿Cambiar la clase por defecto de un bucket cambia los objetos que ya tiene?

No. Solo afecta a los objetos nuevos.

❓ ¿Qué durabilidad tiene Cloud Storage?

99,999999999 % anual en todas las clases.

❓ ¿Qué herramienta se recomienda para traer datos desde Amazon S3?

Storage Transfer Service.

❓ ¿Filestore Basic se puede reducir de tamaño?

No. Los niveles Basic solo crecen; los zonales y regionales escalan arriba y abajo.

¿Entendiste este tema?

Pon a prueba lo que acabas de aprender

Una empresa debe conservar 7 años de registros de auditoría que casi nunca consulta. Cuando un regulador los pide, deben estar disponibles de inmediato. Quiere el menor coste de almacenamiento. ¿Qué clase usa?

¿Listo para poner a prueba "Cloud Storage y almacenamiento de archivos"?

Preguntas originales, cada una con su explicación.

Empezar un simulacro