Variability-aware request replication for latency curtailment

Título traducido de la contribución: Replicación de solicitudes con reconocimiento de la variabilidad para la reducción de la latencia

Zhan Qiu, Juan F. Pérez, Peter G. Harrison

Producción científica: Capítulo en Libro/InformeContribución a la conferencia

12 Citas (Scopus)

Resumen

La variabilidad del tiempo de procesamiento es común en los sistemas distribuidos, donde los recursos muestran un rendimiento dispar debido a, por ejemplo, diferentes niveles de carga de trabajo, procesos en segundo plano y contención en entornos virtualizados. Sin embargo, es fundamental que los proveedores de servicios mantengan bajo control la variabilidad en el tiempo de respuesta para poder ofrecer servicios que respondan a las necesidades. Investigamos cómo se puede utilizar la replicación de solicitudes para explotar la variabilidad del tiempo de procesamiento y reducir los tiempos de respuesta, teniendo en cuenta no sólo los valores medios sino también la cola de la distribución del tiempo de respuesta. Nos centramos en la configuración distribuida, donde la replicación se logra ejecutando copias de las solicitudes en varios servidores que, de lo contrario, evolucionan de forma independiente, y esperando a que la primera réplica complete el servicio. Construimos modelos que capturan la evolución de un sistema con peticiones replicadas utilizando métodos aproximados y observamos que los tiempos de servicio altamente variables ofrecen las mejores oportunidades para la replicación, reduciendo el tiempo de respuesta en particular. Además, el efecto de la replicación no es uniforme sobre la distribución del tiempo de respuesta: las ganancias en una métrica, por ejemplo, la media, pueden ser a costa de otra, por ejemplo, los percentiles de cola. Esto se demuestra en una amplia gama de experimentos numéricos virtuales. Se puede ver que la captura de la variabilidad del tiempo de servicio es clave para la evaluación de las estrategias de tolerancia de latencia y en su diseño.
Título traducido de la contribuciónReplicación de solicitudes con reconocimiento de la variabilidad para la reducción de la latencia
Idioma originalInglés estadounidense
Título de la publicación alojadaIEEE INFOCOM 2016 - 35th Annual IEEE International Conference on Computer Communications
EditorialInstitute of Electrical and Electronics Engineers Inc.
Volumen2016-July
ISBN (versión digital)9781467399531
DOI
EstadoPublicada - jul. 27 2016
Publicado de forma externa
Evento35th Annual IEEE International Conference on Computer Communications, IEEE INFOCOM 2016 - San Francisco, Estados Unidos
Duración: abr. 10 2016abr. 14 2016

Conferencia

Conferencia35th Annual IEEE International Conference on Computer Communications, IEEE INFOCOM 2016
País/TerritorioEstados Unidos
CiudadSan Francisco
Período4/10/164/14/16

Áreas temáticas de ASJC Scopus

  • Ciencia de la Computación General
  • Ingeniería eléctrica y electrónica

Huella

Profundice en los temas de investigación de 'Replicación de solicitudes con reconocimiento de la variabilidad para la reducción de la latencia'. En conjunto forman una huella única.

Citar esto