Monitoreo de calidad de agua de ríos en Puerto Rico usando modelos aditivos generalizados mixtos (GAMM)

Abstract

Mixed linear models are a generalization of linear models and are widely used in different branches of science, as they allow for statistically modeling possible correlations in the data. However, in many cases, the data is not linearly related and although classical methodologies can be used, there are alternatives such as generalized additive mixed models. In these models, the smooth function that relates the mean value of the response variables y to the predictor variables is constructed using smooth function bases. This work studies the properties of this type of model and applies it to the analysis of data from 55 rivers in Puerto Rico with the goal of estimating trends over time in water quality parameters such as dissolved oxygen and total nitrogen concentration. The data was obtained from the records of the United States Geological Survey (USGS), compiled and consolidated by Dr. Gustavo A. Martinez and Miguel Vázquez of the Agricultural Experiment Station at the University of Puerto Rico. The available data covers the period from 1969 to 2021. The mixed additive models were fitted using the gam function of the mgcv library in (R v. 4.2.2). The longitudinal nature of the data was incorporated into appropriate random effects, and classification variables were included to study differences in river conditions. Smooth functions were fitted using P-splines to study these effects over time. The studied interactions explained the observed trends and yielded specific predictions of the condition, which were compared under the construction of functions that allowed generating appropriate contrast matrices. This approach also enabled the assessment of statistically significant changes in trends due to specific breaks in time and predictions of current trends in water quality parameters.

Los modelos lineales mixtos son una generalización de los modelos lineal y son ampliamente utilizados en diferentes ramas de la ciencia, pues permiten modelar estadísticamente la posible correlación en los datos. Sin embargo, en muchos casos los datos no están relacionados de forma lineal y aunque se pueden usar metodologías clásicas, existen alternativas como lo son los modelos aditivos generalizados mixtos. Es estos, la función suave que relaciona el valor medio de las variables respuesta y con variables predictoras es construida mediante bases de funciones suaves. En este trabajo se estudian las propiedades de estos modelos y se analizan 55 ríos en Puerto Rico, para estimar las tendencias a lo largo del tiempo de las variables de calidad del agua, como concentración de oxígeno disuelto y el nitrógeno total. Los datos se obtuvieron de los registros del Servicio Geológico de los Estados Unidos (USGS, por sus siglas en inglés), los cuales fueron recopilados por el Dr. Gustavo A. Martínez y Miguel Vázquez, adscritos a la Estación Experimental Agrícola de la UPR. Los datos disponibles contienen información desde el año 1969 hasta el 2021. Los modelos aditivos mixtos se ajustaron utilizando la función gam de la librería mgcv (R v. 4.2.2). La naturaleza longitudinal de estos datos se consideró incorporando efectos aleatorios apropiados. Se incluyen variables de clasificación para estudiar las diferencias entre la condición de los ríos. Las interacciones suaves estudiadas explicaron las tendencias observadas y arrojaron predicciones específicas de la condición, que fueron comparadas bajo la construcción de matrices de contraste apropiadas. Este enfoque permitió evaluar cambios estadísticamente significativos en las tendencias debido a intervenciones específicas en el tiempo y predecir las tendencias actuales en los parámetros de calidad del agua.