Resumen de Multivalued and non-symmetric operators for sequential information processing
- español
Las estructuras de datos multivaluadas son un tipo de organización de datos que permiten representar información compuesta por varios atributos, variables, dimensiones o coordenadas. Para su funcionamiento básico se dotan de operaciones básicas como la igualdad, comparación y orden. A partir de estas se definen operaciones como, por ejemplo, la agregación de información. Un tipo de dato multivaluado de especial interés es la información secuencial, en el cual existe una dependencia temporal, espacial o de orden entre sus elementos. Ejemplos relevantes de información secuencial son el texto (lenguaje natural) o las series temporales. En esta tesis presentamos un nuevo framework para información multivaluada. De esta manera, presentamos nuevos métodos de agregación de información multivaluada. Para ello, se extienden funciones que tienen en cuenta la posible relación entre los datos internos a la estructura multivaluada. Dado que estas funciones necesitan una ordenación de sus argumentos, se presentan distintos enfoques: por componentes individuales y proponiendo un nuevo método de ordenación. Estas funciones se aplican en la fusión de información secuencial en redes neuronales recurrentes. En el contexto multivaluado también se presenta un nuevo método para la comparación de estructuras multivaluadas. De forma complementaria, se considera un problema adicional en el procesamiento de información secuencial: la simetría. Se considera que, en la agregación de información secuencial, el orden de los argumentos es una cuestión de gran relevancia. Por lo tanto, el uso de funciones simétricas no tiene sentido, dado que puede que estemos rompiendo la correlación temporal. Por ello, se presentan nuevos métodos de construcción de funciones de agregación no-simétricas. Estas serán aplicadas en tareas de agregación de información con dependencia secuencial, como puede ser el procesamiento de texto en redes neuronales convolucionales y la combinación de modelos de predicción de series temporales.
- English
Multivalued data structures are recurrent tools for organizing data, often enabling the representation of information that encompasses multiple attributes, variables, dimensions or coordinates. Their basic management and processing is reliant on basic operations such as equality, comparison and order. On top of these operations, more complex operations (as the aggregation of information) can be defined. Among the different uses of multivalued data structures, one of particular relevance is the representation of sequential information, a type of data in which the individual elements have temporal, spatial or orderly dependency on each other. Examples of sequential data are natural language and time series. In this thesis, we present a new framework for multivalued information processing. We present new methods for aggregating multivalued information. We extend functions that take into account the possible relation between the data. Since these functions require the ability to sort their arguments, two different approaches are presented: componentwisely and by proposing a new ordering method. These functions are applied in the fusion of sequential information in recurrent neural networks. In the multivalued context, a new method for the comparison of multivalued structures is also presented. Complementarily, an additional topic in sequential information processing is considered: the symmetry of the information processing operators. In the aggregation of sequential information, the order of the arguments is a matter of great relevance, and therefore the use of symmetric functions does not make sense, since we may be breaking the temporal correlation. Therefore, new methods for constructing non-symmetric aggregation functions are presented, with application to the aggregation of sequentially dependent information such as in text-based convolutional neural networks, as well as in the combination of time series prediction models.
