Aac Vector

Capı́tulo 1
Procesadores vectoriales
En el camino hacia los multiprocesadores y multicomputadores nos encontramos con

los procesadores vectoriales que son una forma también de procesamiento paralelo.
Normalmente el cálculo cientı́fico y matemático precisa de la realización de un
número elevado de operaciones en muy poco tiempo. La mayorı́a de los problemas
fı́sicos y matemáticos se pueden expresar fácilmente mediante la utilización de matrices
y vectores. Aparte de que esto supone una posible claridad en el lenguaje, va a permitir
explotar al máximo un tipo de arquitectura especı́fica para este tipo de tipos de datos,
y es la de los procesadores vectoriales.
El paralelismo viene de que al operar con matrices, normalmente, los elementos
de las matrices son independientes entre sı́, es decir, no existen dependencias de datos
dentro de las propias matrices, en general. Esto permite que todas las operaciones entre
elementos de unas matrices con otras puedan realizarse en paralelo, o al menos en el
mismo cauce de instrucciones sin que haya un conflicto entre los datos.
Otra ventaja del cálculo matricial es que va a permitir replicar las unidades de cálculo
sin necesidad de replicar las unidades de control. Se tendrı́a en este caso una especie de
multiprocesador sin necesidad de tener que replicar tanto la unidad de control como la
de cálculo, eso sı́, el número de tareas que un sistema de este tipo podrı́a abordar son
limitadas.
Los procesadores vectoriales se caracterizan porque van a ofrecer una serie de ope-
raciones de alto nivel que operan sobre vectores, es decir, matrices lineales de números.
Una operación tı́pica de un procesador vectorial serı́a la suma de dos vectores de coma
flotante de 64 elementos para obtener el vector de 64 elementos resultante. La instruc-
ción en este caso es equivalente a un lazo software que a cada iteración opera sobre
uno de los 64 elementos. Un procesador vectorial realiza este lazo por hardware apro-
vechando un cauce más profundo, la localidad de los datos, y una eventual repetición
de las unidades de cálculo.
Las instrucciones vectoriales tienen unas propiedades importantes que se resumen a
continuación aunque previamente ya se han dado unas pinceladas:
• El cálculo de cada resultado es independiente de los resultados anteriores en el
mismo vector, lo que permite un cauce muy profundo sin generar riesgos por las
dependencias de datos. La ausencia de estos riesgos viene decidida por el compilador
o el programador cuando se decidió que la instrucción podı́a ser utilizada.
• Una sola instrucción vectorial especifica una gran cantidad de trabajo, ya que equi-
Ingenierı́a Informática Universidad de Valencia

2 Procesadores vectoriales
vale a ejecutar un bucle completo. Por lo tanto, el requisito de anchura de banda de

las instrucciones se reduce considerablemente. En los procesadores no vectoriales,
donde se precisan muchas más instrucciones, la búsqueda y decodificación de las
instrucciones puede representar un cuello de botella, que fue detectado por Flynn
en 1966 y por eso se le llama cuello de botella de Flynn.
• Las instrucciones vectoriales que acceden a memoria tienen un patrón de acceso
conocido. Si los elementos de la matriz son todos adyacentes, entonces extraer el
vector de un conjunto de bancos de memoria entrelazada funciona muy bien. La
alta latencia de iniciar un acceso a memoria principal, en comparación con acceder
a una cache, se amortiza porque se inicia un acceso para el vector completo en lugar
de para un único elemento. Por ello, el coste de la latencia a memoria principal se
paga una sola vez para el vector completo, en lugar de una vez por cada elemento
del vector.
• Como se sustituye un bucle completo por una instrucción vectorial cuyo compor-
tamiento está predeterminado, los riesgos de control en el cauce, que normalmente
podrı́an surgir del salto del bucle, son inexistentes.
Por estas razones, las operaciones vectoriales pueden hacerse más rápidas que una
secuencia de operaciones escalares sobre el mismo número de elementos de datos, y
los diseñadores están motivados para incluir unidades vectoriales si el conjunto de las
aplicaciones las puede usar frecuentemente.
El presente capı́tulo ha sido elaborado a partir de [HP96], [HP93] y [Hwa93]. Como
lecturas adicionales se puede ampliar la información con [Sto93] y [HB87].
1.1 Procesador vectorial básico
1.1.1 Arquitectura vectorial básica

Un procesador vectorial está compuesto tı́picamente por una unidad escalar y una uni-
dad vectorial. La parte vectorial permite que los vectores sean tratados como números
en coma flotante, como enteros o como datos lógicos. La unidad escalar es un procesador
segmentado normal y corriente.
Hay dos tipos de arquitecturas vectoriales:
Máquina vectorial con registros: en una máquina de este tipo, todas las opera-
ciones vectoriales, excepto las de carga y almacenamiento, operan con vectores
almacenados en registros. Estas máquinas son el equivalente vectorial de una ar-
quitectura escalar de carga/almacenamiento. La mayorı́a de máquinas vectoriales
modernas utilizan este tipo de arquitectura. Ejemplos: Cray Research (CRAY-1,
CRAY-2, X-MP, Y-MP y C-90), los supercomputadores japoneses (NEC SX/2 y
SX/3, las Fujitsu VP200 y VP400 y la Hitachi S820)
Máquina vectorial memoria-memoria: en estas máquinas, todas las operaciones
vectoriales son de memoria a memoria. Como la complejidad interna, ası́ como el
coste, son menores, es la primera arquitectura vectorial que se empleó. Ejemplo:
el CDC.
El resto del capı́tulo trata sobre las máquinas vectoriales con registros, ya que las
de memoria han caı́do en desuso por su menor rendimiento.

1.1 Procesador vectorial básico 3
La figura 1.1 muestra la arquitectura tı́pica de una máquina vectorial con registros.
Los registros se utilizan para almacenar los operandos. Los cauces vectoriales fun-
cionales cogen los operandos, y dejan los resultados, en los registros vectoriales. Cada
registro vectorial está equipado con un contador de componente que lleva el seguimiento
del componente de los registros en ciclos sucesivos del cauce.
Procesador escalar
Cauces
funcionales
escalares
Instrucciones escalares Procesador vectorial
Unidad de control Instrucciones vectoriales Unidad de control

escalar vectorial
Control
Instrucciones Cauce func. vectorial

Datos Memoria principal Datos
escalares (Programa y datos) vectoriales Registros
Vectoriales
Almacenamiento Computador
masivo anfitrión Cauce func. vectorial
E/S Usuario
Figura 1.1: La arquitectura de un supercomputador vectorial.

La longitud de cada registro es habitualmente fija, como por ejemplo 64 componentes
de 64 bits cada uno como en un Cray. Otras máquinas, como algunas de Fujitsu, utilizan
registros vectoriales reconfigurables para encajar dinámicamente la longitud del registro
con la longitud de los operandos.
Por lo general, el número de registros vectoriales y el de unidades funcionales es
fijo en un procesador vectorial. Por lo tanto, ambos recursos deben reservarse con
antelación para evitar conflictos entre diferentes operaciones vectoriales.
Los supercomputadores vectoriales empezaron con modelos uniprocesadores como
el Cray 1 en 1976. Los supercomputadores vectoriales recientes ofrecen ambos modelos,
el monoprocesador y el multiprocesador. La mayorı́a de supercomputadores de altas
prestaciones modernos ofrecen multiprocesadores con hardware vectorial como una ca-
racterı́stica más de los equipos.
Resulta interesante definirse una arquitectura vectorial sobre la que explicar las
nociones de arquitecturas vectoriales. Esta arquitectura tendrı́a como parte entera la
propia del DLX, y su parte vectorial serı́a la extensión vectorial lógica de DLX. Los
componentes básicos de esta arquitectura, parecida a la de Cray 1, se muestra en la
figura 1.2.
Los componentes principales del conjunto de instrucciones de la máquina DLXV
son:
Registros vectoriales. Cada registro vectorial es un banco de longitud fija que contie-
ne un solo vector. DLXV tiene ocho registros vectoriales, y cada registro vectorial
contiene 64 dobles palabras. Cada registro vectorial debe tener como mı́nimo dos
puertos de lectura y uno de escritura en DLXV. Esto permite un alto grado de
solapamiento entre las operaciones vectoriales que usan diferentes registros vec-
toriales.

Memoria principal
Carga/almacenamiento
vectorial
suma/resta FP
multiplicación FP
división FP
Registros
vectoriales Entero
Lógico
Registros
escalares
Figura 1.2: Estructura básica de una arquitectura vectorial con registros, DLXV.
Unidades funcionales vectoriales. Cada unidad se encuentra completamente seg-

mentada y puede comenzar una nueva operación a cada ciclo de reloj. Se necesita
una unidad de control para detectar conflictos en las unidades funcionales (riesgos
estructurales) y conflictos en los accesos a registros (riesgos por dependencias de
datos).
Unidad de carga/almacenamiento de vectores. Es una unidad que carga o alma-
cena un vector en o desde la memoria. Las cargas y almacenamientos en DLXV
están completamente segmentadas, para que las palabras puedan ser transferidas
entre los registros vectoriales y memoria, con un ancho de banda de una palabra
por ciclo de reloj tras una latencia inicial.
Conjunto de registros escalares. Estos también pueden proporcionar datos como
entradas a las unidades funcionales vectoriales, ası́ como calcular direcciones para
pasar a la unidad de carga/almacenamiento de vectores. Estos serı́an los 32
registros normales de propósito general y los 32 registros de punto flotante del
DLX.
La figura 1.3 muestra las caracterı́sticas de algunos procesadores vectoriales, inclu-
yendo el tamaño y el número de registros, el número y tipo de unidades funcionales, y
el número de unidades de carga/almacenamiento.
1.1.2 Instrucciones vectoriales básicas

Principalmente las instrucciones vectoriales se pueden dividir en seis tipos diferentes.
El criterio de división viene dado por el tipo de operandos y resultados de las diferentes
instrucciones vectoriales:
1. Vector-vector: Las instrucciones vector-vector son aquellas cuyos operandos son
vectores y el resultado también es un vector. Suponiendo que Vi , Vj y Vk son
registros vectoriales, este tipo de instrucciones implementan el siguiente tipo de
funciones:
f1 : Vi → Vj

Clock Elements per

Year rate register (64-bit Load-store
Processor announced (MHz) Registers elements) Functional units units
CRAY-1 1976 80 8 64 6: add, multiply, reciprocal, 1
integer add, logical, shift
CRAY X-MP 1983 120 8 64 8: FP add, FP multiply, FP re- 2 loads
CRAY Y-MP 1988 166 ciprocal, integer add, 2 logical, 1 store
shift, population count/parity
CRAY-2 1985 166 8 64 5: FP add, FP multiply, FP re- 1
ciprocal/sqrt, integer (add shift,
population count), logical
Fujitsu 1982 133 8-256 32-1024 3: FP or integer add/logical, 2
VP100/200 multiply, divide
Hitachi 1983 71 32 256 4: 2 integer add/logical, 4
S810/820 1 multiply-add, and 1 multiply/
divide-add unit
Convex C-1 1985 10 8 128 4: multiply, add, divide, integer/ 1
logical
NEC SX/2 1984 160 8 + 8192 256 variable 16: 4 integer add/logical, 4 FP 8
multiply/divide, 4 FP add,
4 shift
DLXV 1990 200 8 64 5: multiply, divide, add, 1
integer add, logical
Cray C-90 1991 240 8 128 8: FP add, FP multiply, FP re- 4
ciprocal, integer add, 2 logical,
Convex C-4 1994 135 16 128 3: each is full integer, logical,
and FP (including multiply-add)
NEC SX/4 1995 400 8 + 8192 256 variable 16: 4 integer add/logical, 4 FP 8
multiply/divide, 4 FP add,
4 shift
Cray J-90 1995 100 8 64 4: FP add, FP multiply, FP re-
ciprocal, integer/logical
Cray T-90 1996 ~500 8 128 8: FP add, FP multiply, FP re- 4
ciprocal, integer add, 2 logical,
Figura 1.3: Caracterı́sticas de varias arquitecturas vectoriales.
f2 : Vj × Vk → Vi
Algunos ejemplos son: V1 = sin(V2 ) o V3 = V1 + V2 .
2. Vector-escalar: Son instrucciones en cuyos operandos interviene algún escalar y
el resultado es un vector. Si s es un escalar son las instrucciones que siguen el
siguiente tipo de función:
f3 : d × Vi → Vj
Un ejemplo es el producto escalar, que el resultado es un vector tras multiplicar el
vector origen por el escalar elemento a elemento.
3. Vector-memoria: Suponiendo que M es el comienzo de un vector en memoria,
se tienen las instrucciones de carga y almacenamiento de un vector:
f4 : M → V Carga del vector
f5 : V → M Almacenamiento del vector
4. Reducción de vectores: Son instrucciones cuyos operandos son vectores y el
resultado es un escalar, por eso se llaman de reducción. Los tipos de funciones que
describen estas instrucciones son los siguientes:
f6 : Vi → sj

f7 : Vi × Vj → sk
El máximo,Pla suma, la media, etc., son ejemplos de f6 , mientras que el producto
punto (s = ni=1 ai × bi ) es un ejemplo de f7 .
5. Reunir y Esparcir: Estas funciones sirven para almacenar/cargar vectores dis-
persos en memoria. Se necesitan dos vectores para reunir o esparcir el vector de/a
la memoria. Estas son las funciones para reunir y esparcir:
f8 : M → V1 × V0 Reunir
f9 : V 1 × V 0 → M Esparcir
La operación reunir toma de la memoria los elementos no nulos de un vector

disperso usando unos ı́ndices. La operación esparcir hace lo contrario, almacena
en la memoria un vector en un vector disperso cuyas entradas no nulas están
indexadas. El registro vectorial V1 contiene los datos y el V0 los ı́ndices de los
elementos no nulos.
6. Enmascaramiento: En estas instrucciones se utiliza un vector de máscara para
comprimir o expandir un vector a un vector ı́ndice. La aplicación que tiene lugar
es la siguiente:
f10 : V0 × Vm → V1
1.1.3 Ensamblador vectorial DLXV

En DLXV las operaciones vectoriales usan los mismos mnemotécnicos que las opera-
ciones DLX, pero añadiendo la letra V (ADDV). Si una de las entradas es un escalar
se indicará añadiendo el sufijo “SV” (ADDSV). La figura 1.4 muestra las instrucciones
vectoriales del DLXV.
Ejemplo: el bucle DAXPY
Existe un bucle tı́pico para evaluar sistemas vectoriales y multiprocesadores que consiste
en realizar la operación:
Y =a·X +Y
donde X e Y son vectores que residen inicialmente en memoria, mientras que a es
un escalar. A este bucle, que es bastante conocido, se le llama SAXPY o DAXPY
dependiendo de si la operación se realiza en simple o doble precisión. A esta operación
nos referiremos a la hora de hacer cálculos de rendimiento y poner ejemplos. Estos bucles
forman el bucle interno del benchmark Linpack. (SAXPY viene de single-precision a×X
plus Y; DAXPY viene de double-precision a×X plus Y.) Linpack es un conjunto de
rutinas de álgebra lineal, y rutinas para realizar el método de eliminación de Gauss.
Para los ejemplos que siguen vamos a suponer que el número de elementos, o lon-
gitud, de un registro vectorial coincide con la longitud de la operación vectorial en la
que estamos interesados. Más adelante se estudiará el caso en que esto no sea ası́.
Resulta interesante, para las explicaciones que siguen, dar los programas en ensam-
blador para realizar el cálculo del bucle DAXPY. El siguiente programa serı́a el código
escalar utilizando el juego de instrucciones DLX:

Instruction Operands Function

ADDV V1,V2,V3 Add elements of V2 and V3, then put each result in V1.
ADDSV V1,F0,V2 Add F0 to each element of V2, then put each result in V1.
SUBV V1,V2,V3 Subtract elements of V3 from V2, then put each result in V1.
SUBVS V1,V2,F0 Subtract F0 from elements of V2, then put each result in V1.
SUBSV V1,F0,V2 Subtract elements of V2 from F0, then put each result in V1.
MULTV V1,V2,V3 Multiply elements of V2 and V3, then put each result in V1.
MULTSV V1,F0,V2 Multiply F0 by each element of V2, then put each result in V1.
DIVV V1,V2,V3 Divide elements of V2 by V3, then put each result in V1.
DIVVS V1,V2,F0 Divide elements of V2 by F0, then put each result in V1.
DIVSV V1,F0,V2 Divide F0 by elements of V2, then put each result in V1.
LV V1,R1 Load vector register V1 from memory starting at address R1.
SV R1,V1 Store vector register V1 into memory starting at address R1.
LVWS V1,(R1,R2) Load V1 from address at R1 with stride in R2, i.e., R1+i × R2.
SVWS (R1,R2),V1 Store V1 from address at R1 with stride in R2, i.e., R1+i × R2.
LVI V1,(R1+V2) Load V1 with vector whose elements are at R1+V2(i), i.e., V2 is an index.
SVI (R1+V2),V1 Store V1 to vector whose elements are at R1+V2(i), i.e., V2 is an index.
CVI V1,R1 Create an index vector by storing the values 0, 1 × R1, 2 × R1,...,63 × R1
into V1.
S--V V1,V2 Compare the elements (EQ, NE, GT, LT, GE, LE) in V1 and V2. If condition is true,
S--SV F0,V1 put a 1 in the corresponding bit vector; otherwise put 0. Put resulting bit vector in
vector-mask register (VM). The instruction S--SV performs the same compare but
using a scalar value as one operand.
POP R1,VM Count the 1s in the vector-mask register and store count in R1.
CVM Set the vector-mask register to all 1s.
MOVI2S VLR,R1 Move contents of R1 to the vector-length register.
MOVS2I R1,VLR Move the contents of the vector-length register to R1.
MOVF2S VM,F0 Move contents of F0 to the vector-mask register.
MOVS2F F0,VM Move contents of vector-mask register to F0.
Figura 1.4: Instrucciones vectoriales del DLXV.
LD F0,a
ADDI R4,Rx,#512 ; última dirección a cargar
loop:
LD F2,0(Rx) ; carga X(i) en un registro
MULTD F2,F0,F2 ; a.X(i)
LD F4,0(Ry) ; carga Y(i) en un registro
ADDD F4,F2,F4 ; a.X(i)+Y(i)
SD 0(Ry),F4 ; almacena resultado en Y(i)
ADDI Rx,Rx,#8 ; incrementa el ı́ndice de X
ADDI Ry,Ry,#8 ; incrementa el ı́ndice de Y
SUB R20,R4,Rx ; calcula lı́mite
BNZ R20,loop ; comprueba si fin.
El programa correspondiente en una arquitectura vectorial, como la DLXV, serı́a

de la siguiente forma:
LD F0,a ; carga escalar a

LV V1,Rx ; carga vector X
MULTSV V2,F0,V1 ; a*X(i)
LV V3,Ry ; carga vector Y
ADDV V4,V2,V3 ; suma
SV Ry,V4 ; almacena el resultado
De los códigos anteriores se desprenden dos cosas. Por un lado la máquina vectorial
reduce considerablemente el número de instrucciones a ejecutar, ya que se requieren

sólo 6 frente a casi las 600 del bucle escalar. Por otro lado, en la ejecución escalar, debe
bloquearse la suma, ya que comparte datos con la multiplicación previa; en la ejecución
vectorial, tanto la multiplicación como la suma son independientes y, por tanto, no se
bloquea el cauce durante la ejecución de cada instrucción sino entre una instrucción y la
otra, es decir, una sola vez. Estos bloqueos se pueden eliminar utilizando segmentación
software o desarrollando el bucle, sin embargo, el ancho de banda de las instrucciones
será mucho más alto sin posibilidad de reducirlo.
1.1.4 Tiempo de ejecución vectorial

Tres son los factores que influyen en el tiempo de ejecución de una secuencia de opera-
ciones vectoriales:
• La longitud de los vectores sobre los que se opera.
• Los riesgos estructurales entre las operaciones.
• Las dependencias de datos.
Dada la longitud del vector y la velocidad de inicialización, que es la velocidad a
la cual una unidad vectorial consume nuevos operandos y produce nuevos resultados,
podemos calcular el tiempo para una instrucción vectorial. Lo normal es que esta
velocidad sea de uno por ciclo del reloj. Sin embargo, algunos supercomputadores
producen 2 o más resultados por ciclo de reloj, y otros, tienen unidades que pueden no
estar completamente segmentadas. Por simplicidad se supondrá que esta velocidad es
efectivamente la unidad.
Para simplificar la discusión del tiempo de ejecución se introduce la noción de convoy,
que es el conjunto de instrucciones vectoriales que podrı́an potencialmente iniciar su
ejecución en el mismo ciclo de reloj. Las instrucciones en un convoy no deben incluir
ni riesgos estructurales ni de datos (aunque esto se puede relajar más adelante); si
estos riesgos estuvieran presentes, las instrucciones potenciales en el convoy habrı́a
que serializarlas e inicializarlas en convoyes diferentes. Para simplificar diremos que
las instrucciones de un convoy deben terminar de ejecutarse antes que cualquier otra
instrucción, vectorial o escalar, pueda empezar a ejecutarse. Esto se puede relajar
utilizando un método más complejo de lanzar instrucciones.
Junto con la noción de convoy está la de toque o campanada (chime) que puede ser
usado para evaluar el rendimiento de una secuencia de vectores formada por convoyes.
Un toque o campanada es una medida aproximada del tiempo de ejecución para una
secuencia de vectores; la medida de la campanada es independiente de la longitud del
vector. Por tanto, para una secuencia de vectores que consiste en m convoyes se ejecuta
en m campanadas, y para una longitud de vector de n, será aproximadamente n × m
ciclos de reloj. Esta aproximación ignora algunas sobrecargas sobre el procesador que
además dependen de la longitud del vector. Por consiguiente, la medida del tiempo en
campanadas es una mejor aproximación para vectores largos. Se usará esta medida, en
vez de los periodos de reloj, para indicar explı́citamente que ciertas sobrecargas están
siendo ignoradas.
Para poner las cosas un poco más claras, analicemos el siguiente código y extraiga-
mos de él los convoyes:
LD F0,a ; carga el escalar en F0

LV V1,Rx ; carga vector X
MULTSV V2,F0,V1 ; multiplicación vector-escalar

LV V3,Ry ; carga vector Y

ADDV V4,V2,V3 ; suma vectorial
SV Ry,V4 ; almacena el resultado.
Dejando de lado la primera instrucción, que es puramente escalar, el primer convoy

lo ocupa la primera instrucción vectorial que es LV. La MULTSV depende de la primera
por eso no puede ir en el primer convoy, en cambio, la siguiente LV sı́ que puede. ADDV
depende de esta LV por tanto tendrá que ir en otro convoy, y SV depende de esta, ası́
que tendrá que ir en otro convoy aparte. Los convoyes serán por tanto:
1. LV
2. MULTSV LV
3. ADDV
4. SV
Como esta secuencia está formada por 4 convoyes requerirá 4 campanadas para su
ejecución.
Esta aproximación es buena para vectores largos. Por ejemplo, para vectores de 64
elementos, el tiempo en campanadas serı́a de 4, de manera que la secuencia tomarı́a
unos 256 ciclos de reloj. La sobrecarga de eventualmente lanzar el convoy 2 en dos
ciclos diferentes serı́a pequeña en comparación a 256.
Tiempo de arranque vectorial y tasa de inicialización
La fuente de sobrecarga más importante, no considerada en el modelo de campanadas,

es el tiempo de arranque vectorial. El tiempo de arranque viene de la latencia del cauce
de la operación vectorial y está determinada principalmente por la profundidad del
cauce en relación con la unidad funcional empleada. El tiempo de arranque incrementa
el tiempo efectivo en ejecutar un convoy en más de una campanada. Además, este
tiempo de arranque retrasa la ejecución de convoyes sucesivos. Por lo tanto, el tiempo
necesario para la ejecución de un convoy viene dado por el tiempo de arranque y la
longitud del vector. Si la longitud del vector tendiera a infinito, entonces el tiempo de
arranque serı́a despreciable, pero lo normal es que el tiempo de arranque sea de 6 a 12
ciclos, lo que significa un porcentaje alto en vectores tı́picos que como mucho rondarán
los 64 elementos o ciclos.
Operation Start-up penalty

Vector add 6
Vector multiply 7
Vector divide 20
Vector load 12
Figura 1.5: Penalización por el tiempo de arranque en el DLXV.
Siguiendo con el ejemplo mostrado anteriormente, supongamos que cargar y salvar

tienen un tiempo de arranque de 12 ciclos, la multiplicación 7 y la suma 6 tal y como se
desprende de la figura 1.5. Las sumas de los arranques de cada convoy para este ejemplo
serı́a 12+12+6+12=42, como estamos calculando el número de campanadas reales para

vectores de 64 elementos, la división 42/64=0.65 da el número de campanadas totales,

que será entonces 4.65, es decir, el tiempo de ejecución teniendo en cuenta la sobrecarga
de arranque es 1.16 veces mayor. En la figura 1.6 se muestra el tiempo en que se inicia
cada instrucción ası́ como el tiempo total para su ejecución en función de n que es el
número de elementos del vector.
Convoy Starting time First-result time Last-result time

1. LV 0 12 11 + n
2. MULTSV LV 12 + n 12 + n + 12 23 + 2n
3. ADDV 24 + 2n 24 + 2n + 6 29 + 3n
4. SV 30 + 3n 30 + 3n + 12 41 + 4n
Figura 1.6: Tiempos de arranque y del primer y último resultados para los convoys 1-4.
El tiempo de arranque de una instrucción es tı́picamente la profundidad del cauce

de la unidad funcional que realiza dicha instrucción. Si lo que se quiere es poder lanzar
una instrucción por ciclo de reloj (tasa de inicialización igual a uno), entonces
» ¼
Tiempo total de ejecución de la unidad
Profundidad del cauce = (1.1)
Periodo de reloj
Por ejemplo, si una operación necesita 10 ciclos de reloj para completarse, entonces
hace falta un cauce con una profundidad de 10 para que se pueda inicializar una ins-
trucción por cada ciclo de reloj. Las profundidades de las unidades funcionales varı́an
ampliamente (no es raro ver cauces de profundidad 20) aunque lo normal es que tengan
profundidades entre 4 y 8 ciclos.
1.1.5 Unidades de carga/almacenamiento vectorial

El comportamiento de la unidad de carga/almacenamiento es más complicado que el
de las unidades aritméticas. El tiempo de arranque para una carga es el tiempo para
coger la primera palabra de la memoria y guardarla en un registro. Si el resto del vector
se puede coger sin paradas, la tasa de inicialización es la misma que la velocidad a la
que las nuevas palabras son traı́das y almacenadas. Al contrario que en las unidades
funcionales, la tasa de inicialización puede no ser necesariamente una instrucción por
ciclo.
Normalmente, el tiempo de arranque para las unidades de carga/almacenamiento
es algo mayor que para las unidades funcionales, pudiendo llegar hasta los 50 ciclos.
Tı́picamente, estos valores rondan entre los 9 y los 17 ciclos (Cray 1 y Cray X-MP)
Para conseguir una tasa (o velocidad) de inicialización de una palabra por ciclo,
el sistema de memoria debe ser capaz de producir o aceptar esta cantidad de datos.
Esto se puede conseguir mediante la creación de bancos de memoria múltiples como se
explica en la sección 1.2. Teniendo un número significativo de bancos se puede conseguir
acceder a la memoria por filas o por columnas de datos.
El número de bancos en la memoria del sistema para las unidades de carga y alma-
cenamiento, ası́ como la profundidad del cauce en unidades funcionales son de alguna

1.2 Memoria entrelazada o intercalada 11
manera equivalentes, ya que ambas determinan las tasas de inicialización de las ope-
raciones utilizando estas unidades. El procesador no puede acceder a un banco de
memoria más deprisa que en un ciclo de reloj. Para los sistemas de memoria que sopor-
tan múltiples accesos vectoriales simultáneos o que permiten accesos no secuenciales en
la carga o almacenamiento de vectores, el número de bancos de memoria deberı́a ser
más grande que el mı́nimo, de otra manera existirı́an conflictos en los bancos.
1.2 Memoria entrelazada o intercalada

La mayor parte de esta sección se encuentra en el [Hwa93], aunque se puede encontrar
una pequeña parte en el [HP96] en el capı́tulo dedicado a los procesadores vectoriales.
Para poder salvar el salto de velocidad entre la CPU/caché y la memoria principal
realizada con módulos de RAM, se presenta una técnica de entrelazado que permite el
acceso segmentado a los diferentes módulos de memoria paralelos.
Vamos a suponer que la memoria principal se encuentra construida a partir de varios
módulos. Estos módulos de memoria se encuentran normalmente conectados a un bus
del sistema, o a una red de conmutadores, a la cual se conectan otros dispositivos del
sistema como procesadores o subsistemas de entrada/salida.
Cuando se presenta una dirección en un módulo de memoria esta devuelve la palabra
correspondiente. Es posible presentar diferentes direcciones a diferentes módulos de
memoria de manera que se puede realizar un acceso paralelo a diferentes palabras de
memoria. Ambos tipos de acceso, el paralelo y el segmentado, son formas paralelas
practicadas en una organización de memoria paralela.
Consideremos una memoria principal formada por m = 2a módulos, cada uno con
w = 2b palabras o celdas de memoria. La capacidad total de la memoria es m w = 2a+b
palabras. A estas palabras se les asignan direcciones de forma lineal. Las diferentes
formas en las que se asignan linealmente las direcciones producen diferentes formas de
organizar la memoria.
Aparte de los accesos aleatorios, la memoria principal es accedida habitualmente
mediante bloques de direcciones consecutivas. Los accesos en bloque son necesarios
para traerse una secuencia de instrucciones o para acceder a una estructura lineal de
datos, etc. En un sistema basado en cache la longitud del bloque suele corresponderse
con la longitud de una lı́nea en la caché, o con varias lı́neas de caché. También en
los procesadores vectoriales el acceso a la memoria tiene habitualmente una estructura
lineal, ya que los elementos de los vectores se encuentran consecutivos. Por todo es-
to, resulta preferible diseñar la memoria principal para facilitar el acceso en bloque a
palabras contiguas.
La figura 1.7 muestra dos formatos de direcciones para realizar una memoria entre-
lazada. El entrelazado de orden bajo (figura 1.7(a)) reparte las localizaciones contiguas
de memoria entre los m módulos de forma horizontal. Esto implica que los a bits de
orden bajo de la dirección se utilizan para identificar el módulo de memoria. Los b bits
de orden más alto forman la dirección de la palabra dentro de cada módulo. Hay que
hacer notar que la misma dirección de palabra está siendo aplicada a todos los módulos
de forma simultánea. Un decodificador de direcciones se emplea para distribuir la se-
lección de los módulos. Este esquema no es bueno para tolerancia a fallos, ya que en
caso de fallo de un módulo toda la memoria queda inutilizable.

El entrelazado de orden alto (figura 1.7(b)) utiliza los a bits de orden alto como
selector de módulo, y los b bits de orden bajo como la dirección de la palabra dentro
de cada módulo. Localizaciones contiguas en la memoria están asignadas por tanto a
un mismo módulo de memoria. En un ciclo de memoria, sólo se accede a una palabra
del módulo. Por lo tanto, el entrelazado de orden alto no permite el acceso en bloque a
posiciones contiguas de memoria. Este esquema viene muy bien para tolerancia a fallos.
Por otro lado, el entrelazado de orden bajo soporta el acceso de bloque de forma
segmentada. A no ser que se diga otra cosa, se supondrá para el resto del capı́tulo que
la memoria es del tipo entrelazado de orden bajo.
Buffer de las
direcciones de
Decodificador BDM BDM BDM módulo
Direcciones
0 M0 1 M1 m-1 M m-1
Dirección a m m+1 2m-1
de memoria
Palabra Módulo
m(w-1) m(w-1)+1 mw-1
b
Buffer de
BDP dirección BDM BDM BDM Buffer de
de palabra datos de memoria
Bus de datos
(a) Memoria de m vı́as entrelazada de orden bajo (esquema C de acceso

a memoria).
Buffer de las
direcciones de
Decodificador BDM BDM BDM módulo
Direcciones
0 M0 w M1 (m-1)w M m-1
a Dirección 1 w+1 (m-1)w+1
de memoria
Módulo Palabra
w-1 2w-1 mw-1
b
Buffer de
dirección BDP BDM BDM BDM Buffer de
de palabra datos de memoria
Bus de datos
(b) Memoria de m vı́as entrelazada de orden alto.
Figura 1.7: Dos organizaciones de memoria entrelazada con m = 2a módulos y w = 2a

palabras por módulo.
Ejemplo de memoria modular en un procesador vectorial
Supongamos que queremos captar un vector de 64 elementos que empieza en la dirección

136, y que un acceso a memoria supone 6 ciclos de reloj. ¿Cuántos bancos de memoria
debemos tener para acceder a cada elemento en un único ciclo de reloj? ¿Con qué
dirección se accede a estos bancos? ¿Cuándo llegarán los elementos a la CPU?.

Respuesta Con seis ciclos por acceso, necesitamos al menos seis bancos de memoria,
pero como queremos que el número de bancos sea potencia de dos, elegiremos ocho
bancos. La figura 1.1 muestra las direcciones a las que se accede en cada banco en cada
periodo de tiempo.
Beginning Bank
at clock no. 0 1 2 3 4 5 6 7
0 192 136 144 152 160 168 176 184
6 256 200 208 216 224 232 240 248
14 320 264 272 280 288 296 304 312
22 384 328 336 344 352 360 368 376
Tabla 1.1: Direcciones de memoria (en bytes) y momento en el cual comienza el acceso
a cada banco.
La figura 1.8 muestra la temporización de los primeros accesos a un sistema de ocho

bancos con una latencia de acceso de seis ciclos de reloj. Existen dos observaciones
importantes con respecto a la tabla 1.1 y la figura 1.8: La primera es que la dirección
exacta proporcionada por un banco está muy determinada por los bits de menor orden;
sin embargo, el acceso inicial a un banco está siempre entre las ocho primeras dobles
palabras de la dirección inicial. La segunda es que una vez se ha producido la latencia
inicial (seis ciclos en este caso), el patrón es acceder a un banco cada n ciclos, donde n
es el número total de bancos (n = 8 en este caso).
Next access# Next access# Deliver #
Memory# + deliver last# + deliver last# last#
Action access 8 words 8 words 8 words
Time
0 6 14 22 62 70
Figura 1.8: Tiempo de acceso para las primeras 64 palabras de doble precisión en una
lectura.
1.2.1 Acceso concurrente a memoria (acceso C)

Los accesos a los m módulos de una memoria se pueden solapar de forma segmentada.
Para esto, el ciclo de memoria (llamado ciclo mayor de memoria se subdivide en m
ciclos menores.
Sea θ el tiempo para la ejecución del ciclo mayor y τ para el menor. Estos dos
tiempos se relacionan de la siguiente manera:
θ
τ= (1.2)
m
donde m es el grado de entrelazado. La temporización del acceso segmentado de 8 pala-
bras contiguas en memoria se muestra en la figura 1.9. A este tipo de acceso concurrente
a palabras contiguas se le llama acceso C a memoria. El ciclo mayor θ es el tiempo
total necesario para completar el acceso a una palabra simple de un módulo. El ciclo

menor τ es el tiempo necesario para producir una palabra asumiendo la superposición

de accesos de módulos de memoria sucesivos separados un ciclo menor τ .
Hay que hacer notar que el acceso segmentado al bloque de 8 palabras contiguas
está emparedado entre otros accesos de bloque segmentados antes y después del bloque
actual. Incluso a pesar de que el tiempo total de acceso del bloque es 2θ, el tiempo
efectivo de acceso de cada palabra es solamente τ al ser la memoria contiguamente
accedida de forma segmentada.
W7
W6
W5 θ Ciclo mayor
W4
W3 τ=θ/m Ciclo menor
W2
W1 m Grado de entrelazado
W0
θ τ Tiempo
2θ
Figura 1.9: Acceso segmentado a 8 palabras contiguas en una memoria de acceso C.
1.2.2 Acceso simultáneo a memoria (acceso S)

La memoria entrelazada de orden bajo puede ser dispuesta de manera que permita
accesos simultáneos, o accesos S, tal y como se muestra en la figura 1.10.
Ciclo de búsqueda Ciclo de acceso

Latch
Lectura Módulo
0
Escritura
Módulo Acceso a palabra
1 Multiplexor
Módulo
m-1
(n-a) bits
de orden alto
a bits de orden bajo
Figura 1.10: Organización de acceso S para una memoria entrelazada de m vı́as.
Al final de cada ciclo de memoria, m = 2a palabras consecutivas son capturadas en

los buffers de datos de forma simultánea. Los a bits de orden bajo se emplean entonces
para multiplexar las m palabras hacia fuera, una por cada ciclo menor. Si se elige el
ciclo menor para que valga un 1/m de la duración del ciclo mayor (Ec. 1.2), entonces
se necesitan dos ciclos de memoria para acceder a m palabras consecutivas.

Sin embargo, si la fase de acceso del último acceso, se superpone con la fase de
búsqueda del acceso actual, entonces son m palabras las que pueden ser accedidas en
un único ciclo de memoria.
1.2.3 Memoria de acceso C/S

Una organización de memoria que permite los accesos de tipo C y también los de tipo
S se denomina memoria de acceso C/S. Este esquema de funcionamiento se muestra
en la figura 1.11, donde n buses de acceso se utilizan junto a m módulos de memoria
entrelazada conectados a cada bus. Los m módulos en cada bus son entrelazados de m
vı́as para permitir accesos C. Los n buses operan en paralelo para permitir los accesos
S. En cada ciclo de memoria, al menos m · n palabras son capturadas si se emplean
completamente los n buses con accesos a memoria segmentados.
Procesadores Memorias
P(0) MC(0)
Interconexión M(0,0) M(0,1) M(0,m-1)
P(1) MC(1)
Barra
Cruzada M(1,0) M(1,1) M(1,m-1)
P(n-1) MC(n-1)
M(n-1,0) M(n-1,1) M(n-1,m-1)
Figura 1.11: Organización de acceso C/S.
La memoria C/S está especialmente indicada para ser usada en configuraciones de

multiprocesadores vectoriales, ya que provee acceso segmentado en paralelo de un con-
junto vectorial de datos con un alto ancho de banda. Una cache vectorial especialmente
diseñada es necesaria en el interior de cada módulo de proceso para poder garantizar
el movimiento suave entre la memoria y varios procesadores vectoriales.
1.2.4 Rendimiento de la memoria entrelazada y tolerancia a

fallos
Con la memoria pasa algo parecido que con los procesadores: no por poner m módulos
paralelos en el sistema de memoria se puede acceder m veces más rápido. Existe un
modelo más o menos empı́rico que da el aumento del ancho de banda por el hecho
de aumentar el número de bancos de la memoria. Este modelo fue introducido por
Hellerman y da el ancho de banda B en función del número de bancos m:
√
B = m0.56 ≈ m
Esta raı́z cuadrada da una estimación pesimista del aumento de las prestaciones de
la memoria. Si por ejemplo se ponen 16 módulos en la memoria entrelazada, sólo se
obtiene un aumento de 4 veces el ancho de banda. Este resultado lejano a lo esperado
viene de que en la memoria principal de los multiprocesadores los accesos entrelazados
se mezclan con los accesos simples o con los accesos de bloque de longitudes dispares.

Para los procesadores vectoriales esta estimación no es realista, ya que las tran-
sacciones con la memoria suelen ser casi siempre vectoriales y, por tanto, pueden ser
fácilmente entrelazadas.
En 1992 Cragon estimó el tiempo de acceso a una memoria entrelazada vectorial de
la siguiente manera: Primero se supone que los n elementos de un vector se encuen-
tran consecutivos en una memoria de m módulos. A continuación, y con ayuda de la
figura 1.9, no es difı́cil inferir que el tiempo que tarda en accederse a un vector de n
elementos es la suma de lo que tarda el primer elemento (θ), que tendrá que recorrer
todo el cauce, y lo que tardan los (n − 1) elementos restantes (θ(n − 1)/m) que estarán
completamente encauzados. El tiempo que tarda un elemento (t1 ) se obtiene entonces
dividiendo lo que tarda el vector completo entre n:
θ(n − 1) µ ¶ µ ¶
θ+ θ θ(n − 1) θ m n−1 θ m−1
t1 = m = + = + = 1+
n n nm m n n m n
Por lo tanto el tiempo medio t1 requerido para acceder a un elemento en la memoria

ha resultado ser: µ ¶
θ m−1
t1 = 1+
m n
Cuando n → ∞ (vector muy grande), t1 → θ/m = τ tal y como se derivó en la
ecuación (1.2). Además si m = 1, no hay memoria entrelazada y t1 = θ. La ecuación
que se acaba de obtener anuncia que la memoria entrelazada se aprovecha del acceso
segmentado de los vectores, por lo tanto, cuanto mayor es el vector más rendimiento se
obtiene.
Tolerancia a fallos
La división de la memoria en bancos puede tener dos objetivos: por un lado permite un
acceso concurrente lo que disminuye el acceso a la memoria (memoria entrelazada), por
otro lado se pueden configurar los módulos de manera que el sistema de memoria pueda
seguir funcionando en el caso de que algún módulo deje de funcionar. Si los módulos
forman una memoria entrelazada el tiempo de acceso será menor pero el sistema no
será tolerante a fallos, ya que al perder un módulo se pierden palabras en posiciones
salteadas en toda la memoria, con lo que resulta difı́cil seguir trabajando. Si por el
contrario los bancos se han elegido por bloques de memoria (entrelazado de orden alto)
en vez de palabras sueltas, en el caso en que falle un bloque lo programas podrán seguir
trabajando con los bancos restantes aislándose ese bloque de memoria erróneo del resto.
En muchas ocasiones interesa tener ambas caracterı́sticas a un tiempo, es decir, por
un lado interesa tener memoria entrelazada de orden bajo para acelerar el acceso a la
memoria, pero por otro interesa también una memoria entrelazada de orden alto para
tener la memoria dividida en bloques y poder seguir trabajando en caso de fallo de un
módulo o banco. Para estos casos en que se requiere alto rendimiento y tolerancia a
fallos se puede diseñar una memoria mixta que contenga módulos de acceso entrelazado,
y bancos para tolerancia a fallos.
La figura 1.12 muestra dos alternativas que combinan el entrelazado de orden alto
con el de orden bajo. Ambas alternativas ofrecen una mejora del rendimiento de la me-
moria junto con la posibilidad de tolerancia a fallos. En el primer ejemplo (figura 1.12a)

se muestra una memoria de cuatro módulos de orden bajo y dos bancos de memoria.
En el segundo ejemplo (figura 1.12b) se cuenta con el mismo número de módulos pero
dispuestos de manera que hay un entrelazado de dos módulos y cuatro bancos de me-
moria. El primer ejemplo presenta un mayor entrelazado por lo que tendrá un mayor
rendimiento que el segundo, pero también presenta menos bancos por lo que en caso
de fallo se pierde una mayor cantidad de memoria, aparte de que el daño que se puede
causar al sistema es mayor.
Figura 1.12: Dos organizaciones de memoria entrelazada usando 8 módulos: (a) 2

bancos y 4 módulos entrelazados, (b) 4 bancos y 2 módulos entrelazados.
Si la tolerancia a fallos es fundamental para un sistema, entonces hay que establecer

un compromiso entre el grado de entrelazado para aumentar la velocidad y el número de
bancos para aumentar la tolerancia a fallos. Cada banco de memoria es independiente
de las condiciones de otros bancos y por tanto ofrece un mejor aislamiento en caso de
averı́a.

1.3 Longitud del vector y separación de elementos

Esta sección pretende dar respuesta a dos problemas que surgen en la vida real, uno
es qué hacer cuando la longitud del vector es diferente a la longitud de los registros
vectoriales (por ejemplo 64 elementos), y la otra es cómo acceder a la memoria si los
elementos del vector no están contiguos o se encuentran dispersos.
1.3.1 Control de la longitud del vector

La longitud natural de un vector viene determinada por el número de elementos en los
registros vectoriales. Esta longitud, casi siempre 64, no suele coincidir muchas veces
con la longitud de los vectores reales del programa. Aun más, en un programa real
se desconoce incluso la longitud de cierto vector u operación incluso en tiempo de
compilación. De hecho, un mismo trozo de código puede requerir diferentes longitudes
en función de parámetros que cambien durante la ejecución de un programa. El siguiente
ejemplo en Fortran muestra justo este caso:
do 10 i=1,n
10 Y(i)=a*X(i)+Y(i)
La solución de estos problemas es la creación de un registro de longitud vectorial VLR

(Vector-Length register). El VLR controla la longitud de cualquier operación vectorial
incluyendo las de carga y almacenamiento. De todas formas, el vector en el VLR no
puede ser mayor que la longitud de los registros vectoriales. Por lo tanto, esto resuelve
el problema siempre que la longitud real sea menor que la longitud vectorial máxima
MVL (Maximum Vector Length) definida por el procesador.
Para el caso en el que la longitud del vector real sea mayor que el MVL se utiliza
una técnica denominada seccionamiento (strip mining). El seccionamiento consiste en la
generación de código de manera que cada operación vectorial se realiza con un tamaño
inferior o igual que el del MVL. Esta técnica es similar a la de desenrollamiento de
bucles, es decir, se crea un bucle que consiste en varias iteraciones con un tamaño como
el del MVL, y luego otra iteración más que será siempre menor que el MVL. La versión
seccionada del bucle DAXPY escrita en Fortran se da a continuación:
low=1
VL=(n mod MVL) /* Para encontrar el pedazo aparte */
do 1 j=0,(n/MVL) /* Bucle externo */
do 10 i=low,low+VL-1 /* Ejecuta VL veces */
Y(i)=a*X(i)+Y(i) /* Operación principal */
10 continue
low=low+VL /* Comienzo del vector siguiente */
VL=MVL /* Pone la longitud al máximo */
1 continue
En este bucle primero se calcula la parte que sobra del vector (que se calcula con el
modulo de n y MVL) y luego ejecuta ya las veces que sea necesario con una longitud de
vector máxima. O sea, el primer vector tiene una longitud de (n mod MVL) y el resto
tiene una longitud de MVL tal y como se muestra en la figura 1.13. Normalmente los
compiladores hacen estas cosas de forma automática.
Junto con la sobrecarga por el tiempo de arranque, hay que considerar la sobrecarga
por la introducción del bucle del seccionamiento. Esta sobrecarga por seccionamiento,

1.3 Longitud del vector y separación de elementos 19
Value of j 0 12 3 ... ... n/MVL
Range of i 1..m (m+1).. (m+ (m+2 * ... ... (n-MVL

m+MVL MVL+1) MVL+1) +1).. n
.. m+2 * ..m+3 *
MVL MVL
Figura 1.13: Un vector de longitud arbitraria procesado mediante seccionamiento. To-

dos los bloques menos el primero son de longitud MVL. En esta figura, la variable m
se usa en lugar de la expresión (n mod M V L).
que aparece de la necesidad de reiniciar la secuencia vectorial y asignar el VLR, efec-

tivamente se suma al tiempo de arranque del vector, asumiendo que el convoy no se
solapa con otras instrucciones. Si la sobrecarga de un convoy es de 10 ciclos, entonces
la sobrecarga efectiva por cada 64 elementos se incrementa en 10, o lo que es lo mismo
0.15 ciclos por elemento del vector real.
1.3.2 Cálculo del tiempo de ejecución vectorial

Con todo lo visto hasta ahora se puede dar un modelo sencillo para el cálculo del tiempo
de ejecución de las instrucciones en un procesador vectorial. Repasemos estos costes:
1. Por un lado tenemos el número de convoyes en el bucle que nos determina el
número de campanadas. Usaremos la notación Tcampanada para indicar el tiempo
en campanadas.
2. La sobrecarga para cada secuencia seccionada de convoyes. Esta sobrecarga con-
siste en el coste de ejecutar el código escalar para seccionar cada bloque, Tbucle ,
más el coste de arranque para cada convoy, Tarranque .
3. También podrı́a haber una sobrecarga fija asociada con la preparación de la se-
cuencia vectorial la primera vez, pero en procesadores vectoriales modernos esta
sobrecarga se ha convertido en algo muy pequeño por lo que no se considerará en
la expresión de carga total. En algunos libros donde todavı́a aparece este tiempo
se le llama Tbase .
Con todo esto se puede dar una expresión para calcular el tiempo de ejecución para
una secuencia vectorial de operaciones de longitud n, que llamaremos Tn :
l n m
Tn = × (Tbucle + Tarranque ) + n × Tcampanada (1.3)
MVL
Los valores para Tarranque , Tbucle y Tcampanada dependen del procesador y del compilador
que se utilice. Un valor tı́pico para Tbucle es 15 (Cray 1). Podrı́a parecer que este tiempo
deberı́a ser mayor, pero lo cierto es que muchas de las operaciones de esta sobrecarga
se solapan con las instrucciones vectoriales.
Para aclarar todo esto veamos un ejemplo. Se trata de averiguar el tiempo que
tarda un procesador vectorial en realizar la operación A = B × s, donde s es un escalar,
A y B son vectores con una longitud de 200 elementos. Lo que se hace primero es
ver el código en ensamblador que realiza esta operación. Para ello supondremos que las
direcciones de A y B son inicialmente Ra y Rb, y que s se encuentra en Fs. Supondremos
que R0 siempre contiene 0 (DLX). Como 200 mod 64=8, la primera iteración del bucle
seccionado se realizará sobre un vector de longitud 8, y el resto con una longitud de

64 elementos. La dirección del byte de comienzo del segmento siguiente de cada vector
es ocho veces la longitud del vector. Como la longitud del vector es u ocho o 64, se
incrementa el registro de dirección por 8 × 8 = 64 después del primer segmento, y por
8 × 64 = 512 para el resto. El número total de bytes en el vector es 8 × 200 = 1600, y se
comprueba que ha terminado comparando la dirección del segmento vectorial siguiente
con la dirección inicial más 1600. A continuación se da el código:
ADDI R2,R0,#1600 ; Bytes en el vector

ADD R2,R2,Ra ; Final del vector A
ADDI R1,R0,#8 ; Longitud del 1er segmento
MOVI2S VLR,R1 ; Carga longitud del vector en VLR
ADDI R1,R0,#64 ; Longitud del 1er segmento
ADDI R3,R0,#64 ; Longitud del resto de segmentos
LOOP: LV V1,Rb ; Carga B
MULTVS V2,V1,Fs ; Vector * escalar
SV Ra,V2 ; Guarda A
ADD Ra,Ra,R1 ; Dirección del siguiente segmento de A
ADD Rb,Rb,R1 ; Dirección del siguiente segmento de B
ADDI R1,R0,#512 ; Byte offset del siguiente segmento
MOVI2S VLR,R3 ; Longitud 64 elementos
SUB R4,R2,Ra ; Final de A?
BNZ R4,LOOP ; sino, repite.
Las tres instrucciones vectoriales del bucle dependen unas de otras y deben ir en
tres convoyes separados, por lo tanto Tcampanada = 3. El tiempo del bucle ya habı́amos
dicho que ronda los 15 ciclos. El valor del tiempo de arranque será la suma de tres
cosas:
• El tiempo de arranque de la instrucción de carga, que supondremos 12 ciclos.
• El tiempo de arranque de la multiplicación, 7 ciclos.
• El tiempo de arranque del almacenamiento, otros 12 ciclos.
Por lo tanto obtenemos un valor Tarranque = 12 + 7 + 12 = 31 ciclos de reloj. Con todo
esto, y aplicando la ecuación (1.3), se obtiene un tiempo total de proceso de T200 = 784
ciclos de reloj. Si dividimos por el número de elementos obtendremos el tiempo de
ejecución por elemento, es decir, 784/200 = 3.9 ciclos de reloj por elemento del vector.
Comparado con Tcampanada , que es el tiempo sin considerar las sobrecargas, vemos que
efectivamente la sobrecarga puede llegar a tener un valor significativamente alto.
Resumiendo las operaciones realizadas se tiene el siguiente proceso hasta llegar al
resultado final:
l n m
Tn = × (Tloop + Tarranque ) + n × Tcampanada
MV L
T200 = 4 × (15 + Tstart ) + 200 × 3
T200 = 60 + (4 × Tstart ) + 600 = 660 + (4 × Tstart )
Tstart=12+7+12=31
T200 = 660 + 4 × 31 = 784
La figura 1.14 muestra la sobrecarga y el tiempo total de ejecución por elemento

del ejemplo que estamos considerando. El modelo que sólo considera las campanadas
tendrı́a un coste de 3 ciclos, mientras que el modelo más preciso que incorpora la
sobrecarga añade 0.9 a este valor.

1.3 Longitud del vector y separación de elementos 21
6
Ciclos de reloj por elemento
Tiempo total por elemento

4
Sobrecarga total por elemento

1
0
20 40 60 80 100 120 140 160 180 200
Elementos en el vector
Figura 1.14: Tiempo de ejecución por elemento en función de la longitud del vector.
1.3.3 Separación de elementos en el vector

El otro problema que se presenta en la programación real es que la posición en memoria
de elementos adyacentes no siempre son contiguas. Por ejemplo, consideremos el código
tı́pico para multiplicación de matrices:
do 10 i=1,100
do 10 j=1,100
A(i,j)=0.0
do 10 k=1,100
10 A(i,j)=A(i,j)+B(i,k)*C(k,j)
En la sentencia con etiqueta 10, se puede vectorizar la multiplicación de cada fila

de B con cada columna de C, y seccionar el bucle interior usando k como variable
ı́ndice. Cuando una matriz se ubica en memoria, se lineariza organizándola en filas
o en columnas. El almacenamiento por filas, utilizado por muchos lenguajes menos
el Fortran, consiste en asignar posiciones consecutivas a elementos consecutivos en la
fila, haciendo adyacentes los elementos B(i, j) y B(i, j + 1). El almacenamiento por
columnas, utilizado en Fortran, hace adyacentes los elementos B(i, j) y B(i + 1, j).
Suponiendo que utilizamos el almacenamiento por columnas de Fortran nos encon-
tramos con que los accesos a la matriz B no son adyacentes en memoria sino que se
encuentran separados por una fila completa de elementos. En este caso, los elemen-
tos de B que son accedidos en el lazo interior, están separados por el tamaño de fila
multiplicado por 8 (número de bytes por elemento) lo que hace un total de 800 bytes.
A esta distancia en memoria entre elementos consecutivos se le llama separación
(stride). Con el ejemplo que estamos viendo podemos decir que los elementos de C

tienen una separación de 1, (1 palabra doble, 8 bytes), mientras que la matriz B tiene
una separación de 100 (100 palabras dobles, 800 bytes).
Una vez cargados estos elementos adyacentes en el registro vectorial, los elementos
son lógicamente contiguos. Por todo esto, y para aumentar el rendimiento de la carga
y almacenamiento de vectores con elementos separados, resulta interesante disponer de
instrucciones que tengan en cuenta la separación entre elementos contiguos de un vector.
La forma de introducir esto en el lenguaje ensamblador es mediante la incorporación
de dos instrucciones nuevas, una de carga y otra de almacenamiento, que tengan en
cuenta no sólo la dirección de comienzo del vector, como hasta ahora, sino también el
paso o la separación entre elementos. En DLXV, por ejemplo, existen las instrucciones
LVWS para carga con separación, y SVWS para almacenamiento con separación. Ası́, la
instrucción LVWS V1,(R1,R2) carga en V1 lo que hay a partir de R1 con un paso o
separación de elementos de R2, y SVWS (R1,R2),V1 guarda los elementos del vector V1
en la posición apuntada por R1 con paso R2.
Naturalmente, el que los elementos no estén separados de forma unitaria crea com-
plicaciones en la unidad de memoria. Se habı́a comprobado que una operación memoria-
registro vectorial podı́a proceder a velocidad completa si el número de bancos en me-
moria era al menos tan grande el tiempo de acceso a memoria en ciclos de reloj. Sin
embargo, para determinadas separaciones entre elementos, puede ocurrir que accesos
consecutivos se realicen al mismo banco, llegando incluso a darse el caso de que todos
los elementos del vector se encuentren en el mismo banco. A esta situación se le llama
conflicto del banco de memoria y hace que cada carga necesite un mayor tiempo de
acceso a memoria. El conflicto del banco de memoria se presenta cuando se le pide al
mismo banco que realice un acceso cuando el anterior aún no se habı́a completado. Por
consiguiente, la condición para que se produzca un conflicto del banco de memoria será:
Mı́n. común mult.(separación, núm. módulos)

< Latencia acceso a memoria
Separación
Los conflictos en los módulos no se presentan si la separación entre los elementos y

el número de bancos son relativamente primos entre sı́, y además hay suficientes bancos
para evitar conflictos en el caso de separación unitaria. El aumento de número de
bancos de memoria a un número mayor del mı́nimo, para prevenir detenciones con una
separación 1, disminuirá la frecuencia de detenciones para las demás separaciones. Por
ejemplo, con 64 bancos, una separación de 32 parará cada dos accesos en lugar de cada
acceso. Si originalmente tuviésemos una separación de 8 con 16 bancos, pararı́a cada
dos accesos; mientras que con 64 bancos, una separación de 8 parará cada 8 accesos. Si
tenemos acceso a varios vectores simultáneamente, también se necesitarán más bancos
para prevenir conflictos. La mayorı́a de supercomputadores vectoriales actuales tienen
como mı́nimo 64 bancos, y algunos llegan a 512.
Veamos un ejemplo. Supongamos que tenemos 16 bancos de memoria con un tiempo
de acceso de 12 ciclos de reloj. Calcular el tiempo que se tarda en leer un vector de 64
elementos separados unitariamente. Repetir el cálculo suponiendo que la separación es
de 32. Como el número de bancos es mayor que la latencia, la velocidad de acceso será
de elemento por ciclo, por tanto 64 ciclos, pero a esto hay que añadirle el tiempo de
arranque que supondremos 12, por tanto la lectura se realizará en 12 + 64 = 76 ciclos de
reloj. La peor separación es aquella en la que la separación sea un múltiplo del número
de bancos, como en este caso que tenemos una separación de 32 y 16 bancos. En este
caso siempre se accede al mismo banco con lo que cada acceso colisiona con el anterior,

1.4 Mejora del rendimiento de los procesadores vectoriales 23
esto nos lleva a un tiempo de acceso de 12 ciclos por elemento y un tiempo total de
12 × 64 = 768 ciclos de reloj.
1.4 Mejora del rendimiento de los procesadores vec-

toriales
1.4.1 Encadenamiento de operaciones vectoriales
Hasta ahora, se habı́an considerado separadas, y por tanto en convoyes diferentes,
instrucciones sobre vectores que utilizaran el mismo o los mismos registros vectoriales.
Este es el caso, por ejemplo de dos instrucciones como
MULTV V1,V2,V3
ADDV V4,V1,V5
Si se trata en este caso al vector V1 no como una entidad, sino como una serie de
elementos, resulta sencillo entender que la operación de suma pueda iniciarse unos ciclos
después de la de multiplicación, y no después de que termine, ya que los elementos que la
suma puede ir necesitando ya los ha generado la multiplicación. A esta idea, que permite
solapar dos instrucciones, se le llama encadenamiento. El encadenamiento permite que
una operación vectorial comience tan pronto como los elementos individuales de su
operando vectorial fuente estén disponibles, es decir, los resultados de la primera unidad
funcional de la cadena se adelantan a la segunda unidad funcional. Naturalmente deben
ser unidades funcionales diferentes, de lo contrario surge un conflicto temporal.
Si las unidades están completamente segmentadas, basta retrasar el comienzo de la
siguiente instrucción durante el tiempo de arranque de la primera unidad. El tiempo
total de ejecución para la secuencia anterior serı́a:
Longitud del vector + Tiempo de arranque suma + Tiempo de arranque multiplicación
La figura 1.15 muestra los tiempos de una versión de ejecución no encadenada y

de otra encadenada del par de instrucciones anterior suponiendo una longitud de 64
elementos. El tiempo total de la ejecución encadenada es de 77 ciclos de reloj que es
sensiblemente inferior a los 145 ciclos de la ejecución sin encadenar. Con 128 operaciones
en punto flotante realizadas en ese tiempo, se obtiene 1.7 FLOP por ciclo de reloj,
mientras que con la versión no encadenada la tasa serı́a de 0.9 FLOP por ciclo de reloj.
1.4.2 Sentencias condicionales

Se puede comprobar mediante programas de test, que los niveles de vectorización en
muchas aplicaciones no son muy altos [HP96]. Debido a la ley de Amdahl el aumento
de velocidad en estos programas está muy limitado. Dos razones por las que no se
obtiene un alto grado de vectorización son la presencia de condicionales (sentencias
if) dentro de los bucles y el uso de matrices dispersas. Los programas que contienen
sentencias if en los bucles no se pueden ejecutar en modo vectorial utilizando las técnicas
expuestas en este capı́tulo porque las sentencias condicionales introducen control de flujo
en el bucle. De igual forma, las matrices dispersas no se pueden tratar eficientemente

7 64 6 64
No encadenada Total=141
MULTV ADDV
7 64
MULTV
Encadenada
6 64
Total=77
ADDV
Figura 1.15: Temporización para la ejecución no encadenada y encadenada.
utilizando algunas de las capacidades que se han mostrado; esto es por ejemplo un factor
importante en la falta de vectorización de Spice. Se explican a continuación algunas
técnicas para poder ejecutar de forma vectorial algunas de estas estructuras.
Dado el siguiente bucle:
do 100 i=1,64
if (A(i) .ne. 0) then
A(i)=A(i)-B(i)
endif
100 continue
Este bucle no puede vectorizarse a causa de la ejecución condicional del cuerpo.

Sin embargo, si el bucle anterior se pudiera ejecutar en las iteraciones para las cuales
A(i) 6= 0 entonces se podrı́a vectorizar la resta. Para solucionarlo se emplea una máscara
sobre el vector.
El control de máscara vectorial es un vector booleano de longitud MVL. Cuando se
carga el registro de máscara vectorial con el resultado de un test del vector, cualquier
instrucción vectorial que se vaya a ejecutar solamente opera sobre los elementos del
vector cuyas entradas correspondientes en el registro de máscara vectorial sean 1. Las
entradas del registro vectorial destino que corresponden a un 0 en el registro de máscara
no se modifican por la operación del vector. Para que no actúe, el registro de máscara
vectorial se inicializa todo a 1, haciendo que las instrucciones posteriores al vector
operen con todos los elementos del vector. Con esto podemos reescribir el código anterior
para que sea vectorizable:
LV V1,Ra ; Carga vector A en V1
LV V2,Rb ; Carga vector B en V2
LD F0,#0 ; Carga F0 con 0 en punto flotante
SNESV F0,V1 ; Inicializa VM a 1 si V1(i)!=0
SUBV V1,V1,V2 ; Resta bajo el control de la máscara
CVM ; Pone la máscara todo a unos
SV Ra,V1 ; guarda el resultado en A.
El uso del vector de máscara tiene alguna desventaja. Primero, la operación se

realiza para todos los elementos del vector, por lo que da lo mismo que la condición se
cumpla o no, siempre consume tiempo de ejecución. De todas formas, incluso con una
máscara repleta de ceros, el tiempo de ejecución del código en forma vectorial suele ser
menor que la versión escalar. Segundo, en algunos procesadores lo que hace la máscara
es deshabilitar el almacenamiento en el registro del resultado de la operación, pero la
operación se hace en cualquier caso. Esto tiene el problema de que si por ejemplo

1.4 Mejora del rendimiento de los procesadores vectoriales 25
estamos dividiendo, y no queremos dividir por cero (para evitar la excepción) lo normal
es comprobar los elementos que sean cero y no dividir, pero en un procesador cuya
máscara sólo deshabilite el almacenamiento y no la operación, realizará la división por
cero generando la excepción que se pretendı́a evitar.
1.4.3 Matrices dispersas

Las matrices dispersas son matrices que tienen una gran cantidad de elementos, siendo
la mayorı́a de ellos cero. Este tipo de matrices, que habitualmente ocuparı́an mucha
memoria de forma innecesaria, se encuentran almacenadas de forma compacta y son
accedidas indirectamente. Para una representación tı́pica de una matriz dispersa nos
podemos encontrar con código como el siguiente:
do 100 i=1,n
100 A(K(i))=A(K(i))+C(M(i))
Este código realiza la suma de los vectores dispersos A y C, usando como ı́ndices los
vectores K y M que designan los elementos de A y B que no son cero (ambas matrices
deben tener el mismo número de elementos no nulos). Otra forma común de representar
las matrices dispersas utiliza un vector de bits como máscara para indicar qué elementos
existen y otro vector para almacenar sus valores. A menudo ambas representaciones
coexisten en el mismo programa. Este tipo de matrices se encuentran en muchos códigos,
y hay muchas formas de tratar con ellas dependiendo de la estructura de datos utilizada
en el programa.
Un primer mecanismo consiste en las operaciones de dispersión y agrupamiento
utilizando vectores ı́ndices. El objetivo es moverse de una representación densa a la
dispersa normal y viceversa. La operación de agrupamiento coge el vector ı́ndice y
busca en memoria el vector cuyos elementos se encuentran en las direcciones dadas
por la suma de una dirección base y los desplazamientos dados por el vector ı́ndice.
El resultado es un vector no disperso (denso) en un registro vectorial. Una vez se
han realizado las operaciones sobre este vector denso, se pueden almacenar de nuevo
en memoria de forma expandida mediante la operación de dispersión que utilizará el
mismo vector de ı́ndices. El soporte hardware para estas operaciones se denomina
dispersar-agrupar (scatter-gather). En el ensamblador vienen dos instrucciones para
realizar este tipo de tareas. En el caso del DLXV se tiene LVI (cargar vector indexado),
SVI (almacenar vector indexado), y CVI (crear vector ı́ndice, por ejemplo CVI V1,R1
introduce en V1 los valores 0,R1,2*R1,3*R1,...,63*R1). Por ejemplo, suponer que Ra, Rc,
Rk y Rm contienen las direcciones de comienzo de los vectores de la secuencia anterior,
entonces el bucle interno de la secuencia se podrı́a codificar como:
LV Vk,Rk ; Carga K
LVI Va,(Ra+Vk) ; Carga A(K(i))
LV Vm,Rm ; Carga M
LVI Vc,(Rc+Vm) ; Carga C(M(i))
ADDV Va,Va,Vc ; Los suma
SVI (Ra+Vk),Va ; Almacena A(K(i))
De esta manera queda vectorizada la parte de cálculo con matrices dispersas. El

código en Fortran dado con anterioridad nunca se vectorizarı́a de forma automática
puesto que el compilador no sabrı́a si existe dependencia de datos, ya que no sabe a
priori lo que contiene el vector K.

Algo parecido se puede realizar mediante el uso de la máscara que se vio en las
sentencias condicionales. El registro de máscara se usa en este caso para indicar los
elementos no nulos y ası́ poder formar el vector denso a partir de un vector disperso.
La capacidad de dispersar/agrupar (scatter-gather ) está incluida en muchos de los
supercomputadores recientes. Estas operaciones rara vez alcanzan la velocidad de un
elemento por ciclo, pero son mucho más rápidas que la alternativa de utilizar un bucle
escalar. Si la propiedad de dispersión de un matriz cambia, es necesario calcular un
nuevo vector ı́ndice. Muchos procesadores proporcionan soporte para un cálculo rápido
de dicho vector. La instrucción CVI (Create Vector Index) del DLX crea un vector
ı́ndice dado un valor de salto (m), cuyos valores son 0, m, 2 × m, ..., 63 × m. Algunos
procesadores proporcionan una instrucción para crear un vector ı́ndice comprimido
cuyas entradas se corresponden con las posiciones a 1 en el registro máscara. En DLX,
definimos la instrucción CVI para que cree un vector ı́ndice usando el vector máscara.
Cuando el vector máscara tiene todas sus entradas a uno, se crea un vector ı́ndice
estándar.
Las cargas y almacenamientos indexados y la instrucción CVI proporcionan un
método alternativo para soportar la ejecución condicional. A continuación se mues-
tra la secuencia de instrucciones que implementa el bucle que vimos al estudiar este
problema y que corresponde con el bucle mostrado en la página 24:
LV V1,Ra ; Carga vector A en V1

LD F0,#0 ; Carga F0 con cero en punto flotante
SNESV F0,V1 ; Pone VM(i) a 1 si V1(i)<>F0
CVI V2,#8 ; Genera ı́ndices en V2
POP R1,VM ; Calcula el número de unos en VM
MOVI2S VLR,R1 ; Carga registro de longitud vectorial
CVM ; Pone a 1 los elementos de la máscara
LVI V3,(Ra+V2) ; Carga los elementos de A distintos de cero
LVI V4,(Rb+V2) ; Carga los elementos correspondientes de B
SUBV V3,V3,V4 ; Hace la resta
SVI (Ra+V2),V3 ; Almacena A
El que la implementación utilizando dispersar/agrupar (scatter-gather ) sea mejor

que la versión utilizando la ejecución condicional, depende de la frecuencia con la que
se cumpla la condición y el coste de las operaciones. Ignorando el encadenamiento,
el tiempo de ejecución para la primera versión es 5n + c1 . El tiempo de ejecución de
la segunda versión, utilizando cargas y almacenamiento indexados con un tiempo de
ejecución de un elemento por ciclo, es 4n + 4 × f × n + c2 , donde f es la fracción de
elementos para la cual la condición es cierta (es decir, A 6= 0. Si suponemos que los
valores c1 y c2 son comparables, y que son mucho más pequeños que n, entonces para
que la segunda técnica sea mejor que la primera se tendrá que cumplir
5n ≥ 4n + 4 × f × n
1
lo que ocurre cuando 4
≥ f.
Es decir, el segundo método es más rápido que el primero si menos de la cuarta
parte de los elementos son no nulos. En muchos casos la frecuencia de ejecución es
mucho menor. Si el mismo vector de ı́ndices puede ser usado varias veces, o si crece el
número de sentencias vectoriales con la sentencia if, la ventaja de la aproximación de
dispersar/agrupar aumentará claramente.

1.5 El rendimiento de los procesadores vectoriales 27
1.5 El rendimiento de los procesadores vectoriales
1.5.1 Rendimiento relativo entre vectorial y escalar

A partir de la ley de Amdahl es relativamente sencillo calcular el rendimiento relativo
entre la ejecución vectorial y la escalar, es decir, lo que se gana al ejecutar un programa
de forma vectorial frente a la escalar tradicional. Supongamos que r es la relación de
velocidad entre escalar y vectorial, y que f es la relación de vectorización. Con esto, se
puede definir el siguiente rendimiento relativo:
1 r
P = = (1.4)
(1 − f ) + f /r (1 − f )r + f
Este rendimiento relativo mide el aumento de la velocidad de ejecución del procesador

vectorial sobre el escalar. La relación hardware de velocidad r es decisión del diseñador.
El factor de vectorización f refleja el porcentaje de código en un programa de usuario
que se vectoriza. El rendimiento relativo es bastante sensible al valor de f . Este valor
se puede incrementar utilizando un buen compilador vectorial o a través de transfor-
maciones del programa.
Cuanto más grande es r tanto mayor es este rendimiento relativo, pero si f es
pequeño, no importa lo grande que sea r, ya que el rendimiento relativo estará cercano
a la unidad. Fabricantes como IBM tienen una r que ronda entre 3 y 5, ya que su
polı́tica es la de tener cierto balance entre las aplicaciones cientı́ficas y las de negocios.
Sin embargo, empresas como Cray y algunas japonesas eligen valores mucho más altos
para r, ya que la principal utilización de estas máquinas es el cálculo cientı́fico. En
estos casos la r ronda entre los 10 y 25. La figura 1.16 muestra el rendimiento relativo
para una máquina vectorial en función de r y para varios valores de f .
5.5
90%
4.5
4
Rendimiento relativo (P)
80%
3.5
70%
2.5
2
50%
1.5
30%
1
1 2 3 4 5 6 7 8 9 10
relacion de velocidad escalar/vectorial (r)
Figura 1.16: Rendimiento relativo escalar/vectorial.

1.5.2 Medidas del rendimiento vectorial

Dado que la longitud del vector es tan importante en el establecimiento del rendimiento
de un procesador, veremos las medidas relacionadas con la longitud además del tiempo
de ejecución y los MFLOPS obtenidos. Estas medidas relacionadas con la longitud
tienden a variar de forma muy importante dependiendo del procesador y que son im-
portantes de comparar. (Recordar, sin embargo, que el tiempo es siempre la medida de
interés cuando se compara la velocidad relativa de dos procesadores.) Las tres medidas
más importantes relacionadas con la longitud son
• Rn . Es la velocidad de ejecución, dada en MFLOPS, para un vector de longitud n.
• R∞ . Es la velocidad de ejecución, dada en MFLOPS, para un vector de longitud in-
finita. Aunque esta medida puede ser de utilidad para medir el rendimiento máximo,
los problemas reales no manejan vectores ilimitados, y la sobrecarga existente en los
problemas reales puede ser mayor.
• N1/2 . La longitud de vector necesaria para alcanzar la mitad de R∞ . Esta es una
buena medida del impacto de la sobrecarga.
• Nv . La longitud de vector a partir de la cual el modo vectorial es más rápido que
el modo escalar. Esta medida tiene en cuenta la sobrecarga y la velocidad relativa
del modo escalar respecto al vectorial.
Veamos como se pueden determinar estas medidas en el problema DAXPY ejecutado
en el DLXV. Cuando existe el encadenamiento de instrucciones, el bucle interior del
código DAXPY en convoys es el que se muestra en la figura 1.17 (suponiendo que Rx
y Ry contienen la dirección de inicio).
LV V1,Rx MULTSV V2,F0,V1 Convoy 1: chained load and multiply

LV V3,Ry ADDV V4,V2,V3 Convoy 2: second load and ADD, chained
SV Ry,V4 Convoy 3: store the result
Figura 1.17: Formación de convoys en el bucle interior del código DAXPY.
El tiempo de ejecución de un bucle vectorial con n elementos, Tn , es:

l n m
Tn = × (Tbucle + Tarranque ) + n × Tcampanada
MV L
El encadenamiento permite que el bucle se ejecute en tres campanadas y no me-

nos, dado que existe un cauce de memoria; ası́ Tcampanada = 3. Si Tcampanada fuera
una indicación completa del rendimiento, el bucle podrı́a ejecutarse a una tasa de
2/3 × tasa del reloj MFLOPS (ya que hay 2 FLOPs por iteración). Ası́, utilizando
únicamente Tcampanada , un DLXV a 200 MHz ejecutarı́a este bucle a 133 MFLOPS su-
poniendo la no existencia de seccionamiento (strip-mining) y el coste de inicio. Existen
varias maneras de aumentar el rendimiento: añadir unidades de carga-almacenamiento
adicionales, permitir el solapamiento de convoys para reducir el impacto de los costes de
inicio, y decrementar el número de cargas necesarias mediante la utilización de registros
vectoriales.

Rendimiento máximo del DLXV en el DAXPY
En primer lugar debemos determinar el significado real del rendimiento máximo, R∞ .

Por ahora, continuaremos suponiendo que un convoy no puede comenzar hasta que todas
las instrucciones del convoy anterior hayan finalizado; posteriormente eliminaremos esta
restricción. Teniendo en cuenta esta restricción, la sobrecarga de inicio para la secuencia
vectorial es simplemente la suma de los tiempos de inicio de las instrucciones:
Tarranque = 12 + 7 + 12 + 6 + 12 = 49
Usando M V L = 64, Tloop = 15, Tstart = 49, y Tchime = 3 en la ecuación del

rendimiento, y suponiendo que n no es un múltiplo exacto de 64, el tiempo para una
operación de n elementos es
lnm
Tn = × (15 + 49) + 3n = (n + 64) + 3n = 4n + 64
64
La velocidad sostenida está por encima de 4 ciclos de reloj por iteración, más que la
velocidad teórica de 3 campanadas, que ignora los costes adicionales. La mayor parte
de esta diferencia es el coste de inicio para cada bloque de 64 elementos (49 ciclos frente
a 15 de la sobrecarga del bucle).
Podemos calcular R∞ para una frecuencia de reloj de 200 MHz como
µ ¶
Operaciones por iteración × f recuencia de reloj
R∞ = limn→∞
Ciclos de reloj por iteración
El numerador es independiente de n, por lo que

R∞ =
limn→∞ (Ciclos de reloj por iteración)
µ ¶ µ ¶
Tn 4n + 64
limn→∞ (Ciclos de reloj por iteración) = limn→∞ = limn→∞ =4
n n
2 × 200 M Hz
R∞ = = 100 M F LOP S
4
El rendimiento sin el coste de inicio, que es el rendimiento máximo dada la estructura
de la unidad funcional vectorial, es 1.33 veces superior. En realidad, la distancia entre
el rendimiento de pico y el sostenido puede ser incluso mayor.
Rendimiento sostenido del DLXV en el Benchmark Linpack
El benchmark Linpack es una eliminación de Gauss sobre una matriz de 100 × 100. Ası́,
la longitud de los elementos van desde 99 hasta 1. Un vector de longitud k se usa k
veces. Ası́, la longitud media del vector viene dada por
P99 2
i
Pi=1
99 = 66.3
i=1 i

Ahora podemos determinar de forma más precisa el rendimiento del DAXPY usando
una longitud de vector de 66.
Tn = 2 × (15 + 49) + 3 × 66 = 128 + 198 = 326
2 × 66 × 200 MHz
R66 = = 81 MFLOPS
326
El rendimiento máximo, ignorando los costes de inicio, es 1.64 veces superior que
el rendimiento sostenido que hemos calculado. En realidad, el benchmark Linpack
contiene una fracción no trivial de código que no puede vectorizarse. Aunque este
código supone menos del 20% del tiempo antes de la vectorización, se ejecuta a menos
de una décima parte del rendimiento cuando se mide en FLOPs. Ası́, la ley de Amdahl
nos dice que el rendimiento total será significativamente menor que el rendimiento
estimado al analizar el bucle interno.
Dado que la longitud del vector tiene un impacto significativo en el rendimiento, las
medidas N1/2 y Nv se usan a menudo para comparar máquinas vectoriales.
Ejemplo Calcular N1/2 para el bucle interno de DAXPY para el DLXV con un reloj
de 200 MHz.
Respuesta Usando R∞ como velocidad máxima, queremos saber para qué longitud del
vector obtendremos 50 MFLOPS. Empezaremos con la fórmula para MFLOPS
suponiendo que las medidas se realizan para N1/2 elementos:
F LOP s ejecutados en N1/2 iteraciones Ciclos de reloj
M F LOP S = × × 10−6
Ciclos de reloj para N1/2 iteraciones Segundos
2 × N1/2
50 = × 200
TN1/2
Simplificando esta expresión y suponiendo que N1/2 ≤ 64, tenemos que Tn≤64 =
1 × 64 + 3 × n, lo que da lugar a
TN1/2 = 8 × N1/2
1 × 64 + 3 × N1/2 = 8 × N1/2
5 × N1/2 = 64
N1/2 = 12.8
Por lo tanto, N1/2 = 13; es decir, un vector de longitud 13 proporciona aproxima-
damente la mitad del rendimiento máximo del DLXV en el bucle DAXPY.
Ejemplo ¿Cuál es la longitud del vector, Nv , para que la operación vectorial se ejecute
más rápidamente que la escalar?
Respuesta De nuevo, sabemos que Rv < 64. El tiempo de una iteración en modo
escalar se puede estimar como 10 + 12 + 12 + 7 + 6 + 12 = 59 ciclos de reloj, donde
10 es el tiempo estimado de la sobrecarga del bucle. En el ejemplo anterior se vio
que Tn≤64 = 64 + 3 × n ciclos de reloj. Por lo tanto,
64 + 3 × Nv = 59 Nv
» ¼
64
Nv =
56
Nv = 2

Rendimiento del DAXPY en un DLXV mejorado
El rendimiento del DAXPY, como en muchos problemas vectoriales, viene limitado

por la memoria. Consecuentemente, éste se puede mejorar añadiendo más unidades de
acceso a memoria. Esta es la principal diferencia arquitectónica entre el CRAY X-MP (y
los procesadores posteriores) y el CRAY-1. El CRAY X-MP tiene tres cauces de acceso
a memoria, en comparación con el único cauce a memoria del CRAY-1, permitiendo
además un encadenamiento más flexible. ¿Cómo afectan estos factores al rendimiento?
Ejemplo ¿Cuál serı́a el valor de T66 para el bucle DAXPY en el DLXV si añadimos
dos cauces más de acceso a memoria?.
Respuesta Con tres canales de acceso a memoria, todas las operaciones caben en un
único convoy. Los tiempos de inicio son los mismos, por lo que
» ¼
66
T66 = × (Tloop + Tarranque ) + 66 × Tcampanada
64
T66 = 2 × (15 + 49) + 66 × 1 = 194

Con tres cauces de acceso a memoria, hemos reducido el tiempo para el rendi-
miento sostenido de 326 a 194, un factor de 1.7. Observación del efecto de la ley
de Amdahl: Hemos mejorado la velocidad máxima teórica, medida en el número
de campanadas, en un factor de 3, pero la mejora total es de 1.7 en el rendimiento
sostenido.
Otra mejora se puede conseguir del solapamiento de diferentes convoys y del coste del
bucle escalar con las instrucciones vectoriales. Esta mejora requiere que una operación
vectorial pueda usar una unidad funcional antes de que otra operación haya finalizado,
complicando la lógica de emisión de instrucciones.
Para conseguir una máxima ocultación de la sobrecarga del seccionamiento (strip-
mining), es necesario poder solapar diferentes instancias del bucle, permitiendo la eje-
cución simultánea de dos instancias de un convoy y del código escalar. Esta técnica,
denominada tailgating, se usó en el Cray-2. Alternativamente, podemos desenrollar el
bucle exterior para crear varias instancias de la secuencia vectorial utilizando diferentes
conjuntos de registros (suponiendo la existencia de suficientes registros). Permitiendo
el máximo solapamiento entre los convoys y la sobrecarga del bucle escalar, el tiempo
de inicio y de la ejecución del bucle sólo serı́a observable una única vez en cada convoy.
De esta manera, un procesador con registros vectoriales puede conseguir unos costes de
arranque bajos para vectores cortos y un alto rendimiento máximo para vectores muy
grandes.
Ejemplo ¿Cuales serı́an los valores de R∞ y T66 para el bucle DAXPY en el DLXV
si añadimos dos cauces más de acceso a memoria y permitimos que los costes del
seccionamiento (strip-mining) y de arranque se solapen totalmente?.
Respuesta
µ ¶
R∞ = limn→∞
Ciclos de reloj por iteración
µ ¶
Tn
limn→∞ (Ciclos de reloj por iteración) = limn→∞
n

Dado que la sobrecarga sólo se observa una vez, Tn = n + 49 + 15 = n + 64. Ası́,

µ ¶ µ ¶
Tn n + 64
limn→∞ = limn→∞ =1
n n
2 × 200 MHz
R∞ = = 400 MFLOPS
1
Añadir unidades adicionales de acceso a memoria y una lógica de emisión más
flexible da lugar a una mejora en el rendimiento máximo de un factor de 4. Sin
embargo, T66 = 130, por lo que para vectores cortos, la mejora en el rendimiento
sostenido es de 326
100
= 2.5 veces.
1.6 Historia y evolución de los procesadores vecto-

riales
Para finalizar, la figura 1.18 muestra una comparación de la diferencia de rendimiento
entre los procesadores vectoriales y los procesadores superescalares de última genera-
ción. En esta figura podemos comprobar cómo en los últimos años se ha ido reduciendo
la diferencia en rendimiento de ambas arquitecturas.

1.6 Historia y evolución de los procesadores vectoriales 33
10000
1000
T94
C90
DEC 8200
Ymp
IBM Power2/990
Xmp
100 MIPS R4400
Linpack MFLOPS Xmp
HP9000/735
DEC Alpha AXP

Cray 1s HP 9000/750
IBM RS6000/540
10
Cray n=1000
MIPS M/2000
Cray n=100
MIPS M/120 Micro n=1000
Micro n=100
1 Sun 4/260
1975 1980 1985 1990 1995 2000
Figura 1.18: Comparación del rendimiento de los procesadores vectoriales y los micro-
procesadores escalares para la resolución de un sistema de ecuaciones lineales denso
(tamaño de la matriz=n × n).


Aac Vector

Cargado por

Copyright:

Formatos disponibles

Aac Vector

Cargado por

Información del documento

Descripción original:

Derechos de autor

Formatos disponibles

Compartir este documento

Compartir o incrustar documentos

Opciones para compartir

¿Le pareció útil este documento?

¿Este contenido es inapropiado?

Copyright:

Formatos disponibles

Aac Vector

Cargado por

Copyright:

Formatos disponibles

Capı́tulo 1

En el camino hacia los multiprocesadores y multicomputadores nos encontramos con

Ingenierı́a Informática Universidad de Valencia

vale a ejecutar un bucle completo. Por lo tanto, el requisito de anchura de banda de

1.1 Procesador vectorial básico

1.1.1 Arquitectura vectorial básica

Ingenierı́a Informática Universidad de Valencia

Instrucciones escalares Procesador vectorial

Unidad de control Instrucciones vectoriales Unidad de control

Instrucciones Cauce func. vectorial

Figura 1.1: La arquitectura de un supercomputador vectorial.

Ingenierı́a Informática Universidad de Valencia

Unidades funcionales vectoriales. Cada unidad se encuentra completamente seg-

1.1.2 Instrucciones vectoriales básicas

Ingenierı́a Informática Universidad de Valencia

Clock Elements per

Figura 1.3: Caracterı́sticas de varias arquitecturas vectoriales.

Ingenierı́a Informática Universidad de Valencia

La operación reunir toma de la memoria los elementos no nulos de un vector

1.1.3 Ensamblador vectorial DLXV

Ejemplo: el bucle DAXPY

Ingenierı́a Informática Universidad de Valencia

Instruction Operands Function

Figura 1.4: Instrucciones vectoriales del DLXV.

El programa correspondiente en una arquitectura vectorial, como la DLXV, serı́a

LD F0,a ; carga escalar a

Ingenierı́a Informática Universidad de Valencia

1.1.4 Tiempo de ejecución vectorial

LD F0,a ; carga el escalar en F0

Ingenierı́a Informática Universidad de Valencia

LV V3,Ry ; carga vector Y

Dejando de lado la primera instrucción, que es puramente escalar, el primer convoy

Tiempo de arranque vectorial y tasa de inicialización

La fuente de sobrecarga más importante, no considerada en el modelo de campanadas,

Operation Start-up penalty

Figura 1.5: Penalización por el tiempo de arranque en el DLXV.

Siguiendo con el ejemplo mostrado anteriormente, supongamos que cargar y salvar

Ingenierı́a Informática Universidad de Valencia

vectores de 64 elementos, la división 42/64=0.65 da el número de campanadas totales,

Convoy Starting time First-result time Last-result time

El tiempo de arranque de una instrucción es tı́picamente la profundidad del cauce

1.1.5 Unidades de carga/almacenamiento vectorial

Ingenierı́a Informática Universidad de Valencia

1.2 Memoria entrelazada o intercalada

Ingenierı́a Informática Universidad de Valencia

(a) Memoria de m vı́as entrelazada de orden bajo (esquema C de acceso

(b) Memoria de m vı́as entrelazada de orden alto.

Figura 1.7: Dos organizaciones de memoria entrelazada con m = 2a módulos y w = 2a

Ejemplo de memoria modular en un procesador vectorial

Supongamos que queremos captar un vector de 64 elementos que empieza en la dirección

Ingenierı́a Informática Universidad de Valencia

La figura 1.8 muestra la temporización de los primeros accesos a un sistema de ocho

1.2.1 Acceso concurrente a memoria (acceso C)

Ingenierı́a Informática Universidad de Valencia

menor τ es el tiempo necesario para producir una palabra asumiendo la superposición

Figura 1.9: Acceso segmentado a 8 palabras contiguas en una memoria de acceso C.

1.2.2 Acceso simultáneo a memoria (acceso S)

Ciclo de búsqueda Ciclo de acceso

Figura 1.10: Organización de acceso S para una memoria entrelazada de m vı́as.