UNIVERSIDAD TECNOLOGICA BOLIVIANA

ECONOMETRIA Page 1
Lic. MIGUEL ANGEL A. GUTIERREZ A.

Capítulo 18
Análisis de regresión lineal
El procedimiento Regresión lineal

Introducción
El análisis de regresión lineal es una técnica estadística utilizada para estudiar la relación entre
variables. Se adapta a una amplia variedad de situaciones. En la investigación social, el análisis
de regresión se utiliza para predecir un amplio rango de fenómenos, desde medidas económicas
hasta diferentes aspectos del comportamiento humano. En el contexto de la investigación de
mercados puede utilizarse para determinar en cuál de diferentes medios de comunicación puede
resultar más eficaz invertir; o para predecir el número de ventas de un determinado producto.
En física se utiliza para caracterizar la relación entre variables o para calibrar medidas. Etc.
Tanto en el caso de dos variables (regresión simple) como en el de más de dos variables
(regresión múltiple), el análisis de regresión lineal puede utilizarse para explorar y cuantificar
la relación entre una variable llamada dependiente o criterio (Y) y una o más variables llamadas
independientes o predictoras (X1, X2, ..., Xk), así como para desarrollar una ecuación lineal con
fines predictivos. Además, el análisis de regresión lleva asociados una serie de procedimientos
de diagnóstico (análisis de los residuos, puntos de influencia) que informan sobre la estabilidad
e idoneidad del análisis y que proporcionan pistas sobre cómo perfeccionarlo.
Nuestro objetivo es el de proporcionar los fundamentos del análisis de regresión. Al igual
que en los capítulos precedentes, no haremos hincapié en los aspectos más técnicos del análisis,
sino que intentaremos fomentar la compresión de cuándo y cómo utilizar el análisis de
regresión lineal, y cómo interpretar los resultados. También prestaremos atención a otras
cuestiones como el chequeo de los supuestos del análisis de regresión y la forma de proceder
cuando se incumplen.

La recta de regresión

En el capítulo anterior (sobre correlación lineal) hemos visto que un diagrama de dispersión
ofrece una idea bastante aproximada sobre el tipo de relación existente entre dos variables. Pe-
ro, además, un diagrama de dispersión también puede utilizarse como una forma de cuantificar
el grado de relación lineal existente entre dos variables: basta con observar el grado en el que
la nube de puntos se ajusta a una línea recta.
Ahora bien, aunque un diagrama de dispersión permite formarse una primera impresión
muy rápida sobre el tipo de relación existente entre dos variables, utilizarlo como una forma
UNIVERSIDAD TECNOLOGICA BOLIVIANA
ECONOMETRIA Page 2
Lic. MIGUEL ANGEL A. GUTIERREZ A.

338 Capítulo 18

de cuantificar esa relación tiene un serio inconveniente: la relación entre dos variables no
siempre es perfecta o nula; de hecho, habitualmente no es ni lo uno ni lo otro.
Supongamos que disponemos de un pequeño conjunto de datos con información sobre 35
marcas de cerveza y que estamos interesados en estudiar la relación entre el grado de alcohol
de las cervezas y su contenido calórico. Un buen punto de partida para formarnos una primera
impresión de esa relación podría ser la representación de la nube de puntos, tal como muestra
el diagrama de dispersión de la figura 18.1.

Figura 18.1. Diagrama de dispersión de porcentaje de alcohol por nº de calorías.

200

180

160
nº calorías (por tercio de litro)

140

120

100

80

60
2,5 3,0 3,5 4,0 4,5 5,0 5,5 6,0

Porcentaje de alcohol

El eje vertical muestra el número de calorías (por cada tercio de litro) y el horizontal el con-
tenido de alcohol (expresado en porcentaje). A simple vista, parece existir una relación positiva
entre ambas variables: conforme aumenta el porcentaje de alcohol, también aumenta el número
de calorías. En esta muestra no hay cervezas que teniendo alto contenido de alcohol tengan
pocas calorías y tampoco hay cervezas que teniendo muchas calorías tengan poco alcohol. La
mayor parte de las cervezas de la muestra se agrupan entre el 4,5 % y el 5 % de alcohol, siendo
relativamente pocas las cervezas que tienen un contenido de alcohol inferior a ése. Podríamos
haber extendido el rango de la muestra incluyendo cervezas sin alcohol, pero el rango de
calorías y alcohol considerados parece bastante apropiado: no hay, por ejemplo, cervezas con
un contenido de alcohol del 50 %, o cervezas sin calorías.
¿Cómo podríamos describir los datos que acabamos de proponer? Podríamos decir sim-
plemente que el aumento del porcentaje de alcohol va acompañado de un aumento en el número
de calorías; pero esto, aunque correcto, es poco específico. ¿Cómo podríamos obtener una
descripción más concreta de los resultados? Podríamos, por ejemplo, listar los datos concretos
de que disponemos; pero esto, aunque preciso, no resulta demasiado informativo.
Podríamos hacer algo más interesante. Por ejemplo, describir la pauta observada en la nube
de puntos mediante una función matemática simple, tal como una línea recta. A primera vista,
una línea recta podría ser un buen punto de partida para describir resumidamente la nube de
puntos de la figura 18.1.
Puesto que una línea recta posee una fórmula muy simple,
Yi = B0 + B1 Xi
UNIVERSIDAD TECNOLOGICA BOLIVIANA
ECONOMETRIA Page 3
Lic. MIGUEL ANGEL A. GUTIERREZ A.

Análisis de regresión lineal 339

podemos comenzar obteniendo los coeficientes B0 y B1 que definen la recta. El coeficiente B1

es la pendiente de la recta: el cambio medio que se produce en el número de calorías (Yi) por
cada unidad de cambio que se produce en el porcentaje de alcohol (Xi) . El coeficiente B0 es
el punto en el que la recta corta el eje vertical: el número medio de calorías que corresponde
a una cerveza con porcentaje de alcohol cero. Conociendo los valores de estos dos coeficientes,
nuestro interlocutor podría reproducir la recta y describir con ella la relación existente entre
el contenido de alcohol y el número de calorías. Aunque no entremos todavía en detalles de
cómo obtener los valores de B0 y B1, sí podemos ver cómo es esa recta (figura 18.2).

Figura 18.2. Diagrama de dispersión y recta de regresión (% de alcohol por nº de calorías).

200

180

160

Yi = n33,77 + 37,65 Xi
nº calorías (por tercio de litro)

140

120

100

80

60
2,5 3,0 3,5 4,0 4,5 5,0 5,5 6,0

Porcentaje de alcohol

Vemos que, en general, la recta hace un seguimiento bastante bueno de los datos. La fórmula
de la recta aparece a la derecha del diagrama. La pendiente de la recta (B1) indica que, en pro-
medio, a cada incremento de una unidad en el porcentaje de alcohol (Xi) le corresponde un
incremento de 37,65 calorías (Yi). El origen de la recta (B0) sugiere que una cerveza sin alcohol
(grado de alcohol cero) podría contener n33,77 calorías. Y esto, obviamente, no parece posi-
ble. Al examinar la nube de puntos vemos que la muestra no contiene cervezas con menos de
un 2 % de alcohol. Así, aunque el origen de la recta aporta información sobre lo que podría
ocurrir si extrapolamos hacia abajo la pauta observada en los datos hasta llegar a una cerveza
con grado de alcohol cero, al hacer esto estaríamos efectuando pronósticos en un rango de
valores que va más allá de lo que abarcan los datos disponibles, y eso es algo extremadamente
arriesgado en el contexto del análisis de regresión*.

La mejor recta de regresión

En una situación ideal (e irreal) en la que todos los puntos de un diagrama de dispersión se en-
contraran en una línea recta, no tendríamos que preocuparnos de encontrar la recta que mejor
resume los puntos del diagrama. Simplemente uniendo los puntos entre sí obtendríamos la recta

*
Debemos aprender una lección de esto: la primera cosa razonable que podríamos hacer es añadir en nuestro estudio
alguna cerveza con porcentaje de alcohol cero; probablemente así obtendríamos una recta con un origen más realista.
UNIVERSIDAD TECNOLOGICA BOLIVIANA
ECONOMETRIA Page 4
Lic. MIGUEL ANGEL A. GUTIERREZ A.

340 Capítulo 18

con mejor ajuste a la nube de puntos. Pero en una nube de puntos más realista (como la de las
figuras 18.1 y 18.2) es posible trazar muchas rectas diferentes. Obviamente, no todas ellas se
ajustarán igualmente bien a la nube de puntos. Se trata de encontrar la recta capaz de conver-
tirse en el mejor representante del conjunto total de puntos.
Existen diferentes procedimientos para ajustar una función simple, cada uno de los cuales
intenta minimizar una medida diferente del grado de ajuste. La elección preferida ha sido, tradi-
cionalmente, la recta que hace mínima la suma de los cuadrados de las distancias verticales
entre cada punto y la recta. Esto significa que, de todas las rectas posibles, existe una y sólo
una que consigue que las distancias verticales entre cada punto y la recta sean mínimas (las dis-
tancias se elevan al cuadrado porque, de lo contrario, al ser unas positivas y otras negativas,
se anularían unas con otras al sumarlas).

Bondad de ajuste

Además de acompañar la recta con su fórmula, podría resultar útil disponer de alguna indica-
ción precisa del grado en el que la recta se ajusta a la nube de puntos. De hecho, la mejor recta
posible no tiene por qué ser buena.
Imaginemos una situación como la presentada en el diagrama de la figura 18.3, en el que
la recta consigue un ajuste bastante más pobre que en el caso de la figura 18.2. Ahora hemos
representado el porcentaje de alcohol de las cervezas (eje horizontal) y el precio de las mismas
(eje vertical). Y no parece existir la misma pauta de asociación detectada entre las variables de
la situación anterior.
Así pues, aunque siempre resulta posible, cualquiera que sea la nube de puntos, obtener
la recta mínimo-cuadrática, necesitamos información adicional para determinar el grado de fi-
delidad con que esa recta describe la pauta de relación existente en los datos.

Figura 18.3. Diagrama de dispersión, recta de regresión y ajuste (% de alcohol por precio).

¿Cómo podemos cuantificar ese mejor o peor ajuste de la recta? Hay muchas formas de resumir
el grado en el que una recta se ajusta a una nube de puntos. Podríamos utilizar la media de los
residuos, o la media de los residuos en valor absoluto, o las medianas de alguna de esas medi-
das, o alguna función ponderada de esas medidas, etc.
UNIVERSIDAD TECNOLOGICA BOLIVIANA
ECONOMETRIA Page 5
Lic. MIGUEL ANGEL A. GUTIERREZ A.

Análisis de regresión lineal 341

Una medida de ajuste que ha recibido gran aceptación en el contexto del análisis de
regresión es el coeficiente de determinación R 2: el cuadrado del coeficiente de correlación
múltiple. Se trata de una medida estandarizada que toma valores entre 0 y 1 (0 cuando las va-
riables son independientes y 1 cuando entre ellas existe relación perfecta).
Este coeficiente posee una interpretación muy intuitiva: representa el grado de ganancia
que podemos obtener al predecir una variable basándonos en el conocimiento que tenemos de
otra u otras variables. Si queremos, por ejemplo, pronosticar el número de calorías de una cer-
veza sin el conocimiento de otras variables, utilizaríamos la media del número de calorías. Pero
si tenemos información sobre otra variable y del grado de relación entre ambas, es posible
mejorar nuestro pronóstico. El valor R 2 del diagrama de la figura 18.2 vale 0,83, lo que indica
que si conocemos el porcentaje de alcohol de una cerveza, podemos mejorar en un 83 % nues-
tros pronósticos sobre su número de calorías si, en lugar de utilizar como pronóstico el número
medio de calorías, basamos nuestro pronóstico en el porcentaje de alcohol. Comparando este
resultado con el correspondiente al diagrama de la figura 18.3 (donde R 2 vale 0,06) compren-
deremos el valor informativo de R 2: en este segundo caso, el conocimiento del contenido de
alcohol de una cerveza sólo nos permite mejorar nuestros pronósticos del precio en un 6 %, lo
cual nos está indicando, además de que nuestros pronósticos no mejoran de forma importante,
que existe un mal ajuste de la recta a la nube de puntos. Parece evidente, sin tener todavía otro
tipo de información, que el porcentaje de alcohol de las cervezas está mas relacionado con el
número de calorías que con su precio.

Resumen

En este primer apartado introductorio hemos aprendido que el análisis de regresión lineal es
una técnica estadística que permite estudiar la relación entre una variable dependiente (VD) y
una o más variables independientes (VI) con el doble propósito de: 1) averiguar en qué medida
la VD puede estar explicada por la(s) VI y 2) obtener predicciones en la VD a partir de la(s)
VI. El procedimiento implica, básicamente, obtener la ecuación mínimo-cuadrática que mejor
expresa la relación entre la VD y la(s) VI y estimar mediante el coeficiente de determinación
la calidad de la ecuación de regresión obtenida. Estos dos pasos deben ir acompañados de un
chequeo del cumplimiento de las condiciones o supuestos que garantizan la validez del proce-
dimiento.

Análisis de regresión lineal simple

Vamos a iniciar nuestro estudio más formal de la regresión con el modelo de regresión lineal
simple (simple = una variable independiente), pero conviene no perder de vista que, puesto que
generalmente estaremos interesados en estudiar simultáneamente más de una variable predic-
tora, este análisis es sólo un punto de partida en nuestra explicación del análisis de regresión.
Vamos a seguir utilizando en todo momento el archivo Datos de empleados que, como ya
sabemos, se instala con el programa en el propio directorio del SPSS. Y comenzaremos utili-
zando salario (salario actual) como variable dependiente y salini (salario inicial) como variable
independiente o predictora.
UNIVERSIDAD TECNOLOGICA BOLIVIANA
ECONOMETRIA Page 6
Lic. MIGUEL ANGEL A. GUTIERREZ A.

342 Capítulo 18

Regresión simple

Para llevar a cabo un análisis de regresión simple con las especificaciones que el programa
tiene establecidas por defecto:
| Seleccionar la opción Regresión > Lineal del menú Analizar para acceder al cuadro de
diálogo Regresión lineal que muestra la figura 18.4.

Figura 18.4. Cuadro de diálogo Regresión lineal.

| Seleccionar la variable salario en la lista de variables del archivo de datos y trasladarla al

cuadro Dependiente.
| Seleccionar la variable salini y trasladarla a la lista Independientes.
Con sólo estas especificaciones, al pulsar el botón Aceptar el Visor ofrece los resultados que
muestran las tablas 18.1 a la 18.3.

Bondad de ajuste

La primera información que obtenemos (tabla 18.1) se refiere al coeficiente de correlación

múltiple (R) y a su cuadrado. Puesto que sólo tenemos dos variables, el coeficiente de correla-
ción múltiple no es otra cosa que el valor absoluto del coeficiente de correlación de Pearson
entre esas dos variables (ver capítulo anterior). Su cuadrado (R cuadrado) es el coeficiente de
determinación:

(los residuos son las diferencias existentes entre las puntuaciones observadas y los pronósticos
obtenidos con la recta). Tal como hemos señalado ya, R 2 expresa la proporción de varianza de
UNIVERSIDAD TECNOLOGICA BOLIVIANA
ECONOMETRIA Page 7
Lic. MIGUEL ANGEL A. GUTIERREZ A.

Análisis de regresión lineal 343

la variable dependiente que está explicada por la variable independiente. En nuestro ejemplo
(tabla 18.1), R toma un valor muy alto (su máximo es 1); y R 2 nos indica que el 77,5 % de la
variación de salario está explicada por salini. Es importante resaltar en este momento que el
análisis de regresión no permite afirmar que las relaciones detectadas sean de tipo causal: sólo
es posible hablar de grado de relación.

Tabla 18.1. Resumen del modelo.

R cuadrado Error típ. de la
Modelo R R cuadrado corregida estimación
1 ,880 ,775 ,774 $8,115.36

R cuadrado corregida es una corrección a la baja de R 2 que se basa en el número de casos y

de variables independientes:

(p se refiere al número de variables independientes). En una situación con pocos casos y mu-
chas variables independientes, R 2 puede ser artificialmente alta. En tal caso, el valor de R 2 co-
rregida será sustancialmente más bajo que el de R 2. En nuestro ejemplo, como hay 474 casos
y una sola variable independiente, los dos valores de R 2 (el corregido y el no corregido) son
prácticamente iguales.
El error típico de la estimación (al que llamaremos Se) es la desviación típica de los resi-
duos, es decir, la desviación típica de las distancias existentes entre las puntuaciones en la va-
riable dependiente (Yi) y los pronósticos efectuados con la recta de regresión aunque no
exactamente, pues la suma de las distancias al cuadrado están divididas por nn2:

En realidad, este error típico es la raíz cuadrada de la media cuadrática residual de la tabla
18.2). Representa una medida de la parte de variabilidad de la variable dependiente que no es
explicada por la recta de regresión. En general, cuanto mejor es el ajuste, más pequeño es este
error típico.

Tabla 18.2. Resumen del ANOVA.

Modelo Suma de cuadrados gl Media cuadrática F Sig.

1 Regresión 106831048750,124 1 106831048750,124 1622,118 ,000
Residual 31085446686,216 472 65858997,217
Total 137916495436,340 473

La tabla resumen del ANOVA (tabla 18.2) nos informa sobre si existe o no relación signifi-
cativa entre las variables. El estadístico F permite contrastar la hipótesis nula de que el valor
poblacional de R es cero, lo cual, en el modelo de regresión simple, equivale a contrastar la hi-
pótesis de que la pendiente de la recta de regresión vale cero. El nivel crítico (Sig.) indica que,
si suponemos que el valor poblacional de R es cero, es improbable (probabilidad = 0,000) que
R, en esta muestra, tome el valor 0,88. Lo cual implica que R es mayor que cero y que, en con-
secuencia, ambas variables están linealmente relacionadas.
UNIVERSIDAD TECNOLOGICA BOLIVIANA
ECONOMETRIA Page 8
Lic. MIGUEL ANGEL A. GUTIERREZ A.

344 Capítulo 18

Ecuación de regresión

La tabla 18.3 muestra los coeficientes de la recta de regresión. La columna etiquetada Coefi-
cientes no estandarizados contiene los coeficientes de regresión parcial que definen la ecuación
de regresión en puntuaciones directas.

Tabla 18.3. Coeficientes de regresión parcial.

Coeficientes no Coeficientes
estandarizados estandarizados
B Error típ. Beta t Sig.
(Constante) 1928,206 888,680 2,170 ,031
Salario inicial 1,909 ,047 ,880 40,276 ,000

El coeficiente correspondiente a la Constante es el origen de la recta de regresión (lo que he-

mos llamado B0):

Y el coeficiente correspondiente a Salario inicial es la pendiente de la recta de regresión (lo

que hemos llamado B1):

B1 indica el cambio medio que corresponde a la variable dependiente (salario) por cada unidad
de cambio de la variable independiente (salini). Según esto, la ecuación de regresión queda de
la siguiente manera:
Pronóstico en salario = 1928,206 + 1,909 salini
A cada valor de salini le corresponde un pronóstico en salario basado en un incremento cons-
tante (1928,206) más 1,909 veces el valor de salini.

Coeficientes de regresión estandarizados

Los coeficientes Beta (coeficientes de regresión parcial estandarizados) son los coeficientes que
definen la ecuación de regresión cuando ésta se obtiene tras estandarizar las variables ori-
ginales, es decir, tras convertir las puntuaciones directas en típicas. Se obtiene de la siguiente
manera:
En el análisis de regresión simple, el coeficiente de regresión estandarizado correspon-
diente a la única variable independiente presente en la ecuación coincide exactamente con el
coeficiente de correlación de Pearson. En regresión múltiple, según veremos, los coeficientes
de regresión estandarizados permiten valorar la importancia relativa de cada variable indepen-
diente dentro de la ecuación.
UNIVERSIDAD TECNOLOGICA BOLIVIANA
ECONOMETRIA Page 9
Lic. MIGUEL ANGEL A. GUTIERREZ A.

Análisis de regresión lineal 345

Pruebas de significación

Finalmente, los estadísticos t y sus niveles críticos (Sig.) nos permiten contrastar las hipótesis
nulas de que los coeficientes de regresión valen cero en la población. Estos estadísticos t se ob-
tienen dividiendo los coeficientes de regresión B0 y B1 entre sus correspondientes errores típi-
cos:

siendo:

Estos estadísticos t se distribuyen según el modelo de probabilidad t de Student con nn2 grados
de libertad. Por tanto, pueden ser utilizados para decidir si un determinado coeficiente de regre-
sión es significativamente distinto de cero y, en consecuencia, si la variable independiente está
significativamente relacionada con la dependiente.
Puesto que en regresión simple sólo trabajamos con una variable independiente, el
resultado del estadístico t es equivalente al del estadístico F de la tabla del ANOVA (de hecho,
t 2 = F).
A partir de los resultados de la tabla 18.3, podemos llegar a las siguientes conclusiones:
1. El origen poblacional de la recta de regresión (β0) es significativamente distinto de
cero (generalmente, contrastar la hipótesis “β0 = 0" carece de utilidad, pues no contie-
ne información sobre la relación entre Xi e Yi).
2. La pendiente poblacional de la recta de regresión (el coeficiente de regresión β1 co-
rrespondiente a salini) es significativamente distinta de cero, lo cual nos permite con-
cluir que entre salario y salini existe relación lineal significativa.

Análisis de regresión lineal múltiple

El procedimiento Regresión lineal permite utilizar más de una variable independiente y, por
tanto, permite llevar a cabo análisis de regresión múltiple. Pero en el análisis de regresión múl-
tiple, la ecuación de regresión ya no define una recta en el plano, sino un hiperplano en un es-
pacio multidimensional.
Imaginemos un análisis de regresión con salario como variable dependiente y salini
(salario inicial) y expprev (experiencia previa) como variables independientes. La figura 18.5
muestra el diagrama de dispersión de salario sobre salini y expprev, y el plano de regresión en
un espacio tridimensional.