Curso introductorio

de analisis funcional aplicado

- NOTAS DE CLASE - (Version preliminar)

Rene Escalante

Departamento de Computo Cientfico y Estadstica
Division de Ciencias Fsicas y Matematicas
UNIVERSIDAD SIMON BOLIVAR

- Marzo, 2015 -
2

Prefacio

En este libro haremos referencia a algunas aplicaciones del analisis fun-

cional (AF). Sin embargo, no pretendemos resumir en estas pocas paginas
todo lo que el AF a traves de los anos, y desde su invencion, ha signicado
para las matematicas aplicadas. Nos conformaremos pues con observar que el
AF tiene aplicaciones en practicamente todos los campos de las matematicas
aplicadas; entre los cuales estan: las ecuaciones diferenciales-integrales y de
operadores, ondculas (i.e., wavelets) y sus transformadas, teora de sistemas
lineales, problemas de optimizacion y analisis numerico, teora de aproxi-
macion, problemas de control optimo para sistemas dinamicos, problemas de
estabilidad lineal y no-lineal, teora de bifurcacion, y muchos mas. Asimismo,
el AF constituye una parte importante en el estudio de los fundamentos
matematicos de la mecanica cuantica.
Siguiendo la exposicion de Linz en [13], un gran numero de problemas de
las matematicas aplicadas surgen cuando consideramos resolver el problema1
T x = y, donde podemos identicar tres tipos de problemas distintos. A
saber: el problema directo, que consiste en encontrar y cuando x y T son
conocidos; el problema inverso, que busca x dado que conocemos y y T , y el
problema de identicacion, cuyo objetivo es el de encontrar T a partir de x
y y conocidos. El deseo de profundizar en el estudio de estas tres familias de
problemas son el leitmotiv que nos lleva a considerar aqu el AF como una
herramienta fundamental.
La historia del surgimiento y desarrollo del area de las matematicas que
hoy conocemos como AF esta llena de importantes hallazgos durante el
primer tercio del siglo XX, y que tuvieron su origen en necesidades total-
mente practicas. Entre algunas de las fechas mas relevantes de la historia
del AF estan las siguientes (a cada fecha le sigue la aparicion o publicacion
de artculos, tesis o libros):
- 1900: el trabajo de Fredholm sobre ecuaciones integrales.
- 1902: la tesis de Lebesgue sobre integracion.
- 1906: el artculo de Hilbert sobre teora espectral.
- 1906: la tesis de Frechet sobre espacios metricos.
- 1910, 1911: los artculos de Riesz sobre C[a, b] y Lp .
1
x X, y Y , X y Y son espacios vectoriales y T : X Y . Ver el Captulo 1.
 3

- 1912, 1921: los artculos de Helly.

- 1922: la tesis de Banach sobre espacios normados.
- 1927: el artculo de Banach y Steinhaus.
- 1927: el trabajo de Hahn sobre teora de dualidad.
- 1928: el libro de Frechet Les espaces abstrait.
- 1929: el artculo de Banach sobre dualidad.
- 1932: el libro de Banach Theorie des operations lineaires.

Acerca del contenido del libro, en el primer Captulo presentaremos una

breve introduccion al analisis funcional, con un particular enfasis en las
areas de analisis numerico y optimizacion. En el Captulo 2 veremos una
introduccion al estudio del problema de norma mnima, donde mostraremos,
como principal resultado, el teorema de Hahn-Banach y algunas de sus con-
secuencias. Posteriormente, en el Captulo 3 consideraremos el tema de los
operadores lineales. En los Captulos 4 y 5 proponemos algunas aplicaciones,
en las que utilizaremos algunos de los resultados clasicos del AF estudiados
en el libro.

En cuanto a la inclusion en el manuscrito de algunos elementos simbolicos

de uso frecuente, debemos senalar que siempre nalizaremos las demostra-
ciones con el smbolo 2 y siempre terminaremos los ejemplos con el smbolo

.
Contenido

1 Conceptos basicos 7
1.1 Espacios vectoriales . . . . . . . . . . . . . . . . . . . . . . . . 7
1.1.1 Una nota sobre conjuntos convexos y conos . . . . . . . 11
1.2 Espacios metricos . . . . . . . . . . . . . . . . . . . . . . . . . 12
1.3 Integracion de Lebesgue . . . . . . . . . . . . . . . . . . . . . 15
1.4 Espacios lineales normados . . . . . . . . . . . . . . . . . . . . 25
1.5 Espacios de prehilbert y Hilbert . . . . . . . . . . . . . . . . . 27
1.6 Bases ortonormales . . . . . . . . . . . . . . . . . . . . . . . . 35
1.7 Miscelanea de resultados del captulo . . . . . . . . . . . . . . 41
1.8 Ejercicios . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 42

2 El problema de norma mnima 47

2.1 El problema de obtener una mejor
aproximacion . . . . . . . . . . . . . . . . . . . . . . . . . . . 48
2.2 Funcionales lineales . . . . . . . . . . . . . . . . . . . . . . . . 50
2.3 Teorema de Hahn-Banach . . . . . . . . . . . . . . . . . . . . 54
2.3.1 Forma por extension . . . . . . . . . . . . . . . . . . . 54
2.3.2 Forma geometrica . . . . . . . . . . . . . . . . . . . . . 59
2.4 Ejercicios . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 65

3 Teora de Operadores 67
3.1 Operadores acotados . . . . . . . . . . . . . . . . . . . . . . . 67
3.2 Operadores autoadjuntos . . . . . . . . . . . . . . . . . . . . . 75
3.3 Operadores compactos . . . . . . . . . . . . . . . . . . . . . . 80
3.4 El teorema espectral . . . . . . . . . . . . . . . . . . . . . . . 82
3.5 Ejercicios . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 85

5
6 CONTENIDO

4 Aproximacion de operadores lineales 89

4.1 Ecuaciones denidas por operadores
lineales . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 89
4.2 Ecuaciones denidas por operadores
no-lineales . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 89

5 Aplicaciones adicionales 91
5.1 El algoritmo de Dykstra . . . . . . . . . . . . . . . . . . . . . 91
5.2 Problemas . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 98
Referencias 99
Captulo 2

El problema de norma mnima

La extension de los conceptos y relaciones, familiares para nosotros, de la

geometra del espacio tri-dimensional a espacios de dimension infinita es la
principal motivacion del analisis funcional. Este captulo trata sobre algunos
de los principios geometricos basicos del analisis funcional, los cuales son de
fundamental importancia en las aplicaciones. Este captulo es una adaptacion
del libro clasico: Optimization by Vector Space Methods, de Luenberger [14].
El teorema de proyeccion es uno de los principios mas sencillo y elegante
que tiene extensiones directas en espacios de Hilbert de dimension infinita.
Este resultado constituye la base de todas las aproximaciones por mnimos
cuadrados, teora de control y procedimientos de estimacion. Otro principio
lo constituye el teorema de Hahn-Banach, el cual puede tomar diferentes for-
mas. Una de las versiones del teorema nos dice, en su forma mas simple, que
dada una esfera y un punto el cual no esta en la esfera, existe un hiperplano
que separa el punto y la esfera.
Otro principio es el de dualidad, que relaciona un problema expresado
en terminos de vectores, en un espacio dado, en un problema expresado en
terminos de hiperplanos en el espacio. Muchos de los principios de duali-
dad estan basados en el hecho de que la distacia mas corta de un punto a
un conjunto convexo es igual al maximo de las distancias del punto a un
hiperplano que separa el punto del convexo. De manera que un problema de
minimizacion sobre vectores se transforma en un problema de maximizacion
sobre hiperplanos.
Seguiremos aqu pues dos estrategias geometricas basicas, la primera esta
relacionada con el desarrollo del teorema de proyeccion, mientras que la se-
gunda se basa en la separacion de conjuntos convexos por hiperplanos y el

47
48 CAPITULO 2. EL PROBLEMA DE NORMA MINIMA

concepto de dualidad.

2.1 El problema de obtener una mejor

aproximacion
Supongamos que 1 , 2 , . . . , n son elementos de un espacio de Hilbert H, y
sea M = [1 , 2 , . . . , n ] el subespacio de H de dimension finita generado
por estos elementos. Dado un vector arbitrario x H, buscamos el vector
x M mas cercano a x. Si expresamos x como x = c1 1 +c2 2 +. . .+cn n ,
este problema es equivalente a encontrar los escalares ci , i = 1, 2, . . . , n, que
minimizan x c1 1 c2 2 . . . cn n .
Segun el teorema de proyeccion (1.5), el unico vector minimizador x es
la proyeccion ortogonal de x sobre M , o lo que es igual, el vector x x es
ortogonal a cada uno de los i , o bien x c1 1 c2 2 . . . cn n , i = 0,
para i = 1, 2, . . . , n. Lo que da lugar al sistema de ecuaciones lineales

1 , 1 c1 + 2 , 1 c2 + . . . + n , 1 cn = x, 1
1 , 2 c1 + 2 , 2 c2 + . . . + n , 2 cn = x, 2
.. .. .. ..
. . . .
1 , n c1 + 2 , n c2 + . . . + n , n cn = x, n ,

las cuales se conocen como las ecuaciones normales para el problema de

minimizacion. La traspuesta de la matriz de coecientes de este sistema se
denomina la matriz de Gram de 1 , 2 , . . . , n . Resolvemos el problema de
aproximacion una vez que resolvamos las ecuaciones normales. Para obtener
una solucion unica es necesario y suciente que el determinante de la matriz
de Gram sea diferente de cero (por que?).
El problema de encontrar la mejor aproximacion a x en el subespacio
generado por los vectores ortonormales e1 , e2 , . . . , en , es un caso particular
del problema de aproximacion. La matriz de Gram de nlos ei s es la matriz

identidad. Por lo que la mejor aproximacion es x = i=1 i ei , donde i =
x, ei .
En la Seccion 1.6 generalizamos este problema de aproximacion cuando
consideramos el subespacio cerrado generado por una sucesion ortonormal
infinita. De los resultados obtenidos en esa seccion fue evidente que si el
subespacio cerrado generado por el conjunto ortonormal de los ei s es el
2.1. EL PROBLEMA DE OBTENER UNA MEJOR APROXIMACION 49

espacio mismo, cualquier vector en H puede expresarse como un desarrollo

en serie de los ei s con coecientes iguales a los coecientes de Fourier x, ei .
Para expresar cada vector de H de esta forma, es necesario que el sub-
espacio cerrado generado por los ei s sea todo el espacio. Para lo que sigue
necesitaremos la siguiente denicion.
Def inicion 2.1 Decimos que una sucesion ortonormal {ei } en un espacio
de Hilbert H es completa si el subespacio cerrado generado por los ei s es
H.
Un criterio sencillo para ver si una sucesion ortonormal dada es completa
esta dado por el siguiente resultado.
Proposicion 2.1 Una sucesion ortonormal {ei } en un espacio de Hilbert H
es completa sii el unico vector ortogonal a cada uno de los ei s es el vector
nulo.
Demostracion: Sigue directamente del Teorema 1.19. 2
Ejemplo:
Consideremos el espacio de Hilbert L2 [1, 1]. Las funciones independientes
1, t, t2 , . . . , tn , . . . generan el subespacio de los polinomios. Podemos aplicar
el procedimiento de Gram-Schmidt a la sucesion 1, t, t2 , . . . para obtener una
sucesion ortonormal {ei } i=0 . Esta es:

2n + 1 (1)n dn
en (t) = Pn (t), n 0, con Pn (t) = n (1 t2 )n ,
2 2 n! dtn
donde los Pn (t) son los denominados polinomios de Legendre (Vericar!).
Veremos que esta sucesion es una sucesion ortonormal completa en L2 [1, 1].
De la proposicion anterior es suciente demostrar que no existe un vector
distinto del vector cero ortogonal al subespacio de polinomios.
1 Supongamos
que existe f L2 [1, 1] ortogonal a cada tn (i.e., 1 tn f (t)dt = 0, n
t
0). A continuacion, consideremos la funcion continua F (t) = 1 f ()d.
Observemos que F (1) = F (1) = 0. Al aplicar integracion por partes,
obtendremos, para n 0, que
1 1 1 n+1
tn+1  t
n
t F (t)dt = F (t) f (t)dt = 0.
1 n+1 1 1 n + 1

De manera que, la funcion F tambien es ortogonal a los polinomios.

50 CAPITULO 2. EL PROBLEMA DE NORMA MINIMA

Al ser F continua podemos aplicar el teorema de aproximacion de Weier-

strass. Es decir, dado > 0, existe un polinomio W (t) tal que

|F (t) W (t)| < , t [1, 1].

Ahora, como F es ortogonal a todo polinomio, sigue que

1 1
|F (t)| dt =
2
F (t)(F (t) W (t))dt
1 1
{ }1/2
1 (por que?) 1
|F (t)|dt 2 |F (t)|2 dt ,
1 1

1
De donde, 1 |F (t)|2 dt 22 . Como es arbitrario y F es una funcion
continua, sigue que F (t) = 0. Por lo que f (t) = 0 a.e. Lo que demuestra que
el subespacio de los polinomios es denso en L2 [1, 1].

En lo que sigue, sera de particular importancia la interrelacion entre un

espacio dado y su correspondiente espacio dual (i.e., el espacio que con-
siste de todas las funcionales lineales continuas sobre el espacio original). El
concepto de espacio dual juega un papel similar al de producto interno en
un espacio de Hilbert; permitiendonos, ademas, considerar el denominado
problema de optimizacion dual del problema primal en el espacio original,
siendo ambos equivalentes en el sentido de que la solucion de cualquiera de
ellos conduce a la solucion del otro. A traves de la interpretacion apropiada
podemos desarrollar resultados que extienden el teorema de proyeccion al
problema de norma mnima en espacios lineales normados.

2.2 Funcionales lineales

De la Definicion 1.25 deducimos que un funcional f en un espacio vectorial
X es lineal si f (x + y) = f x + f y y f (z) = f z, x, y, z X y escalar.
Ejemplos:

nX = R (o X = C ), un funcional f lineal esta denido por f (x) =

n n
1. Si
k=1 ck xk , para x = (x1 , x2 , . . . , xn ), donde los ck son escalares jos.
Mas aun, todo funcional lineal en este espacio es de esta forma (por
que?).

2.2. FUNCIONALES LINEALES 51

2. Consideremos X = C[0, 1]. f (x) = x(1/2) define un funcional lineal.

1
3. Supongamos X = L2 [0, 1]. f (x) = 0 x(t)y(t)dt para y L2 [0, 1] fijo,
define un funcional lineal en X.

En la Definicion 1.25 introdujimos el concepto de continuidad de un operador.

Es facil ver que los funcionales de los ejemplos anteriores son continuos.

Proposicion 2.2 Si un funcional lineal en un espacio normado X es con-

tinuo en un punto, lo es en todo X.

Demostracion: Supongamos que f es un funcional lineal continuo en x0

X. Sea {xn } una sucesion en X que converge a x X. Debido a la linealidad
de f , sigue que |f (xn ) f (x)| = |f (xn x + x0 ) f (x0 )|. Como f es continua
en x0 y xn x + x0 x0 , tenemos que f (xn x + x0 ) f (x0 ). De donde,
|f (xn ) f (x)| 0. 2

En la Definicion 1.25 consideramos tambien el concepto de un operador

acotado. Definiremos la norma de un funcional lineal acotado f por1

f inf{k : |f (x)| kx x},

la cual satisface las propiedades de una norma (vericar!).

Proposicion 2.3 Un funcional lineal f en un espacio normado esta acotado

sii es continuo.

Demostracion: Supongamos primero que f esta acotado. Sea k una cons-

tante tal que |f (x)| kx , x X. Basta suponer que {xn } es una
sucesion en X tal que xn 0, porque entonces |f (xn )| kxn 0. De
donde sigue, por la proposicion anterior, que f es continuo en X.
Supongamos ahora que f es continua en 0. Entonces, existe > 0 tal
que |f (x)| < 1 para x . Como x/x = para x = 0 cualquiera,
tenemos que |f (x)| = |f (x/x)| (x/) < x/. As que, k = 1/ es una
cota para f . 2

Def inicion 2.2 Denominaremos dual algebraico del espacio vectorial X

al espacio vectorial cuyos elementos son los funcionales lineales definidos en
1
Tambien f = supx=0 (|f (x)|/x) = supx1 |f (x)| = supx=1 |f (x)| (por que?).
52 CAPITULO 2. EL PROBLEMA DE NORMA MINIMA

X. Dados dos funcionales lineales f1 , f2 X, def inimos la suma f1 + f2

por (f1 + f2 )(x) = f1 (x) + f2 (x) x X; y, dado un funcional lineal f ,
def inimos f por (f )(x) = (f (x)) escalar . El elemento nulo es el
funcional identicamente igual a cero en X.
En las aplicaciones sera de especial interes el subespacio del dual alge-
braico que consiste de los funcionales lineales acotados en un espacio normado
X. De manera que, este subespacio tambien sera un espacio normado con
la norma que acabamos de definir mas arriba. Llamaremos a este espacio,
denotado por X , el espacio dual normado de X. Sin embargo, dado un
espacio normado X, es comun referirse a X como el dual de X. A veces,
conviene denotar los elementos de X por x1 , x2 , . . ., y al valor del funcional
lineal x X en x X por x (x) o tambien por x, x .
Teorema 2.1 X es un espacio de Banach.
Demostracion: Ejercicio. 2

Ejemplos de duales de algunos espacios de Banach:

1. El dual de X = Rn . En el espacio Rn cada vector es de la forma
x = (x1 , x2 , . . . , xn ), con los xi s R, y norma x =( ni=1 x2i )1/2 .
Consideremos el funcional lineal f denido por f (x) = ni=1 yi xi , con
los yi s R. De la desigualdad C-S tenemos que
  ( )1/2 ( )1/2 ( )1/2
 n  n n n
|f (x)| =  yi xi  2
yi 2
xi = 2
yi x,
i=1 i=1 i=1 i=1

de donde sigue que f esta acotado con f ( ni=1 yi2 )1/2 . Ahora, si
x = (y1 , y2 , . . . ,
yn ) alcanzamos la igualdad en la desigualdad C-S, y en-
tonces f = ( ni=1 yi2 )1/2 . Por otro lado, supongamos que f es un fun-
cional lineal acotado cualquiera en Rn y sea, para cada i = 1, 2, . . . , n,
yi =f (ei ). Un vector x = (x1 , x2 , . . . , xn ) puede escribirse
n como
n
x
= i=1 xi ei . Como f es lineal, tenemos que f (x) = i=1 xi f (ei ) =

n
y
i=1 i ix . De manera que, el espacio dual
nX de X = R n
consiste de
todos los funcionales
de la forma f (x) = i=1 yi xi , con la norma (en
X ) f = ( ni=1 yi2 )1/2 . Es decir, X = X.

2. El dual de X = p , 1 p < . Los espacios p fueron denidos en
la Seccion 1.3. Para todo p, 1 p < , sea q = p/(p 1) tal que
2.2. FUNCIONALES LINEALES 53

1/p+1/q = 1 (si p = 1, convenimos en que q = ). Se puede demostrar

que el espacio dual de p es q (ver, por ejemplo, [1]). Mas aun, todo
funcional lineal acotado en p , 1 p < , puede ser representado
de manera unica como f (x) = i=1 yi xi , donde y = {yi } q . As,
todo elemento de q dene, de esta manera, un elemento de (p ) , y
( )
q 1/q
f = yq = i=1 |yi | si 1 < p < , e igual a supk |yk | si p = 1.

3. El dual de X = Lp [0, 1], 1 p < . Vimos los espacios Lp en

la Seccion 1.3. De una manera similar al ejemplo anterior, se puede
demostrar que el espacio dual de Lp , para 1 p < , es Lq (p1 +
q 1 = 1), en el sentido de que existe un isomorsmo isometrico entre
los funcionales acotados f y los elementos y Lq , tales que f (x) =
1
0
x(t)y(t)dt, y f = yq .

4. El dual de un espacio de Hilbert. En un espacio de Hilbert, para

un y jo, f (x) = x, y dene un funcional lineal. La desigualdad
C-S, |x, y| x y, muestra que el funcional f esta acotado con
f y. De la denicion de f resulta claro que diferentes vectores
y producen funcionales distintos. Se puede demostrar que todos los
funcionales lineales acotados en un espacio de Hilbert son de esta forma.

Teorema 2.2 (Teorema de Riesz-Frechet) Si f es un funcional li-

neal acotado en un espacio de Hilbert H, existe un unico vector y H
tal que, para todo x H, f (x) = x, y. Ademas, f = y y todo
y H determina, de esta manera, un unico funcional lineal acotado.

Demostracion: Dado un funcional lineal acotado f , sea N = {x

H : f (x) = 0}, el cual es un subespacio cerrado de H (Por que?).
Si N = H, entonces f = 0 y el resultado sigue al tomar y = . Si
N = H, podemos expresar H = N N , y como N = H, existe
un vector z N , el cual es distinto del vector cero. Como z = y
z/ N , necesariamente f (z) = 0. Como N es un subespacio, podemos
suponer que z es tal que f (z) = 1. Veremos que el vector z es un
multiplo escalar del vector y que requerimos. Observemos que para un
x cualquiera en H, x f (x)z N (Por que?). Ahora, como z N .
x f (x)z, z = 0 o x, z = f (x)z2 o bien f (x) = x, z/z2 . As,
deniendo y = z/z2 , tenemos que f (x) = x, y. El vector y es unico,
54 CAPITULO 2. EL PROBLEMA DE NORMA MINIMA

puesto que si y es otro vector para el cual f (x) = x, y x, tenemos

que x, y = x, y x, o x, y y = 0 x, de donde sigue que y = y.
Como arriba observamos, de la desigualdad C-S sigue que f y,
y como f (y) = y, y, f = y. 2
Los espacios Rn , 2 y L2 ilustran este resultado.

2.3 Teorema de Hahn-Banach

Consideraremos aqu dos versiones clasicas del teorema, a saber la forma por
extension y la forma geometrica.

2.3.1 Forma por extension

Esta forma puede considerarse como una generalizacion del teorema de pro-
yeccion (en espacios de Hilbert) a espacios normados (ver el Ejercici 2.6).
Def inicion 2.3 Sea f un funcional lineal definido en un subespacio S de un
espacio vectorial X. Diremos que un funcional lineal F es una extension
de f si F esta definido en un subespacio Z ) S, y ademas F = f en S.
Expresado de una forma sencilla, el teorema de Hahn-Banach establece que
un funcional lineal acotado f , denido en un subespacio S de un espacio
normado X, puede ser extendido a un funcional lineal acotado F denido en
todo X, con norma F = f S . Sin embargo, demostraremos una version
mas general del teorema en la que usaremos funcionales sublineales en lugar
de normas.
Def inicion 2.4 Diremos que un funcional p definido en un espacio vectorial
real X es un funcional sublineal en X si
(i) p(x1 + x2 ) p(x1 ) + p(x2 ), x1 , x2 X
(ii) p(x) = p(x), 0 x X
Claramente, cualquier norma es un funcional sublineal.
Teorema 2.3 (Teorema de extension de Hahn-Banach) Sea X un es-
pacio lineal normado real separable y p un funcional sublineal continuo en
X. Sea f un funcional lineal definido en un subespacio S de X que satisface
f (s) p(s), s S. Entonces, existe una extension F de f a X tal que
F (x) p(x) en X.
2.3. TEOREMA DE HAHN-BANACH 55

Demostracion: La idea de la demostracion es extender f una dimension

cada vez y luego aplicar induccion. Supongamos que y X r S. Sea x
[S+y], este tiene una representacion unica de la forma x = s+y, donde s S
y R. Una extension g de f de S a [S + y] tiene la forma g(x) = f (s) +
g(y). De manera que, la extension estara especicada por la constante g(y).
Debemos demostrar que podemos escoger esta constante tal que g(x) p(x)
en [S + y]. Para cualesquiera s1 , s2 S, tenemos que

f (s1 ) + f (s2 ) = f (s1 + s2 ) p(s1 + s2 ) p(s1 y) + p(s2 + y)

o bien,
f (s1 ) p(s1 y) p(s2 + y) f (s2 ),
de donde
sup[f (s) p(s y)] inf [p(s + y) f (s)].
sS sS

Por lo que existe una constante k tal que

sup[f (s) p(s y)] k inf [p(s + y) f (s)].

sS sS

Para el vector x = s + y, denimos g(x) = f (s) + k. Debemos demostrar

que g(s + y) p(s + y). Si > 0, entonces

f (s) + k = [k + f (s/)] [p(s/ + y) f (s/) + f (s/)] = p(s + y).

Si = < 0, entonces

f (s) k = [k + f (s/)] [p(s/ y) f (s/) + f (s/)] = p(s y).

De donde sigue que g(s + y) p(s + y) . As, g es una extension de f

de S a [S + y].
Sea ahora {x1 , x2 , . . . , xn , . . .} un conjunto denso en X. Seleccionemos de
este conjunto, uno a la vez, un subconjunto de vectores linealmente indepen-
dientes {y1 , y2 , . . . , yn , . . .} * S. Este conjunto, junto con el subespacio S,
genera un subespacio D denso en X. De manera que, el funcional f puede ser
extendido a un funcional g en el subespacio D al extender f de S a [S + y1 ],
luego a [[S + y1 ] + y2 ], etc.
El g obtenido, que es continuo por serlo p, puede extenderse por con-
tinuidad del subespacio denso D al espacio X. Supongamos que x X,
entonces existe una sucesion {dn } en D que converge a x (Por que?). A
56 CAPITULO 2. EL PROBLEMA DE NORMA MINIMA

continuacion, denimos F por F (x) = limn g(dn ). F es lineal (Por que?),

y como g(dn ) p(dn ), cuando n , sigue que F (x) p(x) en X. 2

Una version mas general del teorema requiere que X sea solamente un
espacio vectorial lineal, por lo que ni la continuidad de los funcionales ni
la separabilidad de X son necesarias. No obstante, en las aplicaciones, en
general, los funcionales lineales son acotados y los espacios son normados
separables.

Corolario 2.1 Sea f un funcional lineal acotado definido en un subespacio

S de un espacio vectorial normado real separable X. Entonces, existe un
funcional lineal acotado F definido en X, el cual es una extension de f con
norma igual a la de f en S.

Demostracion: Ejercicio. 2
El corolario que sigue asegura la existencia de funcionales lineales acotados
no triviales en un espacio lineal normado arbitrario.

Corolario 2.2 Sea x un elemento de un espacio normado X. Entonces, e-

xiste un funcional lineal acotado distinto de cero F en X tal que F (x) =
F x.

Demostracion: Supongamos primero que x = . En el subespacio unidi-

mensional generado por x, denimos f (x) = x. f es un funcional lineal
acotado con norma igual a 1, el cual por el Corolario 2.1 puede ser exten-
dido a un funcional lineal acotado F en X con norma 1, que es el funcional
requerido. Si x = , cualquier funcional lineal acotado servira2 . 2

Observaciones:

El Corolario 2.1 puede considerarse como un teorema de existencia

para un problema de minimizacion. Una extension arbitraria de un
funcional f en un subespacio S de un espacio normado sera, en general,
no acotado o tendra norma mayor que la norma de f en S. Por lo
que, para el problema de seleccionar la extension de norma mnima, el
teorema de Hahn-Banach nos asegura tanto la existencia de una norma
mnima como la norma de la mejor extension.
2
La existencia de uno ya fue asegurada.
2.3. TEOREMA DE HAHN-BANACH 57

Con frecuencia se usa la notacion x, x para el valor del funcional

x X en un punto x X. Dado x X, f (x ) = x, x dene un
funcional en el espacio X . Este funcional es lineal y como |f (x )| =
|x, x | x x , sigue que f x. Ahora, por el Corolario 2.2,
existe un x distinto de cero en X tal que x, x = x x , de
manera que f = x. As que, dependiendo de a cual estemos con-
siderando jo, a x o a x en x, x , X y X denen funcionales lineales
acotados, cada uno en el otro; lo que a su vez motiva la introduccion
de la notacion simetrica x, x .

Def inicion 2.5 Llamaremos segundo dual de X al espacio de los fun-

cionales lineales acotados en X . Suele ser denotado por X . Ademas,
diremos que un espacio lineal normado X es reflexivo si X = X .

Ejemplos de espacios reflexivos y no reflexivos:

1. Los espacios p , para 1 < p < , son reexivos, pues p = q , donde

p1 + q 1 = 1, y
p = q = p . Tambien los espacios Lp , para 1 < p <
, son reexivos.

2. Todo espacio de Hilbert es reexivo.

3. Los espacios 1 y L1 no son reexivos (por que?).

Los espacios reexivos poseen una serie de propiedades que no tienen nece-
sariamente los espacios normados arbitrarios. Por ejemplo, en un espacio
reexivo es cierto el recproco del Corolario 2.2 (i.e., dado x X , existe un
x X con x, x = x x ).

El problema de norma mnima

Podemos extender el denominado problema de norma mnima en espacios
de Hilbert a espacios normados. En ese caso el vector optimo, si existe,
puede que no sea unico y las ecuaciones involucradas pueden ser no lineales.
Por ejemplo, si X es el espacio de pares de numeros reales x = (x1 , x2 )
con x = maxi=1,2 |xi |, y si S es el subespacio de X que consiste de los
vectores con su segundo componente igual a cero, y x = (2, 1); observamos
que d(x, S) = 1, pero tambien cualquier vector s S de la forma s = (, 0)
donde 1 3, satisface que x s = 1.
58 CAPITULO 2. EL PROBLEMA DE NORMA MINIMA

Los resultados que siguen pretenden resolver este tipo de problemas e

introducen un principio de dualidad, mostrando la equivalencia de dos pro-
blemas de optimizacion: uno formulado en el espacio normado y el otro en
su dual. Lo que signica que estos teoremas contienen mas informacion que
el teorema de proyeccion. La transicion de un problema a su dual muchas
veces conlleva una importante simplicacion del problema a resolver, como
ocurre en el caso de algunos problemas de dimension innita que pueden
transformarse en problemas equivalentes de dimension nita.
Teorema 2.4 Sea X un espacio lineal normado real y S un subespacio de
este. Consideremos un x X y sea d d(x, S). Entonces,
d = inf x s = max x, x ,
sS x S
x 1

donde el maximo se alcanza para algun x0 S . Si se alcanza el nfimo para

algun s0 S, entonces x s0 , x0 = x0 x s0 .
Demostracion: Para > 0, sea s() S tal que x s() d + .
Entonces, para cualquier x S , con x 1, tenemos que
x, x = x s(), x x x s() d + .
Como es arbitrario, x, x d. De manera que, para demostrar la primera
parte del teorema, bastara encontrar un x0 para el que x, x0 = d. Sea V el
subespacio [x + S], cuyos elementos son de la forma v = x + s, con s S y
R. Si ahora denimos el funcional lineal f en V por f (v) = d, vemos
que f = supV |f (v)|/v = sup ||d/x + s = d/ inf x + s/ = 1. Del
teorema de Hahn-Banach sigue que existe una extension, digamos x0 , de f
de V a X tal que x0 = 1 y x0 = f en V . Por construccion, x0 S y
x, x0 = x s, x0 = d. Este x0 satisface nuestro requerimiento.
Supongamos ahora que existe un s0 S tal que x s0 = d. Entonces,
x s0 , x0 = x, x0 = d = x0 x s0 . 2

Este teorema muestra la equivalencia de dos problemas de optimizacion:

uno en X (el problema primal) y el otro en X (el problema dual).
Teorema 2.5 Sea S un subespacio de un espacio lineal normado real X. Sea
x X y sea d d(x , S ). Entonces,
d = min x s = sup x, x ,
s S xS
x1
2.3. TEOREMA DE HAHN-BANACH 59

donde el mnimo se alcanza para un s0 S . Si se alcanza el supremo para

algun x0 S, entonces x0 , x s0 = x s0 x0 .

Demostracion: Ejercicio. 2

Estos teoremas muestran que, a traves de la aplicacion del teorema de

Hahn-Banach, podemos asegurar la existencia de ciertos funcionales lineales,
los cuales garantizan una solucion al problema de norma mnima si el prob-
lema se reformula en el dual de un espacio normado.
Las relaciones de dualidad mostradas en los dos teoremas anteriores son
de gran interes practico en problemas de optimizacion.

2.3.2 Forma geometrica

Buscamos aqu extender el tratamiento del problema de norma mnima para
variedades lineales al caso de conjuntos convexos. Para ello, en lugar de
considerar los funcionales lineales como elementos de un espacio dual, ahora
los veremos mas bien como hiperplanos generados en el espacio primal.

Def inicion 2.6 Sea X un espacio vectorial lineal. Un hiperplano H en X

es una variedad lineal propia maximal (i.e., H es una variedad lineal = X
para la que si V es cualquier variedad lineal que contiene a H, entonces
V = X o V = H).

Los siguientes resultados muestran la importante relacion que existe entre

los hiperplanos y los funcionales lineales.

Teorema 2.6 Sea H un hiperplano en un espacio vectorial X. Entonces,

existe un funcional lineal f en X y una constante tales que H = {x :
f (x) = }. Recprocamente, si f es un funcional lineal diferente de cero en
X, el conjunto {x : f (x) = } es un hiperplano en X.

Demostracion: () Sea H un hiperplano en un espacio vectorial X. H es

la traslacion de un subespacio M en X, esto es H = x0 + M . Si x0 / M,
entonces [M + x0 ] = X, y para x X, x = x0 + m con m M , y podemos
definir f (x) = . De manera que H = {x : f (x) = 1}. Ahora, si x0 M ,
existe x1 / M (de lo contrario, M = X) tal que X = [M + x1 ], H = M y de
x = x1 +m, podemos definir f como f (x) = . Luego, H = {x : f (x) = 0}.
60 CAPITULO 2. EL PROBLEMA DE NORMA MINIMA

() Sea f un funcional lineal diferente de cero en X y sea M = {x :

f (x) = 0}. Observemos que M es un subespacio. Sea ahora x0 X tal
que f (x0 ) = 1. Notemos que para cualquier x X, x f (x)x0 M . As
que3 , X = [M + x0 ] y M es un subespacio propio maximal. Para R, sea
x1 X tal que f (x1 ) = . Entonces,

{x : f (x) = } = {x : f (x x1 ) = 0} = {y + x1 : f (y) = 0} = M + x1 ,

que es un hiperplano. 2

Podemos establecer una correspondecia unica entre funcionales lineales e

hiperplanos (salvo el caso de aquellos que contienen el origen).
Corolario 2.3 Sea H un hiperplano en un espacio vectorial lineal X. Si
H no contiene el origen, existe un unico funcional lineal f en X tal que
H = {x : f (x) = 1}.
Demostracion: Ver el Ejercicio 2.7. 2

Consideremos ahora un espacio normado X y un hiperplano H en el,

entonces este sera cerrado o denso en X. Esto se debe a que como H es una
variedad lineal maximal, H = H o H = X. Aqu estamos especialmente
interesados en considerar este tipo de hiperplanos.
Proposicion 2.4 Sea f un funcional lineal diferente de cero en un espacio
normado X. Entonces, el hiperplano H = {x : f (x) = } es cerrado para
todo sii f es continuo.
Demostracion: () Supongamos que M = {x : f (x) = 0} es cerrado
y sea X = [x0 + M ]. Supongamos ademas que xn x en X, por lo que
xn x 0, donde xn = n x0 + mn y x = x0 + m. Entonces,

xn x = (n )x0 + mn m
= |n |x0 + (mn m)/(n )
|n |d(x0 , M ),

de donde sigue que n . As que f (xn ) = n f (x0 ) + f (mn ) = n f (x0 )

f (x0 ) = f (x). Por lo tanto, f es continuo en X.
Observemos que X [M + x0 ], pues para cualquier x X, x f (x)x0 + x0 = x
3

[M + x0 ] con = f (x).
2.3. TEOREMA DE HAHN-BANACH 61

() Sea {xn } una sucesion en H que converge a un x X. Entonces,

= f (xn ) f (x), y como estamos suponiendo que f es continuo, sigue que
x H, por lo que H es cerrado. 2

Estos resultados nos dicen que existe una correspondencia entre hiper-
planos cerrados y elementos del espacio dual X .

Def inicion 2.7 Sean f un funcional lineal diferente de cero en un espacio

vectorial X y H el hiperplano {x : f (x) = }. Llamaremos semiespacios
determinados por H a los conjuntos: {x : f (x) }, {x : f (x) < },
{x : f (x) } y {x : f (x) > }. Los dos primeros son los semiespa-
cio negativos determinados por f y los dos ultimos son los semiespacio
positivos.

Si f es continuo, el segundo y el cuarto de los semiespacios anteriores son

abiertos y el primero y el tercero son cerrados.

Def inicion 2.8 Sea C un conjunto convexo en un espacio lineal normado

X. Supongamos ademas que C. Entonces, definimos en X el funcional
de Minkowski M de C por M = inf{k : x/k C, k > 0}.

Observemos que cuando C es la bola unitaria en X, el funcional de Minkowski

es x. En general, M dene un tipo de distancia del origen a x medida con
respecto a C, y es el factor por el cual C debe ser expandido a n de incluir
a x.

Lema 2.1 Sea C un conjunto convexo tal que C. Entonces, el funcional

de Minkowski M de C satisface:
1. 0 M < x X,
2. M(x) = M(x) para > 0,
3. M(x1 + x2 ) M(x1 )+M(x2 ),
4. M es continuo,
5. C = {x : M(x) 1}, C = {x : M(x) < 1}.

Demostracion: Dejamos los puntos 1. y 2. como ejercicio (Ejercicio 2.8).

3. Dados x1 , x2 y > 0, escogemos r1 , r2 tales que M(xi ) < ri < M(xi ) + ,
i = 1, 2. Por 2., M(xi /ri ) < 1, por lo que xi /ri C. Sea r = r1 + r2 . Como
C es convexo, (r1 /r)(x1 /r1 ) + (r2 /r)(x2 /r2 ) = (x1 + x2 )/r C. As que,
M(x1 + x2 )/r 1, o bien M(x1 + x2 ) r, y como r < M(x1 )+M(x2 ) + 2,
62 CAPITULO 2. EL PROBLEMA DE NORMA MINIMA

donde fue escogido de manera arbitraria, sigue que M es subaditiva.

4. Sea el radio de una bola cerrada centrada en y contenida en C. En-
tonces, para cualquier x X, x/x C y, por lo tanto, M(x/x) 1.
De donde sigue, por 2., que M(x) (1/)x. As, M es continuo en .
Ahora, por 3., tenemos que M(x) = M(xy+y) M(xy)+M(y) e inter-
cambiando x por y en esta expresion, sigue que |M(x)M(y)| M(x y).
Por lo tanto, la continuidad de M en X sigue de la continuidad en .
5. Sigue directamente de 4. 2

La version geometrica del teorema de Hahn-Banach, en su forma mas

simple, establece que, dado un conjunto convexo C con C = , y dado un
punto z / C, existe un hiperplano cerrado, disjunto de C, tal que z esta en
el. Demostraremos ahora este resultado.

Teorema 2.7 (Teorema de Hahn-Banach) Sea C un conjunto convexo

en un espacio lineal normado real X tal que C = . Sea V una variedad
lineal en X tal que V C = . Entonces, existe un hiperplano cerrado H en
X tal que V H pero H C = (i.e., existe un x X y una constante
tal que v, x = v V y c, x < c C).

Demostracion: Realizando la traslacion adecuada podemos suponer que

es un punto interior de C. Sea S el subespacio de X generado por V .
Entonces V es un hiperplano en S y no contiene el . De manera que existe
un funcional f en S tal que V = {x : f (x) = 1}.
Sea ahora M el funcional de Minkowski de C. Como V no tiene puntos
interiores de C, f (x) = 1 M(x) para x V . Como los elementos de S son
de la forma s = x con x V , y como f (x) = M(x) para x V y
> 0, y f (x) 0 M(x) para < 0, sigue que f (s) M(s) s S.
Por el teorema de Hahn-Banach, existe una extension F de f de S a X con
F (x) M(x). Sea H = {x : F (x) = 1}. Como F (x) M(x) en X y como
M es continuo por Lema 2.1, sigue que F es continuo (por lo tanto, H es
cerrado) y F (x) < 1 para x C. De manera que, H es el hiperplano cerrado
requerido. 2

A continuacion expondremos algunas de las consecuencias de la aplicacion

de este teorema. Se trata de resultados geometricos simples que conducen a
profundos y utiles principios de optimizacion.
2.3. TEOREMA DE HAHN-BANACH 63

Def inicion 2.9 Diremos que un hiperplano cerrado H en un espacio nor-

mado X es un hiperplano de soporte para el conjunto convexo C, si C
esta contenido en uno de los semiespacios cerrados determinados por H y a
H pertenece un punto de C.
Corolario 2.4 (Teorema de soporte) Si C es un conjunto convexo tal
que C = y si x / C, entonces existe un hiperplano cerrado H al que
pertenece x tal que C esta contenido en uno de los semiespacios determina-
dos por H.
Demostracion: Ver el Ejercicio 2.9. 2
Corolario 2.5 (Teorema de separacion) Sean C1 y C2 conjuntos con-
vexos en X tales que C1 = y C2 C1 = . Entonces, existe un hiper-
plano cerrado H que separa C1 y C2 (i.e., existe un x X tal que
supxC1 x, x inf xC2 x, x ; es decir, C1 y C2 caen en los semiespacios
opuestos determinados por H).
Demostracion: Sea C = C1 C2 . Notemos que C tiene un punto interior.
Por el teorema de soporte existe x X , distinto de cero, tal que x, x 0
para x C. De manera que, para x1 C1 y x2 C2 , x1 , x x2 , x .
Por lo tanto, existe R tal que supc1 C1 c1 , x inf c2 C2 c2 , x . As
que, el hiperplano requerido es H = {x : x, x = }. 2
Corolario 2.6 Si C es un conjunto convexo cerrado en un espacio normado
yx / C, existe un semiespacio cerrado que contiene a C pero no a x. Alter-
nativamente, si C es un conjunto convexo cerrado, entonces C es la inter-
seccion de todos los semiespacio cerrados que lo contienen.
Demostracion: Ver Ejercicio 2.10. 2

Este ultimo resultado constituye el fundamento geometrico de la teora

de dualidad para conjuntos convexos. Este corolario, al asociar hiperplanos
cerrados (o semiespacios) con elementos de X , expresa un conjunto convexo
en X como una coleccion de elementos en X .

El problema de norma mnima

Aplicando el concepto de hiperplano de separacion introducido en esta seccion,
consideraremos ahora el problema de encontrar la distancia mnima de un
punto dado a un conjunto convexo.
64 CAPITULO 2. EL PROBLEMA DE NORMA MINIMA

Como comentamos al comienzo de este captulo, un importante e intuitivo

principio geometrico de dualidad nos dice que la distancia mnima de un
punto a un conjunto convexo C es igual al maximo de las distancias del
punto a los hiperplanos que separan el punto del convexo.

Def inicion 2.10 Sea C un conjunto convexo en un espacio lineal normado

real X. Llamaremos al funcional k(x ) = supxC x, x , definido en X , el
funcional de soporte de C. El mismo puede ser infinito.

Observaciones:

1. Si C es la bola unitaria en X, entonces k(x ) es la norma en X .

2. El funcional de soporte tiene la siguiente interpretacion geometrica:

dado un elemento x X , consideramos la coleccion de semiespacios
{x : x, x } con como parametro variable; cuando crece,
los semiespacios son cada vez mas grandes y k(x ) es el nmo de las
constantes tales que C esta contenido en los semiespacios. A partir
de esta interpretacion, resulta claro que el funcional de soporte de un
convexo C caracteriza
la clausura del mismo conjunto (i.e., segun el
Corolario 2.6, C = x X {x : x, x k(x )}).

3. Si C es un conjunto convexo que esta a una distancia nita del ,

x X con x = 1 y el hiperplano H = {x : x, x = k(x )} es un
hiperplano de soporte para C que separa de C; entonces, la distancia
del a H es k(x ). (ver Teorema 2.8).

Teorema 2.8 (Dualidad en problemas de norma mnima) Sea z un -

punto en un espacio lineal normado X, C un conjunto convexo con funcional
de soporte k y d d(z, C) > 0. Entonces,

d = inf x z = max

(z, x k(x )),
xC x 1

donde el maximo de la derecha se alcanza para algun x0 X , y si el nfimo

de la izquierda se alcanza para un x0 C, entonces x0 , x0 = x0 x0 .

Demostracion: No perdemos generalidad si suponemos que z = . De

manera que, basta demostrar que d = inf xC x = maxx 1 k(x ). De-
mostremos primero que para cualquier x X con x 1, d k(x ).
2.4. EJERCICIOS 65

Para ello, obviamente, solo consideraremos los x s para los que k(x ) < 0,
y en este caso, C estara contenido en el semiespacio {x : x, x k(x )}.
Ademas, a este subespacio no pertenece el pues , x = 0. As que, si
k(x ) < 0, el hiperplano H = {x : x, x = k(x )} separa C y .
Sea B() la bola centrada en de radio . Para cualquier x X tal que
k(x ) < 0 y x = 1, sea = sup{ : H separa C y B()}. Claramente,
0 d, y tambien k(x ) = inf x< x, x = (ver Fig.). De manera
que, para todo x X , con x 1, k(x ) d.
Ahora, como C B(d) = , existe por el Corolario 2.5 un hiperplano que
separa B(d) y C. Por lo tanto, existe un x0 X con x0 = 1, tal que
k(x0 ) = d.
Para demostrar la ultima parte del teorema, supongamos que x0 C
con x0 = d. Entonces, x0 , x0 k(x0 ) = d. Pero tambien x0 , x0
x0 x0 = d. Por lo tanto, x0 , x0 = x0 x0 . 2

Observemos que si en el teorema anterior, C es un subespacio del espacio

normado X, entonces el Teorema 2.8 se transforma en el Teorema 2.4 (ver
Ejercicio 2.11).

2.4 Ejercicios
2.1 Considere
el ikt
espacio complejo L2 [0, 2]. Demostrar que las funciones
ek (t) = (1/ 2)e , para k = 0, 1, 2, . . ., denen una sucesion ortonor-
mal. Demostrar, ademas, que esta sucesion es completa. De donde ob-
tendremos el desarrollo clasico de Fourier para una funcion arbitraria x
L2 [0, 2].
2.2 El espacio c0 es el espacio de las sucesiones innitas x = {xi } de numeros
reales que convergen a cero, con la norma x = maxi |xi | (as, c0 es un sub-
espacio de ). Demostrar que el dual de c0 es 1 con funcionales lineales

acotados denidos por f (x) = i=1 xi yi , con y = {yi } 1 y f = y.
2.3 Demostrar el Teorema 2.1.
2.4 Demostrar el Corolario 2.1.
2.5 Sea S un subespacio de un espacio lineal normado real separable X. De-
mostrar que si w X y d(w, S) > 0, entonces existe un funcional lineal con-
tinuo denido en X tal que (s) = 0 s S, (w) = 1 y = 1/d(w, S).
66 CAPITULO 2. EL PROBLEMA DE NORMA MINIMA

2.6 (Generalizacion del teorema de proyeccion) Sea x un elemento de un es-

pacio lineal normado real X y sea S un subespacio del mismo. Entonces, un
vector s0 S satisface x s0 x s s S sii existe un vector distinto
de cero x S tal que x s0 , x = x x s0 .
2.7 Demostrar el Corolario 2.3.
2.8 Completar la demostracion del Lema 2.1.
2.9 Demostrar el Corolario 2.4.
2.10 Demostrar el Corolario 2.6.
2.11 Si en el Teorema 2.8, C es un subespacio del espacio normado X y si x
es un elemento jo en X, entonces bajo que condiciones k(x ) sera nito?
Este resultado nos permite considerar el Teorema 2.4 como un corolario del
Teorema 2.8.
Referencias

[1] G. BACHMAN and L. NARICI. Functional Analysis. Academic Press

Inc., New York, 1966.

[2] A.V. BALAKRISHNAN. Introduction to Optimization Theory in a

Hilbert Space. Springer-Verlag, Berlin, 1971.

[3] A.V. BALAKRISHNAN. Applied Functional Analysis. Springer-Verlag,

New York, 1976.

[4] S.K. BERBERIAN. Measure and Integration. Macmillan, New York,

1965.

[5] J.P. BOYLE and R.L. DYKSTRA. A method for nding projections
onto the intersections of convex sets in Hilbert spaces. Lecture Notes in
Statistics, 37:2847, 1986.

[6] W. CHENEY. Analysis for Applied Mathematics. Springer, New York,

2001.

[7] R. L. DYKSTRA. An algorithm for restricted least-squares regression.

J. Amer. Stat. Assoc., 78:837842, 1983.

[8] R. ESCALANTE and M. RAYDAN. Alternating Projection Methods.

Society for Industrial and Applied Mathematics, Philadelphia, 2011.

[9] G. H. GOLUB and C. F. VAN LOAN. Matrix Computations, Third

Edition. Johns Hopkins University Press, Baltimore, 1996.

[10] D.H. GRIFFEL. Applied Functional Analysis. Ellis Horwood, London,

1981.

99
100 REFERENCIAS

[11] P.R. HALMOS. Measure Theory. Van Nostrand, Princeton, New Jersey,
1950.

[12] V. HUTSON and J.S. PYM. Applications of Functional Analysis and

Operator Theory. Academic Press, New York, 1980.

[13] P. LINZ. Theoretical Numerical Analysis, An Introduction to Advanced

Techniques. John Wiley, New York, 1979.

[14] D.G. LUENBERGER. Optimization by Vector Space Methods. John

Wiley, New York, 1969.

[15] B.P. RIESZ and B. SZ.-NAGY. Functional Analysis. Ungar, New York,
1955.

[16] B.P. RYNNE and M.A. YOUNGSON. Linear Functional Analysis, Sec-
ond Edition. Springer-Verlag, London, 2008.