Сибирский математический журнал
Январь—февраль, 2000. Том 41, № 1
УДК 513. 88
ТИПИЧНЫЕ ВЫПУКЛЫЕ МНОЖЕСТВА
Е. М. Бронштейн
Аннотация: Пусть K — выпуклое компактное подмножество гильбертова про-
странства B, V(K) — множество выпуклых компактных подмножеств K, наде-
ленное метрикой Хаусдорфа. Получены следующие результаты. Теорема 1. Если множество K бесконечномерное, то нигде не плотные в K
выпуклые компакты нулевой коразмерности в K, экстремальные точки в которых
типичны, являются типичными в V(K). Теорема 2. Если множество K конечномерное, то множества U ∈ V(K)
полной размерности, граница которых совпадает с множеством ext U и является
гладкой, типичны в V(K). Типичность понимается в смысле бэровских категорий. Теорема 1 усиливает
результаты В. Кли и Т. Шварца — Т. Замфиреску. Библиогр. 7. Пусть K — выпуклое компактное подмножество гильбертова пространства
B, V(K) — множество выпуклых компактных подмножеств K, наделенное мет-
рикой Хаусдорфа
ρ(A, B) = max(max d(a, B), max d(b, A)). a∈A b∈B
Здесь A, B ∈ V(K), d(a, B) = min ka − bk. b∈B
В статье устанавливаются свойства типичных элементов множества V(K). Они существенно зависят от того, является множество K конечномерным или
бесконечномерным. В. Кли [1] установил, что в бесконечномерном случае ти-
пичны такие элементы K1 ∈ V(K), в которых множество экстремальных точек
ext K1 плотно.
Т. Шварц и Т. Замфиреску [2] доказали, что в конусе выпуклых
компактных подмножеств евклидова пространства типичными являются такие
множества, в которых экстремальные точки типичны. Типичным подмножеством метрического пространства называется оста-
точное множество, т. е. дополнение объединения счетного семейства нигде не
плотных множеств. Оказывается, свойство Шварца — Замфиреску имеет место и в общей си-
туации. Более того, справедлива
Теорема 1. Если множество K бесконечномерное, то нигде не плотные
в K выпуклые компакты нулевой коразмерности в K, экстремальные точки в
которых типичны, являются типичными в V(K). Иначе обстоит дело, если множество K конечномерное. Теорема 2. Если множество K конечномерное, то множества U ∈ V(K)
полной размерности, граница которых совпадает с множеством ext U и является
гладкой, типичны в V(K). Сопоставление теорем 1 и 2 показывает, что нигде не плотность типична
только в бесконечномерном случае. Типичность экстремальных точек в беско-
нечномерном случае заменяется совпадением множества экстремальных точек
c 2000 Бронштейн Е. М.
16 Е. М. Бронштейн
с границей в конечномерном. Заметим при этом, что у бесконечномерного ком-
пакта все точки граничные. Поясним, что множество U ⊂ K имеет нулевую коразмерность в K, если
для линейного ограниченного функционала a на B из условия ax = const при
x ∈ U следует, что ax = const при x ∈ K. Прежде чем доказывать теорему 1, приведем несколько вспомогательных
утверждений.