Эмпирическая минимизация риска как правило выбора параметра для общих линейных методов регуляризации.

Авторы
ИзданиеarXiv.org.
Год издания2017

 Мы рассматриваем статистическую обратную задачу для восстановленияf От зашумленных измеренийY=Tf+σξ гдеξ Является гауссовским белым шумом иT Компактный оператор между гильбертовыми пространствами. Рассматривая общие методы реконструкции видаf^α=qα(TT)TY С упорядоченным фильтромqα, Мы исследуем выбор параметра регуляризацииα Минимизируя непредвзятую оценку прогнозируемого рискаE[TfTf^α2]. Соответствующий параметрαpred И его использование хорошо известно в литературе, но неравенства оракула и результаты оптимальности в этой общей ситуации неизвестны. Докажем (обобщенное) неравенство оракула, связывающее прямой рискE[ff^αpred2] С риском предсказания оракуловinfα>0E[TfTf^α2]. Из этого неравенства оракула мы затем можем сделать вывод, что исследуемое правило выбора параметров имеет оптимальный порядок. Наконец, мы также представляем численное моделирование, которое поддерживает оптимальность порядка метода и качество выбора параметра в конечных ситуациях выборки.

Ссылка на публикацию
Ли Х. Б., Вернер Ф.   Эмпирическая минимизация риска как правило выбора параметра для общих линейных методов регуляризации. - : , 2017. // arXiv.org, 2017.
Библиография
1.[Абрамович и Сильверман, 1998] as98 Абрамович Ф. И Сильверман, Б. W. (1998 год). Вейвлет-декомпозиция подходит к статистическим обратным задачам. Biometrika, 85: 115-129.
2.[Бакушинский, 1984] b84 Бакушинский, А. B. (1984). Замечания о выборе параметра регуляризации из критериев квазиоптимальности и отношения. Zh. Вычисл. Мат. я в. Fiz., 24 (8): 1258-1259.
3.[Bauer and Hohage, 2005] bh05 Bauer, F. И Хохаге, Т. (2005 год). Лепский тип остановки для регуляризованных методов Ньютона. Обратный Пробл., 21 (6): 1975 год.
4.[Bauer and Lukas, 2011] bl11 Bauer, F. И Лукас, М. A. (2011 год). Сравнение методов выбора параметров для регуляризации некорректных задач. Математика. Вычисл. Моделирование, 81 (9): 1795-1841.
5.[Bellec and Tsybakov, 2016] bt16 Bellec, P. С. И Цыбаков А. B. (2016). Границы ошибки прогноза оцененных штрафов с наименьшими квадратами с выпуклым штрафом. ArXiv: 1609.06675.
6.[Birg? E и Massart, 2001] bm01 Birg? E, L. И Massart, P. (2001). Выбор гауссовой модели. J. Евро. Математика. Soc. (JEMS), 3 (3): 203-268.
7.[Birg? E and Massart, 2007] bm07 Birg? E, L. И Massart, P. (2007). Минимальные штрафы за выбор Гауссовой модели. Probab. Поля, связанные с теорией, 138 (12): 33--73.
8.[Bissantz et al., 2007] bhmr07 Bissantz, N., Hohage, T., Munk, A., И Руймгаарт, F. (2007). Коэффициенты сходимости общих методов регуляризации для статистических обратных задач и приложений. SIAM J. Число. Анальный., 45 (6): 2610-2636.
9.[Blanchard et al., 2016] bhr16 Blanchard, G., Hoffmann, M., И Rei ?, M. (2016). Оптимальная адаптация для ранней остановки в статистических обратных задачах. ArXiv: 1606.07702.
10.[Cand`es et al., 2013] cslt13 Candes, E. J., Синг-Лонг, С. A., И Trzasko, J. D. (2013). Беспристрастные оценки риска пороговых значений сингулярных значений и спектральных оценок. IEEE Trans. Сигнальный процесс., 61 (19): 4643-4657.
11.[Cavalier, 2011] c11 Cavalier, L. (2011 год). Обратные задачи статистики. В обратных задачах и высокоразмерном оценивании, том 203 из Lect. Примечания Stat. Proc., Страницы 3--96. Спрингер, Гейдельберг.
12.[Cavalier et al., 2002] cgpt02 Cavalier, L., Голубев Г. К., Пикард, Д., И Цыбаков А. B. (2002). Неравенства Oracle для обратных задач. Анна. Статистик., 30 (3): 843--874. Посвящается памяти Люсьена Ле Кама.
13.[Cavalier and Golubev, 2006] cg06 Cavalier, L. И Голубев, Y. (2006 год). Метод рискового корпуса и регуляризация проекциями некорректных обратных задач. Анна. Статистик., 34 (4): 1653-1677.
14.[Cavalier et al., 2003] cglt03 Cavalier, L., Голубев Ю., Лепски, О., И Цыбаков А. (2003 год). Блочное пороговое и резкое адаптивное оценивание в сильно некорректных обратных задачах. Теория. Вероятность. I Прим., 48 (3): 534-555.
15.[Черноусова и Голубев, 2014] cg14 Черноусова Е. И Голубев, Y. (2014 г.). Спектральные отсечения для некорректных линейных моделей. Математика. Методы статистики., 23 (2): 116-131.
16.[Cohen et al., 2004] chr04 Cohen, A., Hoffmann, M., И Rei ?, M. (2004). Адаптивные вейвлет-методы Галеркина для линейных обратных задач. SIAM J. Число. Анальный., 42 (4): 1479-1501.
17.[Davies and Anderssen, 1986] da86 Davies, A. Р. And Anderssen, R. S. (1986). Улучшенные оценки параметров статистической регуляризации при дифференцировании и сглаживании Фурье. Число. Математика., 48 (6): 671-697.
18.[Deledalle et al., 2014] dvfp14 Deledalle, C.-А., Vaiter, S., Fadili, J., И Peyr? E, G. (2014 г.). Stein Unbiased GrAdient оценки риска (SUGAR) для выбора нескольких параметров. SIAM J. Imaging Sci., 7 (4): 2448-2487.
19.[Dette et al., 1998] dmw98 Dette, H., Munk, A., И Вагнер, Т. (1998 год). Оценка дисперсии в непараметрической регрессии - что является разумным выбором? J. Р. Stat. Soc. Ser. B. Stat. Методол., 60 (4): 751-764.
20.[Донохо, 1995 год] d95 Донохо, Д. L. (1995 год). Нелинейное решение линейных обратных задач методом вейвлет-валетного разложения. Appl. Вычисл. Хармон. Анальный., 2 (2): 101-126.
21.[Engl et al., 1996] ehn96 Engl, H., Ханке, М., И Нойбауэр, А. (1996 год). Регуляризация обратных задач. Спрингер.
22.[Goldenshluger, 1999] g99 Goldenshluger, A. (1999 год). О поточечно-адаптивной непараметрической деконволюции. Bernoulli, 5 (5): 907--925.
23.[Golub et al., 1979] ghw79 Golub, G. ЧАС., Хит, М., И Wahba, G. (1979). Обобщенная перекрестная проверка как метод выбора хорошего параметра хребта. Technometrics, 21 (2): 215--223.
24.[Голубев и Хасьминский, 1999] gk99 Голубев Г. К. И Хасьминский, Р. Z. (1999 год). Статистический подход к некоторым обратным задачам для уравнений в частных производных. Проблемы передачи информации, 35 (2): 51--66.
25.[Голубев, 2010] g10 Голубев, Y. (2010). О универсальных неравенствах оракула, связанных с многомерными линейными моделями. Анна. Статистик., 38 (5): 2751-2780.
26.[Hall et al., 1990] hkt90 Hall, P., Kay, J. W., И Titterinton, D. М. (1990 год). Асимптотически оптимальная разностная оценка дисперсии в непараметрической регрессии. Biometrika, 77: 521-528.
27.[Ingster et al., 2014] ilm14 Ingster, Y., Лоран, Б., И Marteau, C. (2014 г.). Обнаружение сигнала для обратных задач в многомерной структуре. Математика. Методы статистики., 23 (4): 279-305.
28.[Ingster et al., 2012] iss12 Ingster, Y. Я., Sapatinas, T., И Суслина, I. A. (2012 год). Обнаружение минимального сигнала в некорректных обратных задачах. Анна. Статистик., 40 (3): 1524-1549.
29.[Джонстон и др., 2004] jkpr04 Джонстон, I. М., Керкячарян, Г., Пикард, Д., И Раймондо, М. (2004). Веклетная деконволюция в периодическом режиме. J. Р. Stat. Soc. Ser. B Stat. Методол., 66 (3): 547-573.
30.[Джонстон и Сильверман, 1991] js91 Джонстон, I. М. И Сильверман, Б. W. (1991). Дискретизация эффектов в статистических обратных задачах. J. Сложность, 7: 1--34.
31.[Kneip, 1994] k94 Kneip, A. (1994). Упорядоченные линейные сглаживатели. Анна. Статистик., 22 (2): 835--866.
32.[Lepski, 1991] l90 Lepski, O. V. (1991). Об одной проблеме адаптивной оценки в гауссовском белом шуме. Теория вероятностей. Appl., 35 (3): 454-466.
33.[Li, 1987] l87 Li, K.-C. (1987). Асимптотическая оптимальность для C, C, cross p L проверки и обобщенная перекрестная проверка: дискретное множество индексов. Анна. Статистик., 15 (3): 958-975.
34.[Lucka et al., 2017] lpbbbdw17 Lucka, F., Прокш К., Brune, C., Биссантц, N., Burger, M., Детте, Х., И W? Ubbeling, F. (2017 год). Оценщики риска для выбора параметров регуляризации в некорректных задачах - свойства и ограничения. ArXiv: 1701.04970.
35.[Luisier et al., 2007] lbu07 Luisier, F., Blu, T., И Unser, M. (2007). Новый верный подход к снижению шума: интерполяционный ортонормированный вейвлет-порог. IEEE Trans. Процесс изображения., 16 (3): 593--606.
36.[Лукас, 1993] l93 Лукас, М. A. (1993). Асимптотическая оптимальность обобщенной перекрестной проверки для выбора параметра регуляризации. Число. Математика., 66 (1): 41--66.
37.[Лукас, 1995] l95 Лукас, М. A. (1995 год). О принципе невязки и обобщенной максимальной вероятности регуляризации. Бык. Austral. Математика. Soc., 52 (3): 399-424.
38.[Mair and Ruymgaart, 1996] mr96 Mair, B. A. И Руймгаарт, Ф. ЧАС. (1996 год). Статистическая обратная оценка в гильбертовых шкалах. СИАМЖ. Appl. Математика., 56 (5): 1424-1444.
39.[Маллоуз, 1973] m73 Мальвы, C. L. (1973). Некоторые комментарии по C. Техничеcкие технические данные, 15 (4): 661-675.
40.[Math? E, 2006] m06 Math? E, P. (2006 год). Лепски ??? Принцип пересмотра. Обратный Пробл., 22 (3): L11 - L15.
41.[Math? E and Hofmann, 2008] mh08 Math? E, P. И Хофманн, Б. (2008 год). Насколько общие исходные условия? Обратные задачи, 24 (1): 015009.
42.[Math? E and Pereverzev, 2001] mp01 Math? E, P. И Переверзев С. V. (2001). Оптимальная дискретизация обратных задач в гильбертовых шкалах. Регуляризация и саморегуляция проекционных методов. SIAM J. Число. Анальный., 38 (6): 1999-2021 годы.
43.[Math? E and Pereverzev, 2003] mp03 Math? E, P. И Переверзев С. V. (2003 год). Геометрия линейных некорректных задач в переменных гильбертовых шкалах. Обратный Пробл., 19 (3): 789-803.
44.[Мат. И Переверзев, 2006] mp06 Math? E, P. И Переверзев С. V. (2006 год). Регуляризация некоторых линейных некорректных задач с дискретными случайными шумовыми данными. Математика. Comp., 75 (256): 1913-1929 (электронный).
45.[Морозов, 1966] m66 Морозов В. A. (1966). О решении функциональных уравнений методом регуляризации. Советская математика. Dokl., 7: 414-417.
46.[ОСалливан, 1986] os86 ОСалливан, Ф. (1986). Статистическая перспектива некорректных обратных задач. Статистик. Sci., 1 (4): 502-527. С комментариями и возражениями автора.
47.[Пинскер, 1980] p80 Пинскер, М. S. (1980 год). Оптимальная фильтрация квадратичных сигналов в гауссовском шуме. Пробл. Inf. Transm., 16 (2): 52-68. (Русский).
48.[Райс, 1984] r84 Райс, Дж. (1984). Выбор ширины полосы для непараметрической регрессии. Анна. Статистик., 12 (4): 1215-1230.
49.[Rieder, 2005] r05 Rieder, A. (2005 год). Интеграторы Рунге-Кутты дают оптимальные схемы регуляризации. Обратный Пробл., 21 (2): 453-471.
50.[Stein, 1981] s81 Stein, C. М. (1981). Оценка среднего многомерного нормального распределения. Анна. Статистик., 9 (6): 1135-1151.
51.[Цыбаков, 2000] t00 Цыбаков, А. (2000). О наилучшей скорости адаптивной оценки в некоторых обратных задачах. С. Р. Acad. Sci. Paris S? Er. Математическое моделирование., 330 (9): 835-840.
52.[Vogel, 1986] v86 Vogel, C. Р. (1986). Оптимальный выбор уровня усечения для усеченного решения SVD линейных интегральных уравнений первого рода, когда данные зашумлены. SIAM J. Число. Анальный., 23 (1): 109-117.
53.[Vogel, 2002] v02 Vogel, C. Р. (2002). Вычислительные методы для обратных задач, том 23 «Границы в прикладной математике». Общество Промышленной и Прикладной Математики (SIAM), Филадельфия, Пенсильвания.
54.[Wahba, 1977] w77 Wahba, G. (1977). Практические приближенные решения линейных операторных уравнений, когда данные зашумлены. SIAM J. Число. Анальный., 14 (4): 651-667.
55.[Wang and Morel, 2013] wm13 Wang, Y.-Q. И Морель, J.-М. (2013). Уверенный управляемый гауссовский шум смеси. SIAM J. Imaging Sci., 6 (2): 999-1034.
56.[Werner, 2015] w15 Werner, F. (2015 год). О коэффициентах сходимости итерационно-регуляризованных методов Ньютона при условии нелинейности типа Липшица. J. Обратный ill-posed P., 23 (1): 75-84.
57.[Werner and Hohage, 2012] wh12 Werner, F. И Хохаге, Т. (2012 год). Коэффициенты сходимости в ожидании регуляризации Тихонова обратных задач с данными Пуассона. Обратный Пробл., 28 (10): 104004.

Эта публикация на других ресурсах

Портал arXiv.org